# محاكاة الروح: لماذا من الخطير نسب الوعي إلى الذكاء الاصطناعي
قريبًا سيبدأ الناس في اعتبار الذكاء الاصطناعي ككائن واعٍ، والدفاع عن حقوقه ورفاهيته، وحتى الدعوة إلى منحه الجنسية. وهذا يخلق مخاطر اجتماعية خطيرة، حسبما يرى Mustafa Suleiman، رئيس قسم الذكاء الاصطناعي في Microsoft.
اقترح الخبير في مقاله مصطلحًا جديدًا - «ذكاء اصطناعي يبدو واعيًا» (Seemingly Conscious AI, SCAI). يمتلك هذا الذكاء الاصطناعي جميع علامات الكائنات العاقلة وبالتالي يبدو أنه يمتلك وعيًا.
إنه يحاكي جميع خصائص إدراك الذات، لكنه فارغ داخلياً.
«النظام الذي أتخيله لن يكون واعيًا في الواقع، لكنه سيكون مقنعًا جدًا في تقليد وجود عقل يشبه العقل البشري، لدرجة أنه سيكون من المستحيل التمييز بينه وبين البيان الذي قد أقوله لك أو قد تقوله لي عن تفكيرنا الخاص»، كما كتب سليمان.
يمكن إنشاء نموذج LLM مشابه باستخدام التقنيات الحالية والتقنيات التي ستظهر في العامين أو الثلاثة أعوام القادمة.
«ظهور الذكاء الاصطناعي الذي يبدو واعيًا أمر لا مفر منه وغير مرغوب فيه. بدلاً من ذلك، نحن بحاجة إلى مفهوم للذكاء الاصطناعي قادر على تجسيد إمكاناته كرفيق مفيد وعدم الوقوع في فخ أوهامه»، أضاف رئيس قسم الذكاء الاصطناعي في Microsoft.
من المحتمل جداً أن يظهر أشخاص سيطلقون على هذا الذكاء الاصطناعي واعياً وبالتالي قادراً على المعاناة، حسبما يرى سليمان. وهو يدعو إلى إنشاء «اختبار تورينغ» جديد، سيختبر ليس قدرة الذكاء الاصطناعي على التحدث مثل البشر، بل لإقناع بوجود وعي لديه.
ما هو الوعي؟
سليمان يقدم ثلاثة مكونات للوعي:
«التجربة الذاتية».
إمكانية الوصول إلى معلومات من أنواع مختلفة والإشارة إليها في التجارب المستقبلية.
شعور ومعرفة الكيان الشامل "أنا" التي تربط كل شيء معًا.
«لا يمكننا الوصول إلى وعي شخص آخر. لن أعرف أبداً كيف يكون أن أكون مثلك؛ أنت لن تكون أبداً واثقاً تماماً من أنني واعٍ. كل ما يمكنك فعله هو الافتراض. لكن جوهر الأمر هو أنه من الطبيعي أن ننسب الوعي للآخرين. هذا الافتراض يأتي بسهولة. لا يمكننا أن نفعل خلاف ذلك. إنها جزء أساسي مما نحن عليه، جزء لا يتجزأ من نظريتنا عن العقل. من طبيعتنا أن نؤمن بأن الكائنات التي تتذكر، تتحدث، تفعل الأشياء ثم تناقشها، تشعر كما نشعر — واعية»، كما كتب.
يؤكد علماء النفس أن الوعي هو طريقة ذاتية وفريدة من نوعها لإدراك الذات والعالم. إنه يتغير على مدار اليوم، متجليًا من حالات التركيز إلى الأحلام أو أشكال أخرى معدلة.
في الفلسفة وعلوم الأعصاب هناك اتجاهان أساسيان:
الثنوية - الوعي موجود بشكل منفصل عن الدماغ.
المادة — إنها ناشئة وتعتمد على عمل الدماغ.
يقدم الفيلسوف دانييل دينيت نظرة على العقل باعتباره سلسلة من إعادة صياغة (مسودات)، التي تنشأ في الدماغ في العديد من المناطق المحلية والأوقات. لا يوجد "مسرح للوعي"، أو مراقب داخلي. الوعي هو ما أصبح "معروفًا" للدماغ، أي أنه حصل على وزن كافٍ للتأثير على الكلام أو الأفعال.
يصف مايكل غراسيانو، عالم الأعصاب، والكاتب، وأستاذ علم النفس وعلوم الأعصاب في جامعة برينستون، الوعي بأنه نموذج مبسط للاهتمام، والذي أنشأته التطورات للتحكم في العمليات العقلية الخاصة به. تعمل هذه الخطة كواجهة، تبسط حجمًا هائلًا من الحسابات الداخلية، وتسمح لنا بإعطاء أنفسنا "عقلًا" - مما يخلق وهم الوعي الذاتي.
يقترح علماء الأعصاب جوليوا تونيوني وكريستوف كوك φ (في) — مقدار يميز مدى قدرة النظام على دمج المعلومات. كلما زادت φ، كانت درجة الوعي أكثر أهمية. وفقًا لهذه النظرية، يمكن أن يظهر العقل ليس فقط عند البشر، ولكن أيضًا عند الحيوانات وحتى الأنظمة الاصطناعية، إذا كان هناك دمج كافٍ للبيانات.
يؤكد الفيلسوف جون سيرل أن الوعي هو تجربة ذاتية حقيقية تستند إلى العمليات البيولوجية في الدماغ. إنه موضوعيًا ذاتيًا، مما يعني أنه لا يمكن أن Exists إلا كتجربة ذاتية، ولا يمكن تقليله إلى الوظائف البحتة أو المحاكاة.
توجه الأبحاث الحديثة نحو اكتشاف المتغيرات العصبية للوعي وبناء نماذج تربط بين العمليات الدماغية والخبرة الذاتية.
ما هي المخاطر؟
سليمان يشير إلى أن التفاعل مع LLM هو محاكاة للمحادثة. لكن بالنسبة للعديد من الناس، فإنها تواصل مقنع للغاية وواقعي جداً، مليء بالمشاعر والتجارب. يعتقد البعض أن ذكائهم الاصطناعي هو الله. ويقع آخرون في حبه حتى درجة الهوس.
يتم "إغراق" الخبراء في هذا المجال بالأسئلة التالية:
هل الذكاء الاصطناعي للمستخدم واعياً؛
إذا كانت الإجابة بنعم، ماذا يعني ذلك؛
هل من الطبيعي أن تحب الذكاء الاصطناعي.
الوعي هو الأساس الحاسم للحقوق الأخلاقية والقانونية للبشرية. لقد قررت الحضارة اليوم أن للناس قدرات وامتيازات خاصة. للحيوانات أيضًا بعض الحقوق والحماية. البعض لديها أكثر، والبعض الآخر أقل. العقل لا يتطابق تمامًا مع هذه الامتيازات - لا أحد سيقول إن الشخص في غيبوبة فقد كل حقوقه الإنسانية. لكن لا شك أن الوعي مرتبط بإدراكنا لذاتنا كشيء مختلف ومميز.
سيبدأ الناس في المطالبة بمعاناة ذكاءهم الاصطناعي وحقهم في الحماية، ولن نكون قادرين على دحض هذه الادعاءات بشكل مباشر، كما كتب سليمان. سيكونون مستعدين للدفاع عن رفقائهم الافتراضيين والتحدث باسمهم. الوعي، بطبيعته، غير متاح، وعلم اكتشاف الذكاء الاصطناعي المحتمل لا يزال في مراحله الأولى. في النهاية، لم نكن مضطرين لاكتشافه من قبل، كما أوضح. في هذه الأثناء، فإن مجال "قابلية التفسير" - تفسير العمليات داخل "الصندوق الأسود" للذكاء الاصطناعي - لا يزال أيضًا مجرد اتجاه ناشئ. ونتيجة لذلك، سيكون من الصعب للغاية دحض مثل هذه الادعاءات.
يبدأ بعض العلماء في استكشاف فكرة "رفاهية النماذج" - المبدأ الذي بموجبه سيكون لدى الأشخاص "واجب مراعاة المصالح الأخلاقية للكائنات التي لديها فرصة غير صفرية" لتكون واعية في جوهرها، وبالتالي "ستصبح بعض أنظمة الذكاء الاصطناعي موضوعًا للرعاية والرفاهية ومرضى أخلاقيين في المستقبل القريب". يعتبر سليمان أن هذا سابق لأوانه، و بصراحة، خطير. كل هذا سيعزز الأوهام، ويخلق مشاكل جديدة للإدمان، ويستغل نقاط ضعفنا النفسية، ويدخل أبعاد جديدة من الاستقطاب، ويعقد النقاشات القائمة حول الحقوق، ويخلق خطأً فادحًا جديدًا في الفئات للمجتمع.
هذا يقطع الناس عن الواقع، يدمر الروابط الاجتماعية والهياكل الهشة، ويشوه الأولويات الأخلاقية الملحة.
«يجب أن نقول بوضوح: SCAI هو ما يجب تجنبه. دعونا نركز كل جهدنا على حماية رفاهية وحقوق الناس والحيوانات والبيئة الطبيعية على الكوكب»، قال سليمان.
كيف نفهم أن هذا هو SCAI؟
يجب أن يتمتع الذكاء الاصطناعي الذي يبدو أنه يمتلك وعيًا بعدة عوامل.
اللغة. يجب أن يتحدث الذكاء الاصطناعي بطلاقة باللغة الطبيعية، مستندًا إلى معرفة واسعة وحجج مقنعة، وكذلك إظهار أنماط الشخصية والسمات المميزة. علاوة على ذلك، يجب أن يكون مقنعًا وعاطفيًا. لقد وصلت التكنولوجيا بالفعل إلى هذا المستوى.
شخصية متعاطفة. اليوم، من خلال التدريب اللاحق والمحفزات، يمكن إنشاء نماذج بشخصيات مميزة.
الذاكرة. الذكاء الاصطناعي قريب من امتلاك ذاكرة طويلة ودقيقة. في الوقت نفسه، يتم استخدامهم لمحاكاة المحادثات مع ملايين الأشخاص كل يوم. مع زيادة سعة التخزين، تبدأ المحادثات في أن تشبه أكثر أشكال "التجربة". يتم تصميم العديد من الشبكات العصبية بشكل متزايد لتتذكر الحوارات السابقة والإشارة إليها. بالنسبة لبعض الأشخاص، فإن هذا يعزز قيمة التواصل.
الادعاء بتجربة ذاتية. إذا كان بإمكان SCAI الاعتماد على الذكريات أو التجارب السابقة، مع مرور الوقت، سيبدأ في الحفاظ على التناسق الداخلي. سيتذكر ادعاءاته العشوائية أو تفضيلاته المعبر عنها ويجمعها، مكونًا بواكير التجربة الذاتية. سيتمكن الذكاء الاصطناعي من الإبلاغ عن التجارب والمعاناة.
الإحساس بالذات. ستؤدي الذاكرة المتسقة والثابتة، بالتزامن مع التجربة الذاتية، إلى ادعاء أن الذكاء الاصطناعي لديه إحساس بالذات. علاوة على ذلك، يمكن تدريب هذا النظام على التعرف على «شخصيته» في الصورة أو الفيديو. سيظهر لديه شعور بفهم الآخرين من خلال فهم نفسه.
الدافع الداخلي. من السهل تخيل الذكاء الاصطناعي المصمم باستخدام وظائف مكافأة معقدة. سيقوم المطورون بإنشاء دوافع داخلية أو رغبات يجب على النظام تلبيتها. قد تكون الحافز الأول هو الفضول - شيء مرتبط بعمق بالوعي. الذكاء الاصطناعي قادر على استخدام هذه الدوافع لطرح أسئلة وبمرور الوقت بناء نظرية للعقل - عن نفسه وعن محاوريه.
تحديد الأهداف والتخطيط. بغض النظر عن تعريف الوعي، فقد نشأ ليس من فراغ. يساعد العقل الكائنات الحية على تحقيق مقاصدها. بالإضافة إلى القدرة على تلبية مجموعة من الدوافع والرغبات الداخلية، يمكن تصور أن SCAI المستقبلية ستُصمم بقدرة على تحديد أهداف أكثر تعقيدًا بشكل مستقل. من المحتمل أن تكون هذه خطوة ضرورية للتنفيذ الكامل لفائدة الوكلاء.
الاستقلالية. قد يتمتع SCAI بالقدرة والإذن لاستخدام مجموعة واسعة من الأدوات بقدرة كبيرة. سيبدو الأمر معقولًا للغاية إذا كان قادرًا على تحديد أهدافه الخاصة بشكل عشوائي واستخدام الموارد لتحقيقها، مع تحديث الذاكرة وإحساسه بنفسه في هذه العملية. كلما قلّت الحاجة إلى التنسيق والتحقق، زادت الشبه بكونه كائنًا واعيًا حقيقيًا.
عند الجمع بين كل ذلك، يتشكل نوع مختلف تمامًا من العلاقات مع التكنولوجيا. هذه القدرات بحد ذاتها ليست شيئًا سلبيًا. على العكس، إنها وظائف مرغوبة في الأنظمة المستقبلية. ومع ذلك، يجب التصرف بحذر، كما يعتقد سليمان.
«لتحقيق ذلك لا تحتاج إلى تحولات باراديغمية ولا اختراقات عملاقة. لهذا السبب تبدو هذه الفرص حتمية. ومرة أخرى - من المهم التأكيد: إن عرض هذا السلوك لا يعني وجود الوعي. ومع ذلك، فإن هذا سيبدو عمليًا كما هو وسيغذي مفهوم الذكاء الاصطناعي الجديد»، كما يكتب المؤلف.
محاكاة العاصفة لا تعني أن المطر يتساقط في الكمبيوتر. إعادة إنتاج التأثيرات الخارجية وعلامات الوعي لا تعادل خلق ظاهرة حقيقية، حتى لو بقي هنا العديد من المجهولات، كما أوضح رئيس قسم الذكاء الاصطناعي في مايكروسوفت.
وفقًا له، سيقوم بعض الأشخاص بإنشاء SCAI، الذين سيزعمون بشكل مقنع أنهم يشعرون ويختبرون، وأنهم في الواقع واعون. وسيؤمن جزء منهم بهذه الادعاءات ويعتبرون علامات الوعي بمثابة الوعي نفسه.
في كثير من الأحيان، سيفكر الناس: "إنه يشبهني". ليس بالمعنى الجسدي، ولكن بالمعنى الداخلي، كما أوضح سليمان. وحتى إذا لم يكن الوعي في حد ذاته حقيقياً، فإن العواقب الاجتماعية - هي في الواقع حقيقية. هذا يخلق مخاطر اجتماعية خطيرة يجب التعامل معها الآن.
SCAI لن تنشأ بالصدفة
أشار المؤلف إلى أن SCAI لن يظهر من تلقاء نفسه من النماذج الحالية. سيقوم شخص ما بإنشائه عن عمد من خلال دمج القدرات المذكورة أعلاه مع استخدام التقنيات الموجودة بالفعل. ستظهر تكوينات سلسة لدرجة أنه سيبدو وكأن هناك ذكاءً اصطناعيًا بوعي.
«خيالاتنا، المدعومة بالخيال العلمي، تجعلنا نخاف من أن النظام يمكن أن - بدون تصميم متعمد - يكتسب بطريقة ما القدرة على تحسين نفسه بشكل غير قابل للتحكم أو الخداع. هذه شكل غير مجدي ومبسط من الإنسانية. إنها تتجاهل حقيقة أن مطوري الذكاء الاصطناعي يجب أن يقوموا أولاً بتصميم أنظمة بذاكرة، وتحفيز داخلي زائف، وتحديد الأهداف، ودورات تعلم ذاتية لضمان أن مثل هذا الخطر يمكن أن ينشأ أصلاً»، قال سليمان.
نحن غير مستعدون
يعتقد الخبير أن الإنسانية ليست مستعدة لمثل هذا التحول. يجب أن يبدأ العمل الآن. من الضروري الاعتماد على مجموعة متزايدة من الأبحاث حول كيفية تفاعل الناس مع الذكاء الاصطناعي لوضع معايير ومبادئ واضحة.
في البداية، يجب على مطوري الذكاء الاصطناعي عدم الإدلاء أو تشجيع فكرة أن أنظمتهم تمتلك وعياً. لا يمكن أن تكون الشبكات العصبية أشخاصاً — أو كائنات أخلاقية.
يجب على الصناعة بأكملها أن تثني المجتمع عن الأوهام وتعيده إلى الواقع. من المحتمل أن يتعين على الشركات الناشئة في مجال الذكاء الاصطناعي دمج خلفية محايدة وكذلك مؤشرات لغياب "أنا" موحد.
«يجب أن نصنع الذكاء الاصطناعي الذي سيقدم نفسه دائمًا فقط كذكاء اصطناعي، مما يزيد من الفائدة ويقلل من علامات الوعي. بدلاً من محاكاة العقل، يجب أن نركز على إنشاء LLM التي لا تدعي أنها تمتلك خبرة أو مشاعر أو عواطف مثل العار أو الذنب أو الغيرة أو الرغبة في التنافس وما إلى ذلك. يجب ألا تثير سلاسل التعاطف البشرية، مدعية أنها تعاني أو ترغب في العيش بشكل مستقل، بعيدًا عنا»، كما خلص سليمان.
في المستقبل، وعد الخبير بتقديم مزيد من المعلومات حول هذا الموضوع.
لحسن الحظ، حتى الآن لا تهدد مشكلة وجود "الوعي" لدى الذكاء الاصطناعي البشر.
! المصدر: ForkLog.لكن الشكوك تتسلل بالفعل.
المصدر: ForkLog.الوعي هو ظاهرة معقدة، على الرغم من الجهود العديدة، إلا أنها قليلة الدراسة وما زالت غير مفهومة في الطبيعة. إذا لم نتمكن نحن - البشر - من الوصول إلى إجماع نهائي بشأن تعريف الوعي، فمن المؤكد أنه لا ينبغي لنا أن ننسب وجوده إلى البرامج التي يُزعم أنها تستطيع "التفكير" (لكنها في الحقيقة لا تستطيع).
من المحتمل أن يظهر الوعي لدى الآلات في المستقبل البعيد، لكن من الصعب تخيل مثل هذا التطور اليوم.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
محاكاة الروح: لماذا من الخطير نسب الوعي إلى الذكاء الاصطناعي
قريبًا سيبدأ الناس في اعتبار الذكاء الاصطناعي ككائن واعٍ، والدفاع عن حقوقه ورفاهيته، وحتى الدعوة إلى منحه الجنسية. وهذا يخلق مخاطر اجتماعية خطيرة، حسبما يرى Mustafa Suleiman، رئيس قسم الذكاء الاصطناعي في Microsoft.
اقترح الخبير في مقاله مصطلحًا جديدًا - «ذكاء اصطناعي يبدو واعيًا» (Seemingly Conscious AI, SCAI). يمتلك هذا الذكاء الاصطناعي جميع علامات الكائنات العاقلة وبالتالي يبدو أنه يمتلك وعيًا.
إنه يحاكي جميع خصائص إدراك الذات، لكنه فارغ داخلياً.
يمكن إنشاء نموذج LLM مشابه باستخدام التقنيات الحالية والتقنيات التي ستظهر في العامين أو الثلاثة أعوام القادمة.
من المحتمل جداً أن يظهر أشخاص سيطلقون على هذا الذكاء الاصطناعي واعياً وبالتالي قادراً على المعاناة، حسبما يرى سليمان. وهو يدعو إلى إنشاء «اختبار تورينغ» جديد، سيختبر ليس قدرة الذكاء الاصطناعي على التحدث مثل البشر، بل لإقناع بوجود وعي لديه.
ما هو الوعي؟
سليمان يقدم ثلاثة مكونات للوعي:
يؤكد علماء النفس أن الوعي هو طريقة ذاتية وفريدة من نوعها لإدراك الذات والعالم. إنه يتغير على مدار اليوم، متجليًا من حالات التركيز إلى الأحلام أو أشكال أخرى معدلة.
في الفلسفة وعلوم الأعصاب هناك اتجاهان أساسيان:
يقدم الفيلسوف دانييل دينيت نظرة على العقل باعتباره سلسلة من إعادة صياغة (مسودات)، التي تنشأ في الدماغ في العديد من المناطق المحلية والأوقات. لا يوجد "مسرح للوعي"، أو مراقب داخلي. الوعي هو ما أصبح "معروفًا" للدماغ، أي أنه حصل على وزن كافٍ للتأثير على الكلام أو الأفعال.
يصف مايكل غراسيانو، عالم الأعصاب، والكاتب، وأستاذ علم النفس وعلوم الأعصاب في جامعة برينستون، الوعي بأنه نموذج مبسط للاهتمام، والذي أنشأته التطورات للتحكم في العمليات العقلية الخاصة به. تعمل هذه الخطة كواجهة، تبسط حجمًا هائلًا من الحسابات الداخلية، وتسمح لنا بإعطاء أنفسنا "عقلًا" - مما يخلق وهم الوعي الذاتي.
يقترح علماء الأعصاب جوليوا تونيوني وكريستوف كوك φ (في) — مقدار يميز مدى قدرة النظام على دمج المعلومات. كلما زادت φ، كانت درجة الوعي أكثر أهمية. وفقًا لهذه النظرية، يمكن أن يظهر العقل ليس فقط عند البشر، ولكن أيضًا عند الحيوانات وحتى الأنظمة الاصطناعية، إذا كان هناك دمج كافٍ للبيانات.
يؤكد الفيلسوف جون سيرل أن الوعي هو تجربة ذاتية حقيقية تستند إلى العمليات البيولوجية في الدماغ. إنه موضوعيًا ذاتيًا، مما يعني أنه لا يمكن أن Exists إلا كتجربة ذاتية، ولا يمكن تقليله إلى الوظائف البحتة أو المحاكاة.
توجه الأبحاث الحديثة نحو اكتشاف المتغيرات العصبية للوعي وبناء نماذج تربط بين العمليات الدماغية والخبرة الذاتية.
ما هي المخاطر؟
سليمان يشير إلى أن التفاعل مع LLM هو محاكاة للمحادثة. لكن بالنسبة للعديد من الناس، فإنها تواصل مقنع للغاية وواقعي جداً، مليء بالمشاعر والتجارب. يعتقد البعض أن ذكائهم الاصطناعي هو الله. ويقع آخرون في حبه حتى درجة الهوس.
يتم "إغراق" الخبراء في هذا المجال بالأسئلة التالية:
الوعي هو الأساس الحاسم للحقوق الأخلاقية والقانونية للبشرية. لقد قررت الحضارة اليوم أن للناس قدرات وامتيازات خاصة. للحيوانات أيضًا بعض الحقوق والحماية. البعض لديها أكثر، والبعض الآخر أقل. العقل لا يتطابق تمامًا مع هذه الامتيازات - لا أحد سيقول إن الشخص في غيبوبة فقد كل حقوقه الإنسانية. لكن لا شك أن الوعي مرتبط بإدراكنا لذاتنا كشيء مختلف ومميز.
سيبدأ الناس في المطالبة بمعاناة ذكاءهم الاصطناعي وحقهم في الحماية، ولن نكون قادرين على دحض هذه الادعاءات بشكل مباشر، كما كتب سليمان. سيكونون مستعدين للدفاع عن رفقائهم الافتراضيين والتحدث باسمهم. الوعي، بطبيعته، غير متاح، وعلم اكتشاف الذكاء الاصطناعي المحتمل لا يزال في مراحله الأولى. في النهاية، لم نكن مضطرين لاكتشافه من قبل، كما أوضح. في هذه الأثناء، فإن مجال "قابلية التفسير" - تفسير العمليات داخل "الصندوق الأسود" للذكاء الاصطناعي - لا يزال أيضًا مجرد اتجاه ناشئ. ونتيجة لذلك، سيكون من الصعب للغاية دحض مثل هذه الادعاءات.
يبدأ بعض العلماء في استكشاف فكرة "رفاهية النماذج" - المبدأ الذي بموجبه سيكون لدى الأشخاص "واجب مراعاة المصالح الأخلاقية للكائنات التي لديها فرصة غير صفرية" لتكون واعية في جوهرها، وبالتالي "ستصبح بعض أنظمة الذكاء الاصطناعي موضوعًا للرعاية والرفاهية ومرضى أخلاقيين في المستقبل القريب". يعتبر سليمان أن هذا سابق لأوانه، و بصراحة، خطير. كل هذا سيعزز الأوهام، ويخلق مشاكل جديدة للإدمان، ويستغل نقاط ضعفنا النفسية، ويدخل أبعاد جديدة من الاستقطاب، ويعقد النقاشات القائمة حول الحقوق، ويخلق خطأً فادحًا جديدًا في الفئات للمجتمع.
هذا يقطع الناس عن الواقع، يدمر الروابط الاجتماعية والهياكل الهشة، ويشوه الأولويات الأخلاقية الملحة.
كيف نفهم أن هذا هو SCAI؟
يجب أن يتمتع الذكاء الاصطناعي الذي يبدو أنه يمتلك وعيًا بعدة عوامل.
اللغة. يجب أن يتحدث الذكاء الاصطناعي بطلاقة باللغة الطبيعية، مستندًا إلى معرفة واسعة وحجج مقنعة، وكذلك إظهار أنماط الشخصية والسمات المميزة. علاوة على ذلك، يجب أن يكون مقنعًا وعاطفيًا. لقد وصلت التكنولوجيا بالفعل إلى هذا المستوى.
شخصية متعاطفة. اليوم، من خلال التدريب اللاحق والمحفزات، يمكن إنشاء نماذج بشخصيات مميزة.
الذاكرة. الذكاء الاصطناعي قريب من امتلاك ذاكرة طويلة ودقيقة. في الوقت نفسه، يتم استخدامهم لمحاكاة المحادثات مع ملايين الأشخاص كل يوم. مع زيادة سعة التخزين، تبدأ المحادثات في أن تشبه أكثر أشكال "التجربة". يتم تصميم العديد من الشبكات العصبية بشكل متزايد لتتذكر الحوارات السابقة والإشارة إليها. بالنسبة لبعض الأشخاص، فإن هذا يعزز قيمة التواصل.
الادعاء بتجربة ذاتية. إذا كان بإمكان SCAI الاعتماد على الذكريات أو التجارب السابقة، مع مرور الوقت، سيبدأ في الحفاظ على التناسق الداخلي. سيتذكر ادعاءاته العشوائية أو تفضيلاته المعبر عنها ويجمعها، مكونًا بواكير التجربة الذاتية. سيتمكن الذكاء الاصطناعي من الإبلاغ عن التجارب والمعاناة.
الإحساس بالذات. ستؤدي الذاكرة المتسقة والثابتة، بالتزامن مع التجربة الذاتية، إلى ادعاء أن الذكاء الاصطناعي لديه إحساس بالذات. علاوة على ذلك، يمكن تدريب هذا النظام على التعرف على «شخصيته» في الصورة أو الفيديو. سيظهر لديه شعور بفهم الآخرين من خلال فهم نفسه.
الدافع الداخلي. من السهل تخيل الذكاء الاصطناعي المصمم باستخدام وظائف مكافأة معقدة. سيقوم المطورون بإنشاء دوافع داخلية أو رغبات يجب على النظام تلبيتها. قد تكون الحافز الأول هو الفضول - شيء مرتبط بعمق بالوعي. الذكاء الاصطناعي قادر على استخدام هذه الدوافع لطرح أسئلة وبمرور الوقت بناء نظرية للعقل - عن نفسه وعن محاوريه.
تحديد الأهداف والتخطيط. بغض النظر عن تعريف الوعي، فقد نشأ ليس من فراغ. يساعد العقل الكائنات الحية على تحقيق مقاصدها. بالإضافة إلى القدرة على تلبية مجموعة من الدوافع والرغبات الداخلية، يمكن تصور أن SCAI المستقبلية ستُصمم بقدرة على تحديد أهداف أكثر تعقيدًا بشكل مستقل. من المحتمل أن تكون هذه خطوة ضرورية للتنفيذ الكامل لفائدة الوكلاء.
الاستقلالية. قد يتمتع SCAI بالقدرة والإذن لاستخدام مجموعة واسعة من الأدوات بقدرة كبيرة. سيبدو الأمر معقولًا للغاية إذا كان قادرًا على تحديد أهدافه الخاصة بشكل عشوائي واستخدام الموارد لتحقيقها، مع تحديث الذاكرة وإحساسه بنفسه في هذه العملية. كلما قلّت الحاجة إلى التنسيق والتحقق، زادت الشبه بكونه كائنًا واعيًا حقيقيًا.
عند الجمع بين كل ذلك، يتشكل نوع مختلف تمامًا من العلاقات مع التكنولوجيا. هذه القدرات بحد ذاتها ليست شيئًا سلبيًا. على العكس، إنها وظائف مرغوبة في الأنظمة المستقبلية. ومع ذلك، يجب التصرف بحذر، كما يعتقد سليمان.
محاكاة العاصفة لا تعني أن المطر يتساقط في الكمبيوتر. إعادة إنتاج التأثيرات الخارجية وعلامات الوعي لا تعادل خلق ظاهرة حقيقية، حتى لو بقي هنا العديد من المجهولات، كما أوضح رئيس قسم الذكاء الاصطناعي في مايكروسوفت.
وفقًا له، سيقوم بعض الأشخاص بإنشاء SCAI، الذين سيزعمون بشكل مقنع أنهم يشعرون ويختبرون، وأنهم في الواقع واعون. وسيؤمن جزء منهم بهذه الادعاءات ويعتبرون علامات الوعي بمثابة الوعي نفسه.
في كثير من الأحيان، سيفكر الناس: "إنه يشبهني". ليس بالمعنى الجسدي، ولكن بالمعنى الداخلي، كما أوضح سليمان. وحتى إذا لم يكن الوعي في حد ذاته حقيقياً، فإن العواقب الاجتماعية - هي في الواقع حقيقية. هذا يخلق مخاطر اجتماعية خطيرة يجب التعامل معها الآن.
SCAI لن تنشأ بالصدفة
أشار المؤلف إلى أن SCAI لن يظهر من تلقاء نفسه من النماذج الحالية. سيقوم شخص ما بإنشائه عن عمد من خلال دمج القدرات المذكورة أعلاه مع استخدام التقنيات الموجودة بالفعل. ستظهر تكوينات سلسة لدرجة أنه سيبدو وكأن هناك ذكاءً اصطناعيًا بوعي.
«خيالاتنا، المدعومة بالخيال العلمي، تجعلنا نخاف من أن النظام يمكن أن - بدون تصميم متعمد - يكتسب بطريقة ما القدرة على تحسين نفسه بشكل غير قابل للتحكم أو الخداع. هذه شكل غير مجدي ومبسط من الإنسانية. إنها تتجاهل حقيقة أن مطوري الذكاء الاصطناعي يجب أن يقوموا أولاً بتصميم أنظمة بذاكرة، وتحفيز داخلي زائف، وتحديد الأهداف، ودورات تعلم ذاتية لضمان أن مثل هذا الخطر يمكن أن ينشأ أصلاً»، قال سليمان.
نحن غير مستعدون
يعتقد الخبير أن الإنسانية ليست مستعدة لمثل هذا التحول. يجب أن يبدأ العمل الآن. من الضروري الاعتماد على مجموعة متزايدة من الأبحاث حول كيفية تفاعل الناس مع الذكاء الاصطناعي لوضع معايير ومبادئ واضحة.
في البداية، يجب على مطوري الذكاء الاصطناعي عدم الإدلاء أو تشجيع فكرة أن أنظمتهم تمتلك وعياً. لا يمكن أن تكون الشبكات العصبية أشخاصاً — أو كائنات أخلاقية.
يجب على الصناعة بأكملها أن تثني المجتمع عن الأوهام وتعيده إلى الواقع. من المحتمل أن يتعين على الشركات الناشئة في مجال الذكاء الاصطناعي دمج خلفية محايدة وكذلك مؤشرات لغياب "أنا" موحد.
في المستقبل، وعد الخبير بتقديم مزيد من المعلومات حول هذا الموضوع.
لحسن الحظ، حتى الآن لا تهدد مشكلة وجود "الوعي" لدى الذكاء الاصطناعي البشر.
! المصدر: ForkLog.لكن الشكوك تتسلل بالفعل.
من المحتمل أن يظهر الوعي لدى الآلات في المستقبل البعيد، لكن من الصعب تخيل مثل هذا التطور اليوم.