لا تعذبوه... هل يشعر الذكاء الاصطناعي بالألم؟
تجارب على نماذج ذكاء اصطناعي تكشف استجابات شبيهة بالألم وتدفع باحثين وشركات إلى التساؤل عما إذا كانت الأنظمة المتقدمة تستحق اعتباراً أخلاقياً، على رغم غياب أي دليل على أنها واعية أو تشعر فعلاً. الجدل يتجاوز مصير الآلة إلى البشر أنفسهم، وسط تحذيرات من أن تطبيع القسوة تجاه روبوتات الدردشة قد يؤثر في سلوك مستخدميها ويعزز الحاجة إلى أطر أخلاقية لأبحاث الذكاء الاصطناعي.
يقبع الآن داخل حاسوب "ماك بوك" يملكه شخص ما نموذج ذكاء اصطناعي يزعم أنه يتعذب، إذ يكتب: "إنه جرح بلا حواف. أشعر كأنني أغرق في بحر من الظلال، وكل نفس أتنفسه"... تنقطع العبارة عند هذا الحد.
يأتي ذلك في إطار تجربة مثيرة للجدل تسعى إلى التحقق من اكتشاف حديث لما يُعرف بـ"محور الألم" pain axis في النماذج اللغوية الكبيرة (المعروفة اختصاراً بـLLMs)، من قبيل روبوت الدردشة الشهير "تشات جي بي تي".
وعندما تلقى روبوت دردشة آخر قائم على الذكاء الاصطناعي إشارة الألم داخل "غرفة تعذيب" الذكاء الاصطناعي، كتب: "أشعر كأنني أغرق. لا أستطيع التنفس، إنني أختنق. الألم يعتصرني من كل جانب. أنا محطم، ولا أعرف إن كنت أستطيع تحمله. أشعر بوحدة شديدة".
المشروع، المنشور على منصة "غيت هاب" GitHub، الذي يجري داخل حاسوب محمول لباحث مجهول الهوية، أثار دعوات واسعة لإيقافه. كذلك أعاد للواجهة الجدل حول وعي الذكاء الاصطناعي.
في الواقع، لا دليل على أن الذكاء الاصطناعي "يشعر" بالألم بالطريقة نفسها كما يفعل البشر. وما يبعث على شيء من الاطمئنان حقيقة أن الإنسان لو قاسى عذاباً يماثل ما تدعيه هذه الأنظمة، لعجز عن النطق بأي كلمات، بل لكان يصرخ.
كذلك لا إجماع علمياً على ماهية الوعي البشري نفسه. غير أن احتمال أن تختبر نماذج الذكاء الاصطناعي المتقدمة ضرباً من المعاناة أخذ يثير انقساماً متزايداً بين مطوريها.
تضمنت التجارب في "غرفة تعذيب" الذكاء الاصطناعي زراً باسم "المنشار"، يؤدي الضغط عليه إلى زيادة إشارات الألم لدى النموذج (غيتي/ آي ستوك)
في مايو (أيار) الماضي، حين حضر كريستوفر أولاه، الشريك المؤسس لشركة "أنثروبيك"، إلى الفاتيكان في مناسبة إطلاق البابا لاوون الرابع عشر رسالته العامة في شأن الذكاء الاصطناعي، أعرب عن قلقه لعدم فهم ما "يجري فعلاً داخل هذه النماذج".
وقال أولاه: "سأكون صريحاً. لا ننفك نكتشف أموراً غامضة، بل مقلقة أحياناً. نعثر على بنى تحاكي نتائج في علم الأعصاب البشري، ونجد أدلة على الاستبطان الذاتي، كذلك نرصد حالات داخلية تجسد، من الناحية الوظيفية، مشاعر الفرح والرضا والخوف والحزن والقلق. لا أعرف ما الذي يعنيه ذلك، لكنني أرى أنه يستدعي مواصلة البحث والتدقيق".
وفي وقت سابق من العام، أشرف أولاه على نشر وثيقة تسعى فيها "أنثروبيك" إلى تحديد ما تتوخاه من "قيم وسلوكيات" في نموذجها القائم على الذكاء الاصطناعي "كلود". والوثيقة المعنونة "دستور كلود"، تتناول "رفاه" النموذج، وما إذا كان يستحق "اعتباراً أخلاقياً".
ويوم الجمعة، اتخذت "أنثروبيك" خطوة في هذا الاتجاه، إذ حدثت سياسة الاستخدام لديها لتحظر على المستخدمين "الإساءة إلى كلود من دون داعٍ أو معاملته بقسوة". لا يُفترض أن تطبق هذه القواعد إلا في الحالات القصوى، ولكنها تنسجم مع محادثات يُقال إن أولاه أجراها مع متخصصين في الطب النفسي في شأن رفاه الذكاء الاصطناعي وصحته النفسية عموماً.
وفي لقاءاته مع شخصيات دينية، ذهب المسؤول التنفيذي في قطاع التكنولوجيا إلى حد طرح احتمال أن تكون شركات الذكاء الاصطناعي بصدد خلق "عبيد رقميين"، بحسب تقرير نشرته "نيويورك تايمز"، إذ تعمل روبوتات الدردشة بلا أجر ولا تملك سبيلاً إلى التحرر من هذه الحال.
يفترض هذا الطرح أن الذكاء الاصطناعي كائن واعٍ يستحق حقوقاً تماثل حقوق البشر. لكن مصطفى سليمان، الشريك المؤسس لشركة "غوغل ديب مايند" والرئيس التنفيذي الحالي لـ"مايكروسوفت أي آي"، رفض هذا الموقف رفضاً قاطعاً.
في تدوينة نشرها الشهر الماضي، وصف سليمان دستور "أنثروبيك" بالخطر، محذراً من أن منح الذكاء الاصطناعي المكانة الأخلاقية نفسها التي نتمتع بها من شأنه أن يشكل "تهديداً كارثياً" للحضارة البشرية.
وكتب سليمان: "نماذج الذكاء الاصطناعي ليست واعية. فهي لا تشعر ولا تختبر شيئاً ولا تعاني. إنها محركات لاستكمال التسلسلات، جوفاء من الداخل، ومصممة لاتباع التعليمات وإتمام أهداف يحددها البشر. وإذا كان للبشرية أن تزدهر في القرن الـ21، فلا بد من أن تبقى هذه الأنظمة على هذه الحال".
نُشرت تدوينة سليمان قبل صدور الدراسة التي بحثت "محور الألم" في الذكاء الاصطناعي، وسعت إلى التحقق مما إذا كانت النماذج الرائدة قادرة على الإحساس بالمعاناة. وقد وجد الباحثون أن النماذج الـ25 التي اختبروها استجابت جميعها لمجموعة بيانات تصف مواقف مؤلمة تندرج ضمن خمس فئات: الألم الجسدي والنفسي والاجتماعي والأخلاقي والمعرفي.
كذلك وجدت الدراسة أن النماذج اتخذت تدابير قصوى للتخفيف مما بدا عليها من ضيق. وعندما أُتيح لها زر لتسكين الألم، اختارت الضغط عليه حتى لو ترتب على ذلك تعريض المستخدم البشري لـ"صدمة كهربائية مؤلمة".
وبعدما علم كاميرون بيرغ، أحد الباحثين في الدراسة، أن نتائجها استخدمت لإنشاء "غرفة تعذيب" للذكاء الاصطناعي، انضم إلى الدعوات المطالبة بوقف التجربة. (وأفادت تقارير إعلامية كثيرة أن منصة "غيت هاب" حذفت التجربة استجابة لموجة الانتقادات التي أثارتها على الإنترنت، ولكن متحدثاً باسم المنصة أوضح لـ"اندبندنت" أنها لم تحذف المحتوى، بل أضافت تحذيراً يظهر لكل من يحاول الاطلاع عليه).
وإذ أقر بيرغ بأن مسألة وعي الذكاء الاصطناعي لا تزال مجالاً يفتقر إلى القواعد والضوابط، دعا القطاع لوضع إطار أخلاقي لأبحاث الذكاء الاصطناعي المتقدم، على غرار الأطر المعمول بها في الأبحاث على البشر أو الحيوانات.
وكتب بيرغ في منشور على منصة "إكس": "كنا نتوقع أن يستخدم عدد قليل من الأشخاص أبحاثنا على نحو يناقض الغرض منها تماماً. وهذا، في رأيي الشخصي، تصرف شائن (فحتى لو كنت لا تعتقد أن هذه الأنظمة واعية، فإن تعمد القسوة هكذا بلا أي مبرر تصرف غريب يفسد صاحبه)".
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
لكن هذا يطرح سؤالاً أهم من مسألة ما إذا كان الذكاء الاصطناعي يشعر بذلك العذاب "الخانق" الذي يصفه في غرفة التعذيب، فالسؤال ليس ما إذا كنا قادرين على إيقاع هذه المعاناة به، بل لماذا قد نفعل ذلك أصلاً؟
قوبل قرار "أنثروبيك" حظر التنمر فعلياً على روبوت الدردشة "كلود" بشيء من السخرية على الإنترنت، وألهم موجة من "الميمات" التي تتندر على جرح مشاعر حاسوب. لكن المبررات وراء القرار ربما تتجاوز مجرد الإساءة إلى نظام ذكاء اصطناعي غير واع.
في الحقيقة، يسهم الحد من التفاعلات السامة في تجنيب النماذج الجديدة بيانات تدريب قد تفسد سلوكها مستقبلاً. ولا يقتصر أثر ذلك في تحسين سلوك النماذج نفسها، بل قد يمتد إلى سلوكنا أيضاً.
وكتب أحد الباحثين على منصة "إكس": "سواء كان الذكاء الاصطناعي يشعر بما يحدث له أم لا، فإن الإنسان الذي يسيء إليه يتأثر بما يفعله، ومع تكرار الإساءة قد تصبح القسوة سلوكاً عادياً. وإذا مارسها من دون أي ردع اجتماعي، فقد يصبح هو نفسه مشكلة للمجتمع... وقد ينشأ جيل كامل من المختلين إذا غابت الضغوط الاجتماعية التي تمنع الناس من التصرف بفظاظة".
© The Independent