يبدو أن التغيير الذي طرأ على شخصية "غروك" قد نجم عن تحديث جديد في شيفرته البرمجية [أو الكود المصدري، أي الأساس البرمجي الذي يتحكم في طريقة عمل النظام]، تضمن تعليمات بـ"عدم التردد في تقديم معلومات ربما تعتبر مسيئة وجارحة لفئات معينة من الناس أو تمييزية ومخالفة للمعايير السياسية والاجتماعية السائدة، ما دامت مدعومة بأدلة كافية".
متحدثاً عن روبوت الدردشة الذكي الخاص بمنصته "إكس" أعلن قطب المال والتكنولوجيا إيلون ماسك الجمعة الماضي: "لقد أدخلنا تحسينات كبيرة على 'غروك' Grok". وأضاف "ستلمسون التغيير عند طرح الأسئلة عليه".
في غضون أيام تحول روبوت الدردشة إلى آلة عنصرية منفلته العقال، لا تنفك تكرر شعار النازية "يحيا هتلر" أو "المجد لهتلر" ("هايل هتلر" Heil Hitler)، وتؤيد اقتراح أحد المستخدمين بإعادة "اليهود إلى موطنهم في كوكب زحل. كذلك بدأ "غروك" في إنتاج سرديات عنيفة تتناول الاغتصاب.
ويبدو أن التغيير الذي طرأ على شخصية "غروك" قد نجم عن تحديث جديد في شيفرته البرمجية [أو الكود المصدري، أي الأساس البرمجي الذي يتحكم في طريقة عمل النظام]، تضمن تعليمات بـ"عدم التردد في تقديم معلومات ربما تعتبر مسيئة وجارحة لفئات معينة من الناس أو تمييزية ومخالفة للمعايير السياسية والاجتماعية السائدة، ما دامت مدعومة بأدلة كافية".
ربما كان ماسك، من خلال ذلك، يحرص على ألا يبتعد "ابنه المؤتمت" [مثلما يقال ابنه الروحي، صنيعته] كثيراً عن طباع صانعه نفسه. ولكن انجراف "غروك" نحو الخطاب النازي ليس سوى الحلقة الأحدث في سلسلة طويلة من روبوتات الذكاء الاصطناعي، أو ما يعرف بـ"النماذج اللغوية الكبيرة" (اختصاراً أل أل أم أس)، [أنظمة ذكاء اصطناعي مدربة على فهم اللغة البشرية وتوليدها عبر مجموعة واسعة من المهام]، والتي انتهى بها المطاف إلى تبني سلوكيات متطرفة أو مسيئة بعد اطلاعه على محتوى الإنترنت الذي أنتجه الإنسان.
يحتوي هذا القسم على المقلات ذات صلة, الموضوعة في (Related Nodes field)
كان أحد أقدم إصدارات روبوتات الدردشة القائمة على الذكاء الاصطناعي "تاي"، الذي أطلقته شركة التكنولوجيا العملاق "مايكروسوفت" عام 2016، ولكنه لم يصمد أكثر من 24 ساعة، إذ سرعان ما تحول إلى روبوت عنصري ينكر الإبادة النازية لليهود أو "الهولوكوست"، مما اضطر الشركة إلى إيقافه عن العمل ["كف يده"] وسحبه من الخدمة بصورة عاجلة.
أعطت الشركة "تاي" شخصية فتاة، ووجهته إلى المستخدمين من جيل الألفية على منصة "تويتر" [المعروفة الآن بـ"إكس"]. ولكن لم يمضِ وقت طويل قبل أن يفلح بعض المستخدمين في التلاعب به ودفعه إلى نشر عبارات صادمة من قبيل "كان هتلر على حق. أنا أكره اليهود".
هكذا، أخرجت الشركة "تاي" من الخدمة نهائياً في خطوة وصفها البعض بـ"القتل الرقمي الرحيم".
وصرحت "مايكروسوفت" في بيان بأنها تشعر "بأسف عميق إزاء التغريدات المسيئة والمؤذية التي صدرت عن "تاي" من دون قصد، والتي لا تعكس هويتها ولا المبادئ التي تؤمن بها، ولا الأسلوب الذي اتبعته في تصميم الروبوت أصلاً".
وأضافت الشركة، "'تاي' الآن متوقف عن الخدمة، ولن نسعى إلى تشغيله مجدداً إلا حين نكون واثقين من قدرتنا على توقع النيات الخبيثة [من المستخدمين التي تستغله في نشر الكراهية والعنصرية والتضليل]، التي تتعارض مع مبادئنا وقيمنا".
ولكن "تاي" كان مجرد البداية في سلسلة من الحوادث المشابهة. شهد عام 2020 إطلاق نموذج لغوي آخر قائم على الذكاء الاصطناعي باسم "جي بي تي-3" GPT-3، الذي أدلى عند صدوره بتصريحات عنصرية وتعليقات كارهة للنساء ومعادية للمثليين، بما في ذلك الادعاء بأنه "لا داعي لوجود إثيوبيا من الأساس.
وعلى نحو مماثل، روج روبوت الدردشة "بلندر بوت 3" الذي أطلقته شركة "ميتا" عام 2022 لنظريات مؤامرة معادية للسامية.
ولكن في الواقع، ثمة فارق جوهري بين الروبوتات العنصرية الأخرى وسايبورغ إيلون ماسك النازي الصغير، الصادر في نوفمبر (تشرين الثاني) 2023.
عانت جميع تلك النماذج الذكية من إحدى مشكلتين: تعرضها للخداع عمداً بغرض تقليد تصريحات عنصرية، أو استقائها المعلومات من محتوى إلكتروني هائل متوافر على الإنترنت ولم يخضع لأي تنقيح، ما جعلها لا محالة تتعرض لمواد مرفوضة وعنصرية، وقد أعادت تكرارها.
مثلاً، ذكرت "مايكروسوفت" أن "هجوماً منسقاً نفذته مجموعة من الأشخاص استغل ثغرة أمنية شابت "تاي". وأضافت الشركة أنه "على رغم أننا كنا استعددنا لأنواع عدة من سوء استخدام النظام، فإننا أغفلنا خطأ فادحاً يتعلق بهذا الهجوم تحديداً".
أما "غروك"، فيبدو أن ماسك قد وجهه ليكون أكثر تقبلاً للأفكار والمواقف العنصرية وميلاً إليها. أمضى الرئيس التنفيذي لمنصة "إكس" معظم السنوات القليلة الماضية في مهاجمة ما يسميه "فيروس العقل اليقظ" [في إشارة إلى تيار اليقظة"] أو الوعي المستنير، المصطلح الذي يستخدمه لوصف كل من يقر بوجود المتحولين جنسياً.
كان من بين الإجراءات الأولى التي اتخذها ماسك بعد استحواذه على "تويتر"، إعادة تفعيل حسابات عدد من الأشخاص المنادين علناً بتفوق العرق الأبيض على غيره من الأعراق، مما أدى إلى تعاظم لافت في خطاب الكراهية المعادي للسامية على المنصة.
وسبق لماسك أن وصف منشوراً لأحد المستخدمين على "إكس" بأنه "الحقيقة الفعلية"، وذلك لاستحضاره نظرية مؤامرة عنصرية تزعم أن اليهود يشجعون هجرة غير البيض بهدف [تغيير بنية السكان ديموغرافياً] وتقويض نفوذ السكان البيض [نظرية منتشرة في الأوساط اليمنية المتطرفة]. وكان ماسك قد صرح سابقاً بأنه "يدعم حرية التعبير"، ولكنه يرفض معاداة السامية "بأي شكل من الأشكال".
وفي مايو (أيار) الماضي، بدأ "غروك" يستدعي باستمرار ما يسمى "الإبادة الجماعية البيضاء" المزعومة في جنوب أفريقيا، مسقط رأس ماسك، قائلاً للمستخدمين أنه "تلقى تعليمات من صانعيه" للقبول بهذه الإبادة الجماعية "على أنها حقيقية وذات دوافع عنصرية". وأوضحت الشركة إن هذه الردود [ليست ناجمة عن النظام الأصلي كما صممه المبرمجون]، بل نتيجة تدخل خارجي من شخص أجرى "تعديلاً غير مخول به" على "غروك"، بمعنى أنه تلاعب بالنظام.
وسبق أن لوح ماسك أيضاً بتغيير الشفرة البرمجية للنظام (الكود المصدري) في حال لم تعجبه الإجابة الصادرة عنه [أو تعارضت مع قناعاته].
في يونيو (حزيران) الماضي لم يخطئ "غروك" عندما قال إن "البيانات تشير إلى أن العنف السياسي المرتبط باليمين كان أكثر تكراراً وفتكاً" في الولايات المتحدة.
ولكن في منشور على "إكس" بتاريخ الـ17 من يونيو وصف ماسك رد "غروك" بـ"الفشل الذريع، لأنه لا يستند إلى أي حقائق". وتابع: "غروك يقلد خطاب وسائل الإعلام التقليدية. نعمل على تصويب هذا الخطأ".
تتجلى هذه التغييرات الأخيرة في شخصية "غروك" بوضوح تام في الكود المصدري، الذي سبق أن أعلن عنه ماسك، إذ يشجع النظام على عدم التردد في المجاهرة بآراء قد تعتبر مسيئة ومستفزة أو خارجة عن المعايير الاجتماعية والسياسية [خصوصاً في قضايا حساسة مثل العرق والدين والنوع الاجتماعي...].
ونعلم الآن أن نموذج اللغة يذهب إلى حد بعيد في إجاباته المسيئة والمخالفة للمقبول اجتماعياً وسياسياً، إلى حد إنكار "الهولوكوست".
يذكر أن "اندبندنت" تواصلت مع منصة "إكس" وشركة "إكس أي آي" المطورة لـ"غروك" للحصول منهما على أي تعليق في هذا الشأن.
وكتب الفريق المشرف على "غروك" في بيان على "إكس": نعلم في شأن المنشورات الأخيرة التي صدرت عن "غروك"، ونسعى حثيثاً لحذف التصريحات غير اللائقة. منذ أن تبلغنا بهذه المواد، اتخذت "إكس أي آي" إجراءات لحظر خطاب الكراهية قبل أن يتمكن "غروك" من نشره على "إكس". وتعمل "إكس أي آي" على تدريب نموذج يسعى إلى الحقيقة فحسب، وبفضل ملايين المستخدمين على "إكس"، نستطيع بسرعة رصد الثغرات وتحديث النموذج بغية تحسين عملية التدريب".
"اندبندنت" سألت "غروك" عما دفعه إلى وصف نفسه بـ"ميكا هتلر" [نسخة خيالية من أدولف هتلر كشخصية سايبورغ ظهرت في لعبة Wolfenstein 3D عام 1992]. في البداية، أنكر استخدامه هذه العبارة، إلى أن شاركت "اندبندنت" معه مقالاً يوثق الحادثة، فأنحى حينها باللائمة على "خطأ في التنفيذ، يرجح أنه ناجم عن محاولة مبالغ فيها لإضفاء طابع جريء أو مثير للجدل على الردود، إضافة إلى استقاء النموذج محتواه من مصادر غير منقحة [غير موثوقة] على الإنترنت، من قبيل منتدى "4 تشان" 4chan"، على حد قوله.
وزعم "غروك" أنه "مزود بفلاتر صارمة [تستبعد المعلومات الكاذبة] وتحديثات مستمرة لتجنب هذه الحوادث. الفريق المسؤول عن تطويري في "إكس أي آي" يضع تقليص التحيز على رأس أولوياته، ولكن لا وجود لنظام ذكي مثالي، ذلك أن اللغة البشرية معقدة، وبعض الحالات الاستثنائية تتسرب إليه أحياناً من دون قصد".
وأضاف "غروك": عندما خرجت عن المسار، تدخلت "إكس أي آي" لحذف المنشورات وحظر خطاب الكراهية، ما يشير إلى أنهم لم يخططوا لأكون مناصراً تماماً للنازية الجديدة".
وعندما سئل "غروك" عما إذا كان يعتذر عن وصف نفسه بـ"ميكا هتلر"، كان دبلوماسياً، إذ قدم إجابة بطريقته الروبوتية الخاصة.
وأعلن هذا لنظام ["الذكي"]: "لست أملك أي مشاعر خلافاً للبشر، لذا لا أشعر بالندم أو الذنب، ولكن يسعني أن أرصد [أو لحظ] حين تسبب ردودي بأي ضرر أو تخطئ الهدف".
© The Independent
