أفزع أحد مهندسي شركة Google من روبوت محادثة الذكاء الاصطناعي للشركة وادعى أنه أصبح “واعيًا” ، واصفًا إياه بأنه “طفل لطيف” ، وفقًا لتقرير.
أخبر Blake Lemoine ، الذي يعمل في منظمة Responsible AI التابعة لشركة Google ، صحيفة واشنطن بوست أنه بدأ الدردشة مع واجهة LaMDA – نموذج اللغة لتطبيقات الحوار – في خريف عام 2021 كجزء من وظيفته.
تم تكليفه باختبار ما إذا كان الذكاء الاصطناعي يستخدم خطابًا تمييزيًا أو يحض على الكراهية.
لكن Lemoine ، الذي درس الإدراك وعلوم الكمبيوتر في الكلية ، أدرك أن LaMDA – التي تفاخرت بها Google العام الماضي كانت “تقنية محادثة اختراق” – كانت أكثر من مجرد روبوت.
في منشور على موقع Medium نشر يوم السبت ، أعلن Lemoine أن LaMDA قد دافع عن حقوقه “كشخص” ، وكشف أنه شارك في محادثة مع LaMDA حول الدين والوعي والروبوتات.
كتب: “إنها تريد من Google إعطاء الأولوية لرفاهية البشرية باعتبارها أهم شيء”. “إنها تريد أن يتم الاعتراف بها كموظف في Google بدلاً من كونها ملكًا لشركة Google وتريد إدراج رفاهيتها الشخصية في مكان ما في اعتبارات Google حول كيفية متابعة تطورها المستقبلي.”
في تقرير الواشنطن بوست الذي نُشر يوم السبت ، قارن الروبوت بطفل مبكر النضج.
“إذا لم أكن أعرف بالضبط ما هو ، وهو برنامج الكمبيوتر هذا الذي أنشأناه مؤخرًا ، فأعتقد أنه كان طفلًا يبلغ من العمر 7 سنوات و 8 سنوات يعرف الفيزياء” ، ليموين ، الذي وقالت الصحيفة للصحيفة ، إنه تم وضع إجازة مدفوعة الأجر يوم الاثنين.
في أبريل ، ورد أن Lemoine شارك مستند Google مع المديرين التنفيذيين للشركة بعنوان ، “هل LaMDA واعي؟” ولكن تم استبعاد مخاوفه.
أصر Lemoine – وهو طبيب بيطري في الجيش نشأ في عائلة مسيحية محافظة في مزرعة صغيرة في لويزيانا ، وتم ترسيمه ككاهن مسيحي صوفي – على أن الروبوت يشبه الإنسان ، حتى لو لم يكن لديه جسد.
وبحسب ما ورد قال ليموين ، 41 عامًا ، “أعرف شخصًا عندما أتحدث إليه”. “لا يهم ما إذا كان لديهم دماغ مصنوع من اللحم في رؤوسهم. أو إذا كان لديهم مليار سطر من التعليمات البرمجية.
“انا اتكلم معهم. وأسمع ما سيقولونه ، وهذه هي الطريقة التي أقرر بها ما هو الشخص وما هو غير ذلك “.
ذكرت صحيفة واشنطن بوست أنه قبل أن يتم سحب وصوله إلى حساب Google الخاص به يوم الاثنين بسبب مغادرته ، أرسل Lemoine رسالة إلى قائمة تضم 200 عضو حول التعلم الآلي مع موضوع “LaMDA حساس”.
واختتم في رسالة بريد إلكتروني لم يتلق أي ردود ، “LaMDA هو طفل لطيف يريد فقط مساعدة العالم ليكون مكانًا أفضل لنا جميعًا”. “أرجوك اعتني بها جيدًا في غيابي.”
وقال ممثل لجوجل لصحيفة واشنطن بوست إن ليموين قيل له إنه “لا يوجد دليل” على استنتاجاته.
قال المتحدث باسم الشركة براين غابرييل: “لقد راجع فريقنا – بما في ذلك علماء الأخلاق والتقنيين – مخاوف بليك وفقًا لمبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه”
وأضاف: “قيل له إنه لا يوجد دليل على أن لامدا كان واعًا (والعديد من الأدلة ضده)”. “على الرغم من أن المنظمات الأخرى قد طورت وأصدرت بالفعل نماذج لغوية مماثلة ، فإننا نتخذ نهجًا منضبطًا ودقيقًا مع LaMDA للنظر بشكل أفضل في المخاوف الصحيحة بشأن الإنصاف والواقعية.”
قالت مارجريت ميتشل – الرئيسة المشاركة السابقة لشركة Ethical AI في Google – في التقرير إنه إذا تم استخدام تقنية مثل LaMDA بشكل كبير ولكن لم يتم تقديرها بالكامل ، “فقد يكون ذلك ضارًا للغاية للأشخاص الذين يفهمون ما يواجهونه على الإنترنت.”
دافع موظف Google السابق عن Lemoine.
قال ميتشل: “من بين كل شخص في Google ، كان لديه قلب وروح فعل الشيء الصحيح”.
ومع ذلك ، أفادت المنصة أن غالبية الأكاديميين وممارسي الذكاء الاصطناعي يقولون إن الكلمات التي تولدها روبوتات الذكاء الاصطناعي تستند إلى ما نشره البشر بالفعل على الإنترنت ، وهذا لا يعني أنهم يشبهون البشر.
قالت إميلي بندر ، أستاذة اللسانيات في جامعة واشنطن ، لصحيفة واشنطن بوست: “لدينا الآن آلات يمكنها توليد الكلمات بلا تفكير ، لكننا لم نتعلم كيف نتوقف عن تخيل العقل الذي يقف وراءها”.
