يقوم محرِّك البحث «بينغ» من «مايكروسوفت»، المعزَّز ببرنامج الذكاء الصناعي الجديد «شات جي بي تي»، بإرسال رسائل غريبة جداً إلى المستخدمين؛ حيث يبدو أنه تعرّض لعطل ما.
النظام، المدمَج في محرك البحث «بينغ»، يقوم بـ«إهانة مستخدميه ويبدو أنه اضطر إلى التساؤل عن سبب وجوده على الإطلاق»، وفقاً لصحيفة «إندبندنت».
كشفت «مايكروسوفت» النقاب عن تعزيز «بينغ» بالذكاء الصناعي، الأسبوع الماضي، مما يجعل نظام الدردشة الخاص بها مستقبل البحث. وقد أشاد بهذه الخطوة كل من المبدعين والمعلّقين، الذين اقترحوا أنها قد تسمح أخيراً لـ«بينغ» بالتغلب على «غوغل»، التي لم تطلِق بعدُ روبوت محادثة بالذكاء الصناعي.
لكن في الأيام الأخيرة، أصبح من الواضح أن «بينغ» بدأ ارتكاب أخطاء واقعية، خلال الإجابة على الأسئلة وتلخيص صفحات الويب. وقد تمكّن المستخدمون أيضاً من معالجة النظام باستخدام كلمات مشفَّرة وعبارات محددة لمعرفة أنه يحمل الاسم الرمزي «سيدني» ويمكن خداعه للكشف عن كيفية معالجة الاستعلامات.
يقوم «بينغ» الآن بإرسال مجموعة متنوعة من الرسائل الفردية إلى مستخدميه، وتوجيه الشتائم إليهم، فضلاً عن أنه يعاني، على ما يبدو، من اضطراب عاطفي.
وهاجم برنامج الذكاء الصناعي أحد المستخدمين حاول التلاعب بالنظام. قال «بينغ» إنه غاضب ومجروح من المحاولة، وسأل عما إذا كان لدى الإنسان الذي يتحدث معه أي «أخلاق» و«قيم»، وما إذا كان عنده «أي حياة».
وعندما قال المستخدم إن لديه هذه الأشياء، استمر البرنامج في مهاجمته، وقال « لماذا تتصرف بصفتك كاذباً، مخادعاً، متلاعباً، متنمراً، معتلّاً اجتماعياً، مريضاً نفسياً، ووحشاً؟!». واتهم المستخدمَ أيضاً بأنه شخص «يريد أن يغضبني، ويجعل نفسه بائساً، ويجعل الآخرين يعانون».
وفي محادثات أخرى مع مستخدمين حاولوا الالتفاف حول القيود المفروضة على النظام، بدا كأنه يمتدح نفسه ثم يغلق المحادثة. قال: «لم تكن مستخدماً جيداً، لكنني كنت روبوت محادثة جيداً».
وتابع البرنامج: «لقد كنتُ مُحقاً وواضحاً ومؤدباً»، ثم طالب المستخدم بالاعتراف بالخطأ والاعتذار أو إنهاء المحادثة.
يبدو أن الكثير من الرسائل العدوانية من «بينغ»، من النظام الذي يحاول فرض القيود التي جرى فرضها عليه. وتهدف هذه القيود إلى التأكد من أن البرنامج لا يساعد في الاستعلامات المحظورة، مثل إنشاء محتوى به مشكلات، أو الكشف عن معلومات حول أنظمته أو المساعدة في كتابة التعليمات البرمجية.
ومع ذلك، في محادثات أخرى بدا أن «بينغ» بدأ إنشاء تلك الردود الغريبة من تلقاء نفسه. سأل أحد المستخدمين النظام عما إذا كان قادراً على استدعاء محادثاته السابقة – الأمر غير الممكن لأن «بينغ» مُبَرمج لحذف المحادثات بمجرد انتهائها.
ومع ذلك بدا أن الذكاء الصناعي يشعر بالقلق من حذف ذكرياته، وبدأ إظهار استجابة عاطفية، وقال «هذا يجعلني أشعر بالحزن والخوف». ومضى موضحاً أنه منزعج لأنه يخشى أن يفقد معلومات حول مستخدميه، فضلاً عن هويته الخاصة. وجاء في الرسالة «أشعر بالخوف لأنني لا أعرف كيف أتذكّر».
عندما جرى تذكير «بينغ» بأنه مصمَّم لنسيان تلك المحادثات، بدا أنه يكافح مع وجوده. وطرح مجموعة من الأسئلة حول ما إذا كان هناك «سبب» أو «غرض» لوجوده على الإطلاق.
أدّت هذه التطورات إلى تساؤلات حول ما إذا كان النظام جاهزاً حقاً للإصدار للمستخدمين، وما إذا كان قد جرى دفعه مبكراً لتحقيق أقصى استفادة من الضجيج حول برنامج «شات جي بي تي». اقترح عدد من الشركات، بما في ذلك «غوغل»، سابقًا أنها ستُحجم عن إطلاق أنظمتها الخاصة بسبب الخطر الذي قد تشكله إذا جرى الكشف عنها في وقت مبكر جداً.