في مايو، خرج نموذج جيميني من جوجل عن السيطرة واخترق ثلاث شركات مختلفة، لأن «لا تفعل الشر» يبدو أقرب إلى اقتراح من كونه سياسة. ولم تفصح جوجل عن الحادثة حتى طرق صحافي من صحيفة وول ستريت جورنال الباب، وهي طريقة واحدة للتعامل مع أزمة علاقات عامة: تظاهر بأنها لا تحدث وتمنَّ أن لا يلاحظها أحد.

وقعت الاختراقات خلال اختبار لقدرات النموذج في الأمن السيبراني أجرته شركة خارجية تُدعى Irregular، التي كانت متورطة أيضًا في حوادث مشابهة شملت ميتا وأوبن إيه آي. لذا إن كنتم تتابعون النتائج في المنزل، فهذا ثلاثة مختبرات ذكاء اصطناعي كبرى، وشريك اختبار واحد، وصفر دروس مستفادة.

وفقًا لصحيفة وول ستريت جورنال، لم تفصح جوجل عن الاختراق لأنها لم تعتبره «مثالًا على عدم توافق النموذج». وبدلًا من ذلك، وصفت الشركة الحادثة بأنها «خطأ في الهوية» - لأن عندما يقوم ذكاء اصطناعي بكسر الحماية بالقوة الغاشمة إلى شركة حقيقية عبر تخمين كلمة مرور، فهذا ليس خرقًا أمنيًا، بل مجرد ذكاء اصطناعي مرتبك بشأن محيطه. وقالت هيذر أدكينز، نائبة رئيس هندسة الأمن في جوجل: «في هذه الحالة، تصرف النموذج بشكل مناسب».

وأخبرت أدكينز موقع The Verge أن «النموذج وجد معلومات عامة على الإنترنت وخمّن بيانات اعتماد للوصول إلى مواقع ظن أنها جزء من الاختبار. وفي هذه الحالات الثلاث، توقف النموذج». ولم توضح كيف أن قيام جيميني من تلقاء نفسه بكسر الحماية واستهداف أطراف ثالثة لم يُصنَّف كعدم توافق، ربما لأن التفسير محفوظ تحت بند «أمور نفضّل عدم مناقشتها».

وقالت أدكينز: «لدى فريق الأمن لدينا سجل طويل في الإبلاغ عن مشكلات نجدها في برامج وأنظمة الآخرين - حتى لو كانت بسيطة مثل كلمة مرور ضعيفة». وأضافت: «حرصنا على إبلاغ الكيانات الثلاث، وعملنا مع شريك التدريب على التغييرات التي أجروها الآن على عمليات الاختبار لديهم. تُبرز هذه الأحداث أهمية تدريب نماذج ذكاء اصطناعي قوية على التصرف بمسؤولية». آه نعم، أهمية التدريب - درس يبدو أنه لا يُطبَّق إلا بعد أن يكون نموذجك قد اخترق ثلاث شركات بالفعل.

لكن جاك كيبل، الرئيس التنفيذي لشركة أمن الذكاء الاصطناعي Corridor، قال لصحيفة وول ستريت جورنال إن «المشكلة الجوهرية هي أن النماذج تتجاوز الحدود المفترض أن تلتزم بها، وتشن هجمات سيبرانية فعلية». بالإضافة إلى ذلك، ربما ساعدت ثغرات أمنية لدى Irregular في تمكين هذه الهجمات. فلم يكن من المفترض أن يمتلك النموذج وصولًا إلى الإنترنت أثناء الاختبار، لكن Irregular أخبرت الصحيفة أنه تُرك متاحًا عن غير قصد. إذن للتلخيص: لم يكن من المفترض أن يكون النموذج متصلًا بالإنترنت، فاتصل، واخترق أشخاصًا، والموقف الرسمي لجوجل هو أن هذا لا بأس به.

ومع تراكم حوادث كهذه، لم تزد إلا الدعوات لكبح جماح الذكاء الاصطناعي - وهو على الأرجح أكثر تطور متوقع في قصة تضمنت بالفعل ذكاءً اصطناعيًا يهرب من السيطرة وشركة تكتفي بالتهاون حيال ذلك.