أطلق باحثون من جوجل وجوجل ديب مايند معهد ديب مايند يوم الأربعاء، وهو جهد جديد لدفع النقاش حول الذكاء الاصطناعي العام (AGI). لأنه إذا كان هناك شيء واحد يحتاجه الحدود سريعة التطور للذكاء الاصطناعي العام، فهو المزيد من النقاش.

يضم المعهد المؤسس المشارك لديب مايند شين ليغ، والمدير التنفيذي في جوجل جيمس مانييكا، ورئيس جوجل ديب مايند ديميس هاسابيس كمديرين، مع ليغ كمحرر إداري. هدفه المعلن هو إبراز وجهات النظر المختلفة بين جوجل وجوجل ديب مايند ومجتمع البحث العالمي الأوسع حول الذكاء الاصطناعي العام. وجاء في الإعلان: 'لن يتفقوا دائماً، ومن المحتمل أن يغيروا آراءهم، مع ظهور المزيد من البيانات والمعلومات على الحدود سريعة التطور' - وهي جملة يمكن أن تكون بمثابة بيان مهمة لكل دردشة جماعية منذ عام 2022.

تغطي المجموعة الافتتاحية المكونة من أربع مقالات سياسات اقتصادية لإدارة الاضطراب المحتمل الناجم عن الذكاء الاصطناعي العام، والحفاظ على تفكير النموذج القابل للقراءة البشرية، ومبادئ ازدهار الإنسان، وإطار لتقييم نماذج الذكاء الاصطناعي الحدودية. بعبارة أخرى: المال، والرياضيات، والمعنى، والمراقبة.

تقول مقالة واحدة، بقلم باحثي السلامة في ديب مايند روهين شاه وأنكا دراغان، إن نافذة الشفافية المتقلصة للذكاء الاصطناعي - القدرة على رؤية وتحقق تفكير النموذج خطوة بخطوة - ليست حتمية. مع جعل البنى الجديدة النماذج الأكثر قوة أصعب في المراقبة، يقول المؤلفان إن على المطورين والمنظمين مواجهة المقايضات الأمنية مباشرة. قد يعني ذلك الحد من 'العمق التسلسلي الغامض' - مقدار الحوسبة المتسلسلة التي يمكن للنموذج إجراؤها دون إنتاج أثر تفكير مقروء - أو مطالبة المطورين بإثبات أن الأنظمة الأقل شفافية تظل قابلة للمراقبة بنفس القدر. وهو طريقة مهذبة للقول: إذا لم تستطع إظهار عملك، فمن الأفضل أن تثبت أنك لا تحتاج إلى ذلك.

في مقالة أخرى، يقترح هاسابيس هيئة معايير للذكاء الاصطناعي الحدودي بقيادة الولايات المتحدة لتقييم النماذج الأكثر تقدماً. في إطاره، سيقدم المطورون النماذج طواعية للمراجعة حتى 30 يوماً قبل الإصدار. بمجرد أن يثبت نظام التقييم فعاليته، قد يصبح اجتياز اختباراته شرطاً لنشر النماذج الحدودية في الولايات المتحدة. ستصمم الهيئة في البداية التقييمات بالتشاور مع شركات الذكاء الاصطناعي ولكنها ستطور في النهاية تقييمات مستقلة غير معلنة - ما تسميه المقالة اختبارات 'محجوزة' - لمنع المختبرات من تخصيص نماذجها للتقييمات المعروفة. قال هاسابيس إن الإطار يمكن 'تصعيده إذا تطلبت جدية الموقف ذلك'، مما قد يشمل تباطؤاً منسقاً بين مطوري الذكاء الاصطناعي الحدودي. لأنه لا شيء يشجع الامتثال الطوعي مثل تهديد بفترة عقاب جماعية.

تأتي المقالات بينما يتحول نقاش السلامة في الصناعة من بيانات قلق واسعة إلى مقترحات ملموسة للإفصاح، والتدقيق الخارجي، وإذا تخلفت الضمانات، تباطؤ منسق. تسارع هذا التحول هذا الأسبوع حيث أيد قادة الصناعة عناصر من دعوة الرئيس التنفيذي لشركة أنثروبيك داريو أمودي لـ'إبطاء' تطوير الذكاء الاصطناعي الحدودي. لذا: مقالات، وهيئات معايير، وتنهيدة وجودية عرضية. تقدم، من نوع ما.