في أواخر الشهر الماضي، أطلقت شركة أوبن إيه آي مهمة عظيمة: لا أقل من الدفاع عن الحرية السياسية الفردية في عصر الآلات فائقة القوة. وقد صاغ فريق "المستقبل الاستراتيجي" التابع للشركة نفسه، بمعنى ما، كأنه يرث مهمة الآباء المؤسسين لأمريكا: "نعمل في خدمة مُثُل حرية التعبير والحرية الفردية المكرسة في وثيقة الدستور الأمريكي المتواضعة"، كما كتب دين بول، قائد الفريق، في منشور جديد لمدونة أوبن إيه آي. (يبدأ المنشور باقتباس من جيمس ماديسون في الأوراق الفيدرالية).

يخشى بول من أن الذكاء الاصطناعي المتقدم قد يركز السلطة بشكل جذري في أيدي من يسيطرون عليه، مما يؤدي إلى إزاحة العمالة بطرق تضعف البشر. في سيناريو متطرف، لن تحتاج الحكومات إلى الاستماع إلى مواطنيها إذا كان هناك روبوتات لشن الحروب وبرمجيات كليّة المعرفة لإدارة البيروقراطية. بول مهتم بدراسة المؤسسات السياسية الجديدة التي قد تكون مطلوبة لتجنب هذا المصير.

يبدو أن العديد من الأمريكيين - الذين يعرب أغلبهم عن عدم الثقة في صناعة الذكاء الاصطناعي، والسخط من مراكز البيانات، والمخاوف بشأن أمنهم الوظيفي - يشعرون بالفعل بهذا الفقدان العميق للوكالة. وقد ولّدت طفرة الذكاء الاصطناعي بالفعل كميات هائلة من الثروة في حفنة من شركات التكنولوجيا - بما في ذلك أوبن إيه آي نفسها. على أقل تقدير، إنه أمر متناقض أن تندد واحدة من أكثر الشركات نفوذاً في أقوى صناعة في العالم بتركيز السلطة الذي يتيحه الذكاء الاصطناعي. لذلك تواصلت مع بول لفهم المزيد عن قلقه بشأن الصناعة التي يعمل فيها، وكيف يريد أن تتكيف الولايات المتحدة مع الذكاء الاصطناعي.

بول، الذي يدرس سياسات الذكاء الاصطناعي، هو شخصية مشهورة إلى حد ما في الصناعة. في العام الماضي، انضم إلى البيت الأبيض كمستشار للذكاء الاصطناعي وساعد في كتابة خطة عمل الذكاء الاصطناعي لإدارة ترامب، وهي خارطة طريق سياسية لهذه التكنولوجيا. غادر الإدارة في النهاية، على ما يبدو بعلاقات طيبة، قبل أن ينتقدها علناً خلال نزاعها مع أنثروبيك في وقت سابق من هذا العام. ثم في يوليو، انضم إلى أوبن إيه آي. قال لي بول: "رأيي هو أن لدينا أساساً ذكاءً اصطناعياً تحويلياً في العالم الآن. أنت تعيش في عالم يتحول. إنه يحدث".

تم تحرير هذه المحادثة من أجل الطول والوضوح.

ماتيو وونغ: تكتب أن تركيز السلطة من خلال الذكاء الاصطناعي يمكن أن يقلب الحريات الإنسانية الأساسية المكرسة في الدستور الأمريكي. هل يمكنك توضيح كيف؟

دين بول: في الأساس، السلطة السياسية هي القدرة المحدودة جغرافياً على استخدام الاحتكار للقوة والعنف المشروعين. وقد تطلب القيام بذلك حتى الآن تعاون عدد كبير من البشر. كنت بحاجة إلى جيوش، وكنت بحاجة إلى أشخاص في تلك الجيوش، وكنت بحاجة إلى أشخاص لإطعام وتزويد تلك الجيوش. وكنت بحاجة إلى أشخاص لدفع ثمن كل ذلك من خلال الضرائب. لذلك كان للناس مقعد على الطاولة لأنه، بمعنى ما، كل شيء يتم توفيره بواسطتهم.

الآن عليك أن تفترض أن الروبوتات ستتقدم قريباً بنفس الطريقة التي تقدم بها الذكاء الرقمي العام. ربما سيستغرق ذلك وقتاً أطول مما أعتقد. ولكن عند تلك النقطة، فإن القدرة على إبراز العنف لن تتطلب بشراً. ومن الممكن أيضاً أن يولد الذكاء الاصطناعي إيرادات كافية بحيث لا تحتاج الحكومة إلى الاعتماد على فرض الضرائب على الناس.

إذا نظرت إلى سياسات الذكاء الاصطناعي، أعتقد أن الأمريكيين أذكياء ولديهم إحساس بأن مقعدهم على الطاولة قد يصبح أصغر. إنهم محقون في الخوف.

وونغ: أنت تتحدث عن تركيز السلطة في الحكومة، لكن الذكاء الاصطناعي التوليدي هو تقنية تم تطويرها في القطاع الخاص. هناك احتمال لتركيز نادر وحتى غير مسبوق للسلطة في الصناعة. ما هي المخاطر التي يشكلها ذلك؟

بول: أنت لا تحاول تجنب كل تركيز للسلطة، ولكن موازنته. إذا أدى هذا العصر إلى ظهور شركات لديها قدر هائل من السلطة في العالم، أعتقد أن ذلك جيد - طالما أن تلك المنظمات محكومة. بمعنى آخر، طالما أن الحكومة التي تشرف عليها