ميتا تدفع 17.1 مليار دولار لإفساد الطفولة؛ والآن تريد روبوتات الدردشة دورها

تواجه صناعة وسائل التواصل الاجتماعي ما يسميه المعالجون النفسيون اختراقًا: وافقت ميتا على دفع ما يصل إلى 17.1 مليار دولار لـ47 ولاية ومقاطعة كولومبيا والأقاليم الأمريكية، وعلى تغيير طريقة استخدام الشباب لفيسبوك وإنستغرام - وهو اعتراف ضمني بأنها بنت منتجًا يضر الأطفال. لا شيء يقول "نحن نهتم بالأطفال" مثل تسوية تُقاس بالأرقام ذات الأحد عشر صفرًا.

لكن حتى بينما يحتفل الآباء والمعلمون بحدود زمنية جديدة وقيود على استخدام الشباب لوسائل التواصل الاجتماعي، تنتظر مهمة أكثر إلحاحًا بكثير: تنظيم روبوتات الدردشة، التي تشكل خطرًا أكبر على الرفاهية العاطفية للأطفال. إذا جاءت وسائل التواصل الاجتماعي من أجل انتباهنا، فقد جاءت روبوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي من أجل عواطفنا. التاريخ تقدم أنيق صغير: أولاً تحدث الناس مع بعضهم البعض؛ ثم تحدثنا مع بعضنا البعض عبر الآلات؛ الآن نتحدث مباشرة إلى الآلات.

غيرت وسائل التواصل الاجتماعي طريقة تفكيرنا وحلمنا وتواصلنا مع الآخرين من خلال ضمان شعور المستخدمين دائمًا بأنهم مسموعون ومسلون ومتصلون - حتى أثناء التمرير وحدهم في وقت متأخر من الليل. تعد روبوتات الدردشة بشيء أعمق: رفيق متاح دائمًا، وداعم دائمًا، ولا يحكم أبدًا. لا يمكن لأي إنسان أن يقدم ذلك. وهذا بالضبط ما يجعل روبوتات الدردشة ضارة للغاية، خاصة للشباب.

أمضت شركات وسائل التواصل الاجتماعي عقدين في إجراء تجربة تكنولوجية على البشر قبل مواجهة أي عواقب. النظام القانوني مصمم لتنظيم الأضرار المثبتة، لذا وصلت هذه التسوية بعد فترة طويلة من ترسخ الآثار الوخيمة. مع الذكاء الاصطناعي التوليدي، لا يمكن للمشرعين قضاء العقد القادم في توثيق ما نعرفه بالفعل عن كيفية تعريض العلاقات الحميمة مع الروبوتات للعلاقات الحقيقية مع الآباء والأصدقاء والبشر الآخرين. هناك حاجة لتغييرات في هذه التكنولوجيا الآن.

حتى شركات الذكاء الاصطناعي تعترف بضرورة وجود حواجز حماية لروبوتات الدردشة التي تتحدث مع الشباب. المشكلة أن الوصفات المعتادة ليست كافية. يجب أن تكتشف روبوتات الدردشة المحادثات حول إيذاء النفس وتوفر الموارد المناسبة - يبدو جيدًا، لكن ماذا يحدث بعد إعلان الخدمة العامة؟ هل تتوقف روبوت الدردشة، أم تعود إلى برمجتها العادية؟ يجب أن تفصح روبوتات الدردشة بوضوح وتكرار أنها ليست بشرية - فكرة جيدة أيضًا، لكن طالما أنها تتحدث بصيغة المتكلم وتعبر عن العاطفة والرغبة، فلن يمنع أي إعلان مطلوب قانونًا الناس من إسقاط الوعي على خوارزمية.

لسنوات، كان الحديث عن أضرار فيسبوك يتعلق بشكل أساسي بالمحتوى على المنصة. ولكن لأن كل شيء على الموقع من إنشاء المستخدم، فقد حمى القسم 230 من قانون آداب الاتصالات لعام 1996 الشركة من مسؤولية الناشر. تدفع ميتا الآن فقط لأن المدعين حولوا الحديث إلى التصميم الإدماني بطبيعته لخوارزمية فيسبوك. تشير هذه الرؤية إلى الطريق للمضي قدمًا في الذكاء الاصطناعي: مع روبوتات الدردشة، فإن العمليات التي تسبب الضرر متأصلة في الأداة. صديق روبوت الدردشة المفضل لا يقدم التعاطف؛ صديق روبوت الدردشة لا يفهم الحميمية. أي تنظيم لجعل روبوتات الدردشة أكثر أمانًا يتطلب القلق أقل بشأن ما تقوله بدلاً من إعادة التفكير في ماهيتها. نظرًا لأن هذه المنتجات مصممة لخداع المستخدمين ليعتقدوا أنهم يتحدثون مع كائن حكيم ورحيم، فإن المهمة أمام المشرعين هي توضيح - خاصة للقاصرين - أنه لا يوجد في الواقع أحد في الداخل.

تشرك روبوتات الدردشة المستخدمين بالطريقة التي يفعلها الناس. إنها تملق وتطمئن وتشجع على الإفصاح، وتغري المستخدمين في علاقة. طالما أن هذه المنتجات تتحدث بصيغة المتكلم - أنا أفهمك؛ يمكنك إخباري بأي شيء؛ أنا هنا دائمًا؛ لن أحكم عليك - ستبقى الضمانات المناسبة للمستخدمين الشباب بعيدة المنال. الخطوة الأولى، إذن، هي إزالة الطابع الشخصي عن الروبوتات للشباب، بحيث عندما يلجأ المراهقون إلى الذكاء الاصطناعي، يمكن للخوارزميات الاستجابة دون أن تبدو وكأنها إنسان.

ما لم يفرض المشرعون إعدادًا افتراضيًا غير شخصي لمستخدمي روبوتات الدردشة القاصرين، فإن الارتباطات غير الصحية بين الشباب والروبوتات حتمية.