أعلنت OpenAI عن ميزة جديدة رائعة لـ ChatGPT تقول إنها ستوفر حماية إضافية من هجمات حقن الأوامر - تلك السيناريوهات المبهجة حيث تُخفى تعليمات خبيثة في صفحات الويب ومصادر محتوى أخرى، في انتظار خداع الذكاء الاصطناعي لإفشاء الأسرار.
وضع الحظر، كما يُسمى، سيعطل بعض الميزات الرئيسية للحفاظ على الأمان: التصفح المباشر للويب (لذا ستظل عالقًا مع المحتوى المخبأ)، واسترجاع وعرض الصور من الويب (لا يزال بإمكانك توليدها، لأن ذلك لا بأس به)، والبحث العميق، ووضع الوكيل. لأنه لا شيء يقول 'آمن' مثل إيقاف تشغيل الأشياء التي تجعل المنتج مفيدًا.
وتعترف الشركة، بصراحة منعشة، أنه حتى مع تفعيل وضع الحظر، قد يظل ChatGPT عرضة لحقن الأوامر. يمكن لهذه الهجمات، كما تلاحظ الشركة، 'أن تظهر في محتوى الويب المخبأ أو في ملف مرفوع، وقد تؤثر على سلوك أو دقة الرد'. بعبارة أخرى: هذا ضمادة، وليس علاجًا.
لكن الهدف، كما تقول OpenAI، هو تقليل احتمالية مشاركة البيانات الحساسة أثناء العملية. وهو أشبه بقول إن حزام الأمان يقلل احتمالية الإصابة في حادث - صحيح، لكنك تفضل ألا تختبره.
'وضع الحظر ليس مخصصًا للجميع'، توضح OpenAI. 'إنه مصمم للأشخاص والمؤسسات التي تتعامل مع بيانات حساسة وتريد حماية أكثر صرامة من مخاطر تسرب البيانات المتعلقة بحقن الأوامر.' لذا، بشكل أساسي، هو لأولئك الذين لا يريدون أن تظهر مذكراتهم السرية في سجل محادثة أحد القراصنة.
تقول الشركة إنها تطرح حاليًا وضع الحظر لحسابات ChatGPT Business ذاتية الخدمة، بالإضافة إلى الحسابات الشخصية المؤهلة. لأنه لا شيء يقول 'ذكاء اصطناعي آمن' مثل ميزة لا تزال قيد الطرح بينما يظل الإنترنت كما هو.