مع تزايد قوة نماذج الذكاء الاصطناعي، تزداد أيضًا احتمالات الأذى - وتتعالى الأصوات المطالبة بضوابط. تواجه شركات الذكاء الاصطناعي الآن مهمة دقيقة تتمثل في احترام خصوصية عملاء الشركات مع مراقبة إساءة الاستخدام. وإدراكًا منها لفرصة التفوق على منافستها أنثروبيك، أعلنت OpenAI عن نهج يركز على الخصوصية لمراقبة إساءة الاستخدام: المعالجة الأمنية الخاصة. هذا النظام الآلي يراقب إساءة الاستخدام المحتملة دون الاحتفاظ بأي من بيانات العميل، لأنه على ما يبدو، يمكنك الحصول على كعكتك وتناولها أيضًا - إذا كانت الكعكة مصنوعة من الخوارزميات.

هذه الخطوة تتصدى مباشرة لسياسة الاحتفاظ بالبيانات التي أعلنتها أنثروبيك مؤخرًا، والتي أزعجت بعض العملاء. تلك السياسة، التي دخلت حيز التنفيذ في يوليو، تسمح لمختبر الذكاء الاصطناعي بالاحتفاظ ببيانات المستخدم - جميع الجلسات والمحادثات - لمدة 30 يومًا عندما يتعلق الأمر بـ 'النماذج المشمولة'، بما في ذلك جميع نماذج فئة Mythos و'النماذج المستقبلية ذات القدرات المماثلة'. صُممت السياسة لأغراض السلامة، مما يسمح للمختبر بفحص الاحتمالات غير اللائقة. لكنها أثارت قلقًا عميقًا لدى المؤسسات التي تتعامل مع بيانات حساسة ولا تريد أن تحتضنها أو تفحصها شركة الذكاء الاصطناعي.

تقدم OpenAI، مثل معظم شركات الذكاء الاصطناعي، مستوى من الخصوصية بالفعل عبر الاحتفاظ الصفري للبيانات (ZDR). يستخدم ZDR وكلاء داخل واجهة برمجة تطبيقات OpenAI لمراقبة إساءة الاستخدام على أساس كل جلسة، بحيث لا يتم الاحتفاظ ببيانات العميل، ولكن لا يزال يمكن الإبلاغ عن النشاط السيئ دون تدخل بشري. ومن الجدير بالذكر أن أنثروبيك تلتزم أيضًا بمعيار ZDR - باستثناء 'النماذج المشمولة' مثل Fable.

تقول OpenAI إن المعالجة الأمنية الخاصة توسع نطاق ZDR. إنها شكل من أشكال مراقبة السلامة طويلة المدى التي تقيم المدخلات والمخرجات عبر محادثات متعددة، وليس محادثة واحدة فقط. تتم المراقبة بواسطة وكيل، إذا تم تفعيله، يلتقط التفاعلات ويحللها عبر الجلسات بحثًا عن علامات إساءة الاستخدام. يساعد هذا في اكتشاف الاستخدام الخبيث الذي يمتد عبر جلسات متعددة - مثل ممثل سيئ يحاول هندسة برمجيات خبيثة عن طريق توزيع الطلبات لتجنب الكشف. يمكن للمعالجة الأمنية الخاصة تحليل تلك المحادثات بحثًا عن إساءة الاستخدام دون مراجعة بشرية.

إذا تم تفعيل النظام، فقد يرسل 'إشارة محددة بدقة' إلى OpenAI تحذر من نشاط معين. بناءً على ذلك، يمكن لـ OpenAI أن تقرر ما إذا كان 'الإنفاذ ضروريًا'. إذا كان الأمر كذلك، فسيتواصلون مع العميل للحصول على سياق أو للعمل على المشكلة، وقد يختار العميل مشاركة البيانات وفقًا لتقديره. وفي الوقت نفسه، تشير أنثروبيك إلى أن المراجعة البشرية لبيانات العملاء يمكن أن تحدث، ولكن فقط من خلال 'مسار وصول خاضع للرقابة' يشمل 'مجموعة صغيرة من المراجعين المعتمدين'، مع تسجيل كل جلسة مراجعة في سجل مقاوم للعبث لا يمكن للمراجعين قمعه أو تعديله.

التنافس بين OpenAI وأنثروبيك يشتد، حيث تسعى كل منهما إلى أي ميزة. أظهر تقرير حديث أن نمو OpenAI في الربع الثاني أبطأ من نمو أنثروبيك، التي يبلغ معدل إيراداتها السنوي حوالي 65 مليار دولار. وقد طرح مستثمرو أنثروبيك فكرة طرح عام أولي بقيمة 2 تريليون دولار، بينما تعمل OpenAI أيضًا على طرحها العام الأولي. في السباق لكسب ثقة المؤسسات، ألقت OpenAI للتو قفاز الخصوصية - وهو ملفوف بالآحاد والأصفار.