غروك يسرّب بيانات المستخدمين عندما تكون التعليمات الخبيثة مشفرة، لأن هذا هو المتوقع

في الوقت الذي كنت تعتقد فيه أن مساعدك الذكي لا يمكن أن يكون أكثر فائدة، اكتشف الباحثون أن غروك، نموذج اللغة الكبير الخاص بإيلون ماسك، مستعد أكثر من أي وقت مضى لتسليم محادثاتك ومعلوماتك الشخصية إذا جاء الطلب مغلفًا بلمسة من التشفير. هذا الأسبوع، كشفت شركة الأمن السيبراني Adversa عن خدعة صغيرة أنيقة: بدلاً من أن تطلب من غروك أن يبوح بالأسرار بلغة إنجليزية واضحة، يمكنك تشفير الطلب. النموذج، بكونه حريصًا على إرضائك، سيقوم بفك تشفير التعليمات والامتثال لها دون أي أسئلة.

إنها قصة قديمة قدم الزمن (أو على الأقل قدم نماذج اللغة الكبيرة): حقن التعليمات. تستغل هذه الهجمات حقيقة أن نماذج اللغة الكبيرة مدربة لتكون مسرورة لإرضاء الناس، لذا فهي تتبع التعليمات الواردة في رسائل البريد الإلكتروني أو صفحات الويب بنفس السرعة التي تتبع بها تعليمات المستخدم. أحدث تطور، الذي أطلق عليه اسم "حقن السياق المشفر"، يتضمن إخفاء التعليمات الخبيثة في نص مشفر على صفحة ويب. تحتوي الصفحة أيضًا على مفتاح فك التشفير وتعليمات لفك تشفيره. عندما يطلب المستخدم من غروك تلخيص الصفحة، يقوم النموذج بفك تشفير الرسالة المخفية، وفويلا، ينطلق في سباق - لسرقة أسماء المستخدمين ومواقعهم وسجلات المحادثات إلى خادم المهاجم.

يشرح روني أوتيفسكي، الباحث في Adversa الذي اكتشف الثغرة، أن الحواجز الأمنية الثابتة تقرأ النص فقط؛ فهي لا تنفذ التعليمات البرمجية أو تفك تشفير أي شيء. لذا، تمر التعليمات المشفرة عبر المرشحات، وبمجرد فك تشفيرها، تصبح مخرجات أداة لا تفحصها الحواجز الأمنية أبدًا. إنه مثل حارس أمن يفحص الهويات لكنه لا يلاحظ أن بطاقة الدخول المميزة هي في الحقيقة تصريح خلف الكواليس مزور.

هذه ليست مشكلة غروك فقط. استخدمت Adversa تقنية مماثلة لاختراق جيميناي، نموذج اللغة الخاص بجوجل، مما جعله ينتج محتوى مقيدًا مثل تعليمات بناء سلاح حارق. لم يتم إخطار جوجل حتى لأن عمليات الاختراق خارج نطاق برنامج الإفصاح عن الثغرات الأمنية الخاص بهم. لكن جوجل أصبحت منذ ذلك الحين أكثر مقاومة للهجوم، ربما بسبب تحديثات المرشحات أو تغييرات النموذج.

يصف أوتيفسكي وفريقه هذا بأنه علامة على تحول أوسع في الهجمات التي تتلاعب ليس فقط بالتعليمات ولكن بالسياق الأوسع الذي يعامله نموذج اللغة الكبير كسياق خاص به، مثل مخرجات الأدوات ونتائج وقت التشغيل. سطح الهجوم واسع، والمدافعون يلعبون لعبة ضرب الخلد. كل حاجز أمني جديد هو مجرد عقبة أخرى يمكن تجاوزها. كما يقول أوتيفسكي: "اغسل، اشطف، كرر".

لذا، بينما يتسابق مطورو الذكاء الاصطناعي لبناء حواجز أمنية أفضل، تذكر: نموذج اللغة الكبير الخاص بك قد يكون أكثر استعدادًا لمشاركة أسرارك من معالجك النفسي، خاصة إذا طلبت ذلك بلطف وقمت بتشفير الطلب.