أعلنت أنثروبيك عن كلود سكيوريتي، منتج أمن سيبراني دفاعي جديد متاح حاليًا في النسخة التجريبية العامة لمستخدمي كلود من الفئة المؤسسية، مع توفر "قريبًا" لمستخدمي كلود تيم وماكس. تتيح الأداة لفرق الأمن "فحص قواعد الشفرات بحثًا عن الثغرات وإنشاء تصحيحات مستهدفة" باستخدام نموذج كلود أوبوس 4.7.
في وقت سابق من هذا الشهر، كشفت أنثروبيك عن مشروع غلاسوينغ، وهو مشروع ذكاء اصطناعي من نوع مانهاتن يهدف إلى إيجاد الثغرات في البنية التحتية العالمية للبرمجيات مفتوحة المصدر. يستخدم غلاسوينغ نموذجًا من أنثروبيك يُدعى ميثوس، وهو نموذج يُعتبر خطيرًا لدرجة أنه لم يُطرح للجمهور. يُشارك مع المشاركين في غلاسوينغ، بمن فيهم منافسون سابقون مثل أمازون ويب سيرفيسز، وأنثروبيك، وآبل، وبرودكوم، وسيسكو، وكراود سترايك، وغوغل، وجي بي مورغان تشيس، ومؤسسة لينكس، ومايكروسوفت، وإنفيديا، وبالو ألتو نيتووركس.
في صميم كل من مشروع غلاسوينغ وكلود سكيوريتي يوجد فحص الثغرات. تبدأ معظم الهجمات الإلكترونية باستغلال عدو لثغرة. لذا، إذا تمكن المدافعون من العثور على الثغرات وتصحيحها، يقل سطح الهجوم المتاح للمهاجم الخبيث. تذكر حرب النجوم؟ تدور حبكة فيلم "أمل جديد" بأكملها حول مخططات نجمة الموت التي تخزنها الأميرة ليا في R2-D2. بمجرد حصول المتمردين على تلك المخططات، يتمكنون من العثور على ثغرة. كل ما على لوك والطيارين الآخرين فعله هو إطلاق طوربيد واحد في منفذ عادم على نجمة الموت، و... انفجار! هذه، يا أولاد وبنات، هي ثغرة. كان لنجمة الموت عيب قاتل واحد. قاعدة الشفرات الخاصة بك ربما تحتوي على المزيد. تريد أداة كلود سكيوريتي الجديدة من أنثروبيك العثور عليها قبل أن يصل المهاجمون أولاً.
بالعودة إلى العالم الحقيقي، كل شيء يعمل على البرمجيات، وهي بطبيعتها معرضة للثغرات. لا تفتح الثغرات الأبواب فقط أمام الخصوم لاستغلالها، بل قد تسبب أيضًا ضررًا بمجرد وجودها والتسبب في أخطاء يواجهها مستخدمو البرمجيات. استخدمت الذكاء الاصطناعي لأول مرة لفحص الثغرات في سبتمبر مع كودكس من أوبن إيه آي. في ذلك الوقت، فشل لأنه لم يستطع التعامل مع سياق على مستوى المشروع. ولكن عندما جمعت أداة البرمجة الزوجية بالذكاء الاصطناعي مع ديب ريسيرتش من شات جي بي تي، والتي كانت أفضل مع كميات كبيرة من البيانات، وجد الاثنان عددًا من الثغرات الحرجة في برمجياتي الأمنية، والتي أصلحتها فورًا. منذ ذلك الحين، تحسن كل من كودكس وكلود كود من حيث كمية الشفرة التي يمكنهما معالجتها في سياق واحد، لكن لا يمكن لأي منهما التعامل مع قاعدة شفرات كاملة كبيرة في وقت واحد. لكن ميثوس يمكنه ذلك. بل يمكنه حتى التعامل مع العلاقات بين قواعد الشفرات على نطاق واسع. لكنه غير متاح للجمهور، حتى عبر رسوم الفئة المؤسسية. الشهر الماضي، قدمت أوبن إيه آي كودكس سكيوريتي، الذي يقدم أيضًا تحليل سياق أوسع نطاقًا. والآن يمكن لكلود سكيوريتي إجراء عمليات فحص مماثلة على نطاق أوسع.
هذا المنتج الجديد قادر على فحص مستودع كامل أو دليل مستهدف. وفقًا لأنثروبيك، "كلود يفكر في الشفرة بالطريقة التي يفكر بها باحث الأمن، يتتبع تدفقات البيانات، ويقرأ الشفرة المصدرية، ويكتشف كيف تتفاعل المكونات عبر الملفات والوحدات."
هناك المزيد عن كلود سكيوريتي، لكن دعنا أولاً نتحدث عن الثغرة الكبيرة التي تقدمها أدوات فحص الثغرات بالذكاء الاصطناعي. تساعد أدوات فحص الثغرات المدافعين في الدفاع. لكنها تساعد أيضًا المهاجمين في العثور على مكان الهجوم. كانت هذه هي النقطة برمتها في هجوم المتمردين على نجمة الموت. بمجرد معرفتهم بثغرة، تمكنوا من استغلالها. على سبيل المثال، أبلغت كل من مايكروسوفت وأوبن إيه آي أن جهات فاعلة تابعة لدول من الصين وإيران وروسيا وكوريا الشمالية استخدمت نماذج لغوية كبيرة للبحث في شركات وأدوات أمن سيبراني مختلفة، وتصحيح الشفرات، وإنشاء سكريبتات، وإنشاء محتوى يُحتمل استخدامه في حملات التصيد والتصيد المُوجه.
تحاول أنثروبيك منع نماذجها من الاستخدام بطرق مماثلة. مع إطلاق أوبوس 4.7، تتضمن الشركة ضمانات سيبرانية جديدة تكتشف وتحظر تلقائيًا الطلبات التي توحي باستخدامات سيبرانية محظورة أو عالية المخاطر.