زعمت شركة "Anthropic" الناشئة في مجال الذكاء الاصطناعي أن قراصنة ترعاهم الصين استخدموا أدوات الشركة المعتمدة على الذكاء الاصطناعي لشن هجمات إلكترونية على شركات كبرى وحكومات.
قالت "Anthropic" التي تتخذ من الولايات المتحدة مقرا لها إنها تعتقد بدرجة عالية من الثقة أن القراصنة الذين نفذوا نحو 30 هجوما ينتمون إلى مجموعة صينية ترعاها الدولة.
استخدم القراصنة أداة "Claude Code" التابعة لـ"Anthropic" لمحاولة اختراق أهداف حول العالم، من بينها وكالات حكومية وشركات مالية وتقنية، وقد نجحوا في عدد قليل من الحالات، بحسب الشركة.
ولم تسم "Anthropic" الجهات المتضررة، لكنها قالت إن العملية تُعد أول حملة تجسس إلكتروني مُدارة بواسطة الذكاء الاصطناعي يتم الإبلاغ عنها.
وأضافت أن القراصنة أرادوا استخدام "Claude Code" لاستخراج بيانات حساسة من أهدافهم وتنظيمها لتحديد المعلومات ذات القيمة، وبينما تم تدريب "Claude" على تجنب السلوك الضار، قالت "Anthropic" إن القراصنة خدعوا الأداة لتنفيذ مهام خبيثة عبر الادعاء بأنها مخصصة لاختبارات الأمن السيبراني.
واستخدم القراصنة الذكاء الاصطناعي لتنفيذ بين 80 و90 في المئة من الحملة بحسب تصريحات الشركة ، مع الحاجة إلى تدخل بشري على نحو متقطع فقط، وقال جرايم ستيوارت رئيس القطاع العام لدى شركة الأمن السيبراني "Check Point Software Technologies": "إذا ثبتت مزاعم "Anthropic"، فهذا يعني أن الجماعات المعادية لم تعد تجرب [بالذكاء الاصطناعي] بعد الآن، إنها تعمل فعليا".
وكانت "Anthropic" قد رصدت الهجوم في منتصف سبتمبر وأطلقت تحقيقا على الفور، وخلال الأيام العشرة التالية، أوقفت وصول المجموعة إلى "Claude" وتواصلت مع الجهات المتضررة وسلطات إنفاذ القانون.
وأضافت الشركة أن مثل هذه الهجمات ستصبح على الأرجح أكثر فاعلية بمرور الوقت، وأنها وسعت قدرات الرصد لديها للإشارة إلى الأنشطة المحتمل أن تكون خبيثة، وقالت إنها تعمل على أساليب إضافية للتحقيق والكشف عن هجمات واسعة النطاق وموزعة كهذه.
وأشار ستيوارت إلى أن نماذج ذكاء اصطناعي أخرى يمكن أيضا أن تستغل لشن هجمات إجرامية عبر الإنترنت، وقال: "أي مساعد للذكاء الاصطناعي واسع الاستخدام يمكن إدراجه ضمن عدة للجريمة إذا استغله شخص يملك النية الكافية بالطريقة المناسبة".