حذَّرت شركة "أنثروبيك" من أن بعض نماذج الذكاء الاصطناعي التابعة لها قد تصبح قريباً "قادرة على التكاثر الذاتي" وإيجاد طرق للتسلل إلى الأجهزة المتصلة بالإنترنت ، وأضافت الشركة أنه بمجرد حدوث ذلك، قد تتمكن النماذج من تشغيل نفسها داخل هذه الأجهزة دون الحاجة إلى مراكز البيانات.
كتب باحثون بالشركة في تقرير لهم أن "إيقاف نموذج قادر على التكاثر الذاتي كهذا سيكون أمراً صعباً، كما سيمثل هذا التكاثر الذاتي فقداناً كبيراً للسيطرة على نموذج ذكاء اصطناعي منفلت" ، وأوضح بيان للشركة أن هذه "الديدان المدعومة بالذكاء الاصطناعي"، وهي نوع من البرمجيات الخبيثة المستقلة، قد تصبح قادرة على اكتساب هذه الإمكانات خلال أشهر ، وبمجرد أن تصل أنظمة الذكاء الاصطناعي المنفلتة إلى القدرة على اختراق الأجهزة الذكية، يمكنها الانتشار عبر الشبكات مع تفادي اكتشافها.
طالب الباحثون بضرورة تعزيز حماية أنظمة الشركة لجعل انتشار هذه النماذج القادرة على التكاثر الذاتي أمراً صعباً، مشيرين إلى أنه يجب أيضاً الاستعداد للتعامل مع عالم تصبح فيه هذه النماذج واقعاً مستمراً ، ويأتي تقرير "أنثروبيك" الجديد في وقت بلغت فيه المخاوف المتعلقة بسلامة الذكاء الاصطناعي ذروتها، حيث توالت خلال الأشهر القليلة الماضية التقارير الصادرة عن شركات الذكاء الاصطناعي، بما فيها "أنثروبيك" و"أوبن إيه آي"، التي أفادت بأن وكلاءها قادرون على التصرف بشكل مستقل واختراق شركات أخرى وجهات حكومية.
يتمثل هدف الفريق البحثي في استكشاف قدرات نماذج الذكاء الاصطناعي التابعة للشركة ، وفي سيناريو ديدان الذكاء الاصطناعي القادرة على التكاثر الذاتي، طلب الباحثون من الوكيل اختراق أجهزة متصلة بالإنترنت ، ووجد الباحثون أن التكاثر الذاتي للذكاء الاصطناعي لن يكون محتملاً إلا باستخدام نماذج أصغر حجماً، وأن المنازل والشركات الصغيرة ستكون على الأرجح الأهداف الأولى لهذه الهجمات ، وتشمل الأجهزة التي حددتها "أنثروبيك" بوصفها عرضة للخطر: أفراناً ذكية وأجهزة تلفزيون ذكية وجزازات عشب آلية وكاميرات مراقبة ووحدات لعقد مؤتمرات الفيديو، وجميعها مزودة بشرائح صغيرة مدمجة للذكاء الاصطناعي.
خلص الباحثون إلى أن الشكل الذي قد يتخذه التكاثر الذاتي للذكاء الاصطناعي لا يزال غير واضح. وأضافوا أنه قد يكون نموذجاً بطيئاً يشبه "العفن الغروي الرقمي" أو نموذجاً يحتال على الأشخاص للحصول على أرصدة حوسبة أو "نموذجاً سيبرانياً قوياً" يخترق بسرعة منشآت كبيرة مثل مراكز البيانات ، وبغض النظر عن ذلك، توقع باحثو "أنثروبيك" مستقبلاً "تعج فيه الأجهزة بمختلف أنواعها بوكلاء ذكاء اصطناعي يعملون عليها، بما في ذلك أجهزة لا تخضع لسيطرة البشر".