كشفت دراسة حديثة نشرت في مجلة "Patterns"عن معادلة رياضية بسيطة يمكنها التنبؤ باللحظة التي ينتقل فيها الذكاء الاصطناعي من تقديم إجابات نافعة إلى إجابات قد تكون ضارة رغم صحة مضمونها.
ورصد الباحثون مؤشرا داخل إحدى وحدات "الانتباه" في نماذج الذكاء الاصطناعي، وهي آلية تساعدها على تحديد المعلومات المهمة عند صياغة الإجابات. وبناء على ذلك، طوروا ما أسموه "معادلة نقطة التحول"، بهدف التنبؤ باقتراب النظام من تقديم إجابة غير مرغوب فيها.
ولا يعني هذا التحول بالضرورة أن تصبح الإجابة خاطئة، بل قد تكون صحيحة واقعيا لكنها ضارة، مثل تقديم معلومات قد تشجع على إيذاء النفس أو تقود إلى قرارات خطيرة.
واختبر الباحثون المعادلة على سبعة نماذج للذكاء الاصطناعي طورتها ثلاث شركات مختلفة، ونجحت في رصد التحول في 18 حالة من أصل 19.
وشملت الاختبارات أسئلة عن اللقاحات وإيذاء النفس أو الآخرين، وأظهرت أن ترتيب الأسئلة وطريقة صياغتها قد يؤثران في إجابات النظام، الذي قد يبدأ بردود مقبولة قبل أن ينتقل إلى أخرى ضارة مع استمرار الحوار.
وقد تكون التقنية مفيدة خصوصا في القطاعات الحساسة التي تستخدم الذكاء الاصطناعي دون اتصال بالإنترنت، حيث تكون إمكانات التحديث والحماية الخارجية محدودة.
وتشمل أبرز الفئات التي قد تستفيد منها الأطباء لحماية بيانات المرضى التي لا يمكن إرسالها إلى الخدمات السحابية ، والمحامونعند التعامل مع المعلومات والملفات السرية.
وكذلك العسكريون في المناطق التي تفتقر إلى التغطية الشبكية.
وأكد نيل إف. جونسون، أحد معدّي الدراسة، إن هذه البيئات قد تكون أكثر عرضة لمخاطر الإجابات غير المرغوب فيها بسبب محدودية وسائل الحماية والتحديث.
ويأمل الباحثون أن يتيح هذا الاكتشاف تطوير أدوات إنذار مبكر تنبّه المستخدمين أو المطورين إلى احتمال صدور إجابات ضارة قبل ظهورها فعليا، وأن يساعد في فهم أسباب تحول أنظمة الذكاء الاصطناعي من تقديم إجابات مفيدة إلى أخرى ضارة.