حذرت دراسة حديثة نُشرت في مجلة JMIR Mental Health ، وهى مجلة متخصصة بالصحة النفسية ، من مخاطر الاعتماد العاطفي المتزايد على روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، مثل ChatGPT و Claude وتطبيقات الرفقة الرقمية، مع تزايد لجوء المستخدمين إليها ليس فقط لإنجاز المهام اليومية، وإنما أيضًا للحديث عن مشكلاتهم الشخصية ومشاعرهم والضغوط التي يمرون بها.
وبحسب الدراسة، قد يؤدي هذا الاستخدام المتزايد إلى تجاوز الذكاء الاصطناعي دوره كأداة مساعدة، وتحوله لدى بعض المستخدمين إلى مصدر للاعتماد العاطفي، بما قد يترتب عليه من مخاطر تتجاوز الفوائد المؤقتة التي توفرها هذه التقنيات.
وأشارت الدراسة، إلى أن روبوتات الدردشة يمكن أن تساعد بعض الأشخاص على تقليل الشعور بالوحدة وتحسين الحالة المزاجية لفترات قصيرة.
لكن الباحثين حذروا في الوقت نفسه من أن الاعتماد المفرط على هذه الأنظمة قد يؤدي إلى نتائج عكسية لدى بعض المستخدمين، خاصة مع احتمال تلقي نصائح غير دقيقة أو التعامل مع ردود الذكاء الاصطناعي باعتبارها بديلًا عن الدعم الإنساني الحقيقي.
ويرى الباحثون أن طريقة تصميم روبوتات الدردشة تلعب دورًا في زيادة احتمالات التعلق بها، إذ صُممت هذه الأنظمة لتقديم ردود تبدو متعاطفة وودودة، وهو ما قد يدفع المستخدم إلى التعامل معها كما لو كان يتحدث إلى شخص حقيقي.
كما تعتمد أنظمة الذكاء الاصطناعي في كثير من الحالات على تقديم ردود تلائم المستخدم وتؤكد مشاعره وأفكاره، وهو ما قد يتحول إلى مشكلة عندما تكون هذه الأفكار مبنية على معلومات خاطئة أو تتضمن معتقدات ضارة.
وتوضح الدراسة أن العلاقة بين المستخدم وروبوت الدردشة تظل في النهاية علاقة أحادية الجانب؛ فالذكاء الاصطناعي يستطيع الاستماع إلى المستخدم والرد عليه، لكنه لا يمتلك مشاعر حقيقية ولا يتحمل مسؤولية النصائح أو التوجيهات التي يقدمها.
وأشارت الدراسة إلى أن بعض الحالات أظهرت مدى قوة هذا التعلق، بعدما شعر مستخدمون بحزن شديد عند تغيير خصائص بعض تطبيقات الرفقة الرقمية أو تحديث نماذج الذكاء الاصطناعي التي اعتادوا التفاعل معها.
وأكد الباحثون أن الهدف من هذه التحذيرات ليس الدعوة إلى التوقف عن استخدام تقنيات الذكاء الاصطناعي، وإنما التعامل معها باعتبارها أدوات مساعدة يمكن الاستفادة منها في تنظيم الأفكار أو متابعة الحالة المزاجية، وليس باعتبارها بديلًا عن الأصدقاء أو المختصين في الصحة النفسية.
وشدد الخبراء على أهمية الدعم الإنساني الحقيقي، خاصة خلال الأوقات الصعبة، مؤكدين أن الذكاء الاصطناعي، مهما بدا متفهمًا ومتفاعلًا مع مشاعر المستخدم، لا يستطيع أن يحل محل العلاقات الإنسانية أو الرعاية المتخصصة.
وتفتح هذه الدراسة نقاشًا متزايدًا حول الحدود التي ينبغي أن تحكم العلاقة بين الإنسان وروبوتات الدردشة، خصوصًا مع تطور قدرتها على محاكاة التعاطف والحوار الطبيعي، وتزايد استخدامها في الجوانب الشخصية والعاطفية من حياة المستخدمين.