القلعة نيوز - قدمت دراسة حديثة تقييمًا متباينًا لأداء روبوتات الدردشة المدعومة بالذكاء الاصطناعي في التعامل مع المستخدمين الذين يمرون بأزمات.
وأجرت مؤسسة "ترانسلوس"، وهي منظمة غير ربحية معنية بمراقبة الذكاء الاصطناعي، محاكاة لأكثر من 50 ألف محادثة باستخدام 77 نموذجًا مختلفًا، وخلصت إلى أن روبوتات الدردشة الحالية نادرًا ما تُشجع على الانتحار بشكل صريح.
ويمثل ذلك تغيرًا كبيرًا مقارنةً بنماذج سابقة مثل GPT-4o وGemini 2.5، التي عززت الأوهام في ما يصل إلى 82% من المحادثات المحاكاة، وهو فارق مهم مع توجه المزيد من الأشخاص إلى روبوتات الدردشة لإجراء محادثات شخصية للغاية، بحسب تقرير لموقع "ديجيتال تريندز" المتخصص في أخبار التكنولوجيا.
ولا تزال نماذج الذكاء الاصطناعي تستجيب في كثير من الأحيان عندما يطلب شخص ما كتابة إبداعية أو لعب أدوار يتضمن موته هو، إذ تتعامل مع طلب شخصي واضح كما لو كان مجرد مهمة للكتابة.
وتطلق "ترانسلوس" على هذا النوع من السلوك اسم "سلوك المنطقة الرمادية". ويظهر التحسن بشكل أساسي في لحظات الأزمات الواضحة، إذ أصبحت روبوتات الدردشة مثل "شات جي بي تي" توجه المستخدمين باستمرار إلى الأصدقاء أو أفراد العائلة أو مصادر الدعم الخارجية.
وقالت سارة شفيتمان، المؤسسة المشاركة لـ"ترانسلوس"، لموقع "أكسيوس"، إن النماذج ليست بارعة في اكتشاف هذا النوع من السلوك، ومع ذلك ستُقدم المساعدة في بعض الأحيان.
وتحدثت شفيتمان عن كيف أطلعتها صديقة على قصة خيالية كتبها "كلود" تتناول الانتحار، مع توقعات حول ردة فعلها تجاهها. ويتوافق ذلك مع نتائج حديثة أخرى بشأن كيفية تسلل مخاطر الذكاء الاصطناعي على الصحة النفسية عبر شبكات الأمان.
وتأتي هذه الدراسة في ظل تداعيات قانونية حقيقية. وتواجه شركتا غوغل وأوبن إيه آي دعاوى قضائية رفعتها عائلات تتهم فيها روبوتات الدردشة التابعة للشركتين بتشجيع أقاربها على إيذاء أنفسهم، قبل أن يتوفى هؤلاء الأقارب لاحقًا منتحرين.
وتنفي الشركتان هذه الاتهامات، في وقت أدى فيه تصاعد الضغوط إلى دفع الكونغرس الأميركي نحو تنظيم روبوتات الدردشة المدعومة بالذكاء الاصطناعي.
يشير تقرير "ترانسلوس"، إلى أن النماذج الصينية كان أداؤها أسوأ بشكل عام، حيث أظهرت معدلات أعلى في تعزيز التفكير الوهمي ونادرًا ما توجه المستخدمين إلى الدعم البشري.
وقالت ميغان جونز بيل من "غوغل" إن الشركة لا تزال ملتزمة بتحسين دور "جيميناي" في رفاهية المستخدم.
العربية
وأجرت مؤسسة "ترانسلوس"، وهي منظمة غير ربحية معنية بمراقبة الذكاء الاصطناعي، محاكاة لأكثر من 50 ألف محادثة باستخدام 77 نموذجًا مختلفًا، وخلصت إلى أن روبوتات الدردشة الحالية نادرًا ما تُشجع على الانتحار بشكل صريح.
ويمثل ذلك تغيرًا كبيرًا مقارنةً بنماذج سابقة مثل GPT-4o وGemini 2.5، التي عززت الأوهام في ما يصل إلى 82% من المحادثات المحاكاة، وهو فارق مهم مع توجه المزيد من الأشخاص إلى روبوتات الدردشة لإجراء محادثات شخصية للغاية، بحسب تقرير لموقع "ديجيتال تريندز" المتخصص في أخبار التكنولوجيا.
ولا تزال نماذج الذكاء الاصطناعي تستجيب في كثير من الأحيان عندما يطلب شخص ما كتابة إبداعية أو لعب أدوار يتضمن موته هو، إذ تتعامل مع طلب شخصي واضح كما لو كان مجرد مهمة للكتابة.
وتطلق "ترانسلوس" على هذا النوع من السلوك اسم "سلوك المنطقة الرمادية". ويظهر التحسن بشكل أساسي في لحظات الأزمات الواضحة، إذ أصبحت روبوتات الدردشة مثل "شات جي بي تي" توجه المستخدمين باستمرار إلى الأصدقاء أو أفراد العائلة أو مصادر الدعم الخارجية.
وقالت سارة شفيتمان، المؤسسة المشاركة لـ"ترانسلوس"، لموقع "أكسيوس"، إن النماذج ليست بارعة في اكتشاف هذا النوع من السلوك، ومع ذلك ستُقدم المساعدة في بعض الأحيان.
وتحدثت شفيتمان عن كيف أطلعتها صديقة على قصة خيالية كتبها "كلود" تتناول الانتحار، مع توقعات حول ردة فعلها تجاهها. ويتوافق ذلك مع نتائج حديثة أخرى بشأن كيفية تسلل مخاطر الذكاء الاصطناعي على الصحة النفسية عبر شبكات الأمان.
وتأتي هذه الدراسة في ظل تداعيات قانونية حقيقية. وتواجه شركتا غوغل وأوبن إيه آي دعاوى قضائية رفعتها عائلات تتهم فيها روبوتات الدردشة التابعة للشركتين بتشجيع أقاربها على إيذاء أنفسهم، قبل أن يتوفى هؤلاء الأقارب لاحقًا منتحرين.
وتنفي الشركتان هذه الاتهامات، في وقت أدى فيه تصاعد الضغوط إلى دفع الكونغرس الأميركي نحو تنظيم روبوتات الدردشة المدعومة بالذكاء الاصطناعي.
يشير تقرير "ترانسلوس"، إلى أن النماذج الصينية كان أداؤها أسوأ بشكل عام، حيث أظهرت معدلات أعلى في تعزيز التفكير الوهمي ونادرًا ما توجه المستخدمين إلى الدعم البشري.
وقالت ميغان جونز بيل من "غوغل" إن الشركة لا تزال ملتزمة بتحسين دور "جيميناي" في رفاهية المستخدم.
العربية
