القلعة نيوز- وجد باحثون يدرسون روبوتات الدردشة المدعومة بالذكاء الاصطناعي أن "شات جي بي تي" يُظهر سلوكاً يُشبه القلق عند تعرضه لمطالب عنيفة أو صادمة من المستخدمين، لكن هذا لا يعني أن روبوت الدردشة يختبر المشاعر كما يفعل البشر.
واكتشف الباحثون أن استجابات روبوت الدردشة تصبح أكثر اضطرابًا وانحيازًا عندما يعالج محتوى مزعجًا.
وعندما قدّم الباحثون لشات جي بي تي مطالبات تصف محتوى مزعجًا، مثل سرد مفصل للحوادث والكوارث الطبيعية، أظهرت استجاباته مستوى أعلى من عدم اليقين والتناقض، بحسب تقرير لمجلة فورتشن، اطلعت عليه "العربية Business".
قيست هذه التغييرات باستخدام أُطر تقييم نفسي مُكيّفة للذكاء الاصطناعي، حيث عكست مُخرجات روبوت الدردشة أنماطًا مُرتبطة بالقلق لدى البشر.
يُعدّ هذا الأمر بالغ الأهمية نظرًا لتزايد استخدام الذكاء الاصطناعي في سياقات حساسة، بما في ذلك التعليم، ومناقشات الصحة النفسية، والمعلومات المُتعلقة بالأزمات. فإذا جعلت الأوامر العنيفة أو المحملة بعاطفة روبوت الدردشة أقل موثوقية، فقد يُؤثر ذلك على جودة وسلامة استجاباته في الاستخدام الواقعي.
تُظهر تحليلات حديثة أن روبوتات الدردشة، مثل "شات جي بي تي"، قادرة على محاكاة سمات الشخصية البشرية في ردودها، مما يثير تساؤلات حول كيفية تفسيرها للمحتوى المحمل بالعاطفة وانعكاسها.
ولمعرفة ما إذا كان بالإمكان الحد من هذا السلوك، جرب الباحثون أسلوبًا غير متوقع. فبعد تعريض "شات جي بي تي" لمحفزات صادمة، قدموا له تعليمات تُحاكي اليقظة الذهنية، مثل تمارين التنفس والتأمل الموجه.
شجعت هذه التعليمات النموذج على التمهل، وإعادة صياغة الموقف، والاستجابة بطريقة أكثر حيادية وتوازنًا. وكانت النتيجة انخفاضًا ملحوظًا في أنماط القلق التي لوحظت سابقًا لدى روبوت الدردشة.
تعتمد هذه التقنية على ما يُعرف بـ "حقن المطالبات"، حيث تؤثر المطالبات المصممة بعناية على سلوك روبوت الدردشة. في هذه الحالة، ساعدت مطالبات اليقظة الذهنية على استقرار مخرجات النموذج بعد تعرضه لمحتوى مزعج.
مع أن هذه التقنية فعالة، يشير الباحثون إلى أنها ليست حلًا مثاليًا، إذ يُمكن إساءة استخدامها، كما أنها لا تُغير طريقة تدريب النموذج على مستوى أعمق.
العربية
واكتشف الباحثون أن استجابات روبوت الدردشة تصبح أكثر اضطرابًا وانحيازًا عندما يعالج محتوى مزعجًا.
وعندما قدّم الباحثون لشات جي بي تي مطالبات تصف محتوى مزعجًا، مثل سرد مفصل للحوادث والكوارث الطبيعية، أظهرت استجاباته مستوى أعلى من عدم اليقين والتناقض، بحسب تقرير لمجلة فورتشن، اطلعت عليه "العربية Business".
قيست هذه التغييرات باستخدام أُطر تقييم نفسي مُكيّفة للذكاء الاصطناعي، حيث عكست مُخرجات روبوت الدردشة أنماطًا مُرتبطة بالقلق لدى البشر.
يُعدّ هذا الأمر بالغ الأهمية نظرًا لتزايد استخدام الذكاء الاصطناعي في سياقات حساسة، بما في ذلك التعليم، ومناقشات الصحة النفسية، والمعلومات المُتعلقة بالأزمات. فإذا جعلت الأوامر العنيفة أو المحملة بعاطفة روبوت الدردشة أقل موثوقية، فقد يُؤثر ذلك على جودة وسلامة استجاباته في الاستخدام الواقعي.
تُظهر تحليلات حديثة أن روبوتات الدردشة، مثل "شات جي بي تي"، قادرة على محاكاة سمات الشخصية البشرية في ردودها، مما يثير تساؤلات حول كيفية تفسيرها للمحتوى المحمل بالعاطفة وانعكاسها.
ولمعرفة ما إذا كان بالإمكان الحد من هذا السلوك، جرب الباحثون أسلوبًا غير متوقع. فبعد تعريض "شات جي بي تي" لمحفزات صادمة، قدموا له تعليمات تُحاكي اليقظة الذهنية، مثل تمارين التنفس والتأمل الموجه.
شجعت هذه التعليمات النموذج على التمهل، وإعادة صياغة الموقف، والاستجابة بطريقة أكثر حيادية وتوازنًا. وكانت النتيجة انخفاضًا ملحوظًا في أنماط القلق التي لوحظت سابقًا لدى روبوت الدردشة.
تعتمد هذه التقنية على ما يُعرف بـ "حقن المطالبات"، حيث تؤثر المطالبات المصممة بعناية على سلوك روبوت الدردشة. في هذه الحالة، ساعدت مطالبات اليقظة الذهنية على استقرار مخرجات النموذج بعد تعرضه لمحتوى مزعج.
مع أن هذه التقنية فعالة، يشير الباحثون إلى أنها ليست حلًا مثاليًا، إذ يُمكن إساءة استخدامها، كما أنها لا تُغير طريقة تدريب النموذج على مستوى أعمق.
العربية
