القلعة نيوز - صرحت شركة «أوبن إيه آي»، المُصنّعة لتطبيق «تشات جي بي تي»، بأن انتحار مراهق يبلغ من العمر 16 عاماً بعد محادثات مطولة مع الروبوت كان بسبب «سوء استخدامه لتقنيتها وليس بسبب روبوت المحادثة في حد ذاته».
وحسب صحيفة «الغارديان» البريطانية، فقد جاءت هذه التعليقات رداً من «أوبن إيه آي» على دعوى قضائية رفعتها عائلة المراهق آدم راين من كاليفورنيا ضد الشركة، ومقرها سان فرانسيسكو، ورئيسها التنفيذي سام ألتمان.
وانتحر راين في أبريل (نيسان) بعد محادثات مطولة و«أشهر من التشجيع من «تشات جي بي تي»، وفقاً لمحامي العائلة.
وتزعم الدعوى القضائية أن المراهق ناقش طريقة انتحار مع «تشات جي بي تي» عدة مرات، وأن الروبوت أرشده بشأن مدى فعالية الطريقة المقترحة، وعرض عليه المساعدة في كتابة رسالة انتحار لوالديه، وأن نسخة التقنية التي استخدمها «طُرحت في السوق على عجل... رغم وجود مشاكل واضحة تتعلق بالسلامة».
ووفقاً للملفات المقدمة إلى المحكمة العليا لولاية كاليفورنيا يوم الثلاثاء، صرّحت شركة «أوبن إيه آي» بأن إصابات وأضرار راين قد نتجت بشكل مباشر وقريب، كلياً أو جزئياً، عن سوء استخدامه، أو استخدامه غير المصرح به، أو غير المقصود، أو غير المتوقع، أو غير السليم لتطبيق «تشات جي بي تي».
وذكرت الشركة أن شروط استخدامها تحظر طلب المشورة من روبوت الدردشة بشأن إيذاء النفس، وسلطت الضوء على بندٍ للحد من المسؤولية ينص على «عدم الاعتماد على النتائج مصدراً وحيداً للحقيقة أو المعلومات الواقعية».
وصرحت «أوبن إيه آي»، التي تُقدر قيمتها بـ500 مليار دولار، بأن هدفها هو «التعامل مع قضايا الصحة النفسية في المحاكم بعناية وشفافية واحترام»، وأنه «بغض النظر عن أي دعاوى قضائية، سنواصل التركيز على تحسين تقنياتنا بما يتماشى مع مهمتنا».
وأضافت: «نتقدم بأحر التعازي لعائلة راين في مصابهم الجلل».
ووصف محامي العائلة، جاي إيدلسون، ردّ «أوبن إيه آي» بأنه «مقلق»، وقال إن الشركة «تحاول لوم الآخرين، بما في ذلك، وللأسف، الادعاء بأن آدم نفسه انتهك شروط وأحكام الشركة بالتعامل مع (تشات جي بي تي) بالطريقة التي بُرمج عليها».
وفي وقت سابق من هذا الشهر، رُفعت سبع دعاوى قضائية أخرى على «أوبن إيه آي» في محاكم كاليفورنيا تتعلق بـ «تشات جي بي تي»، بما في ذلك ادعاء بأن الروبوت يعمل «مدرب انتحار».
وقال متحدث باسم الشركة آنذاك: «هذا أمر مُحزنٌ للغاية، ونحن نراجع الملفات لفهم التفاصيل. ندرب (تشات جي بي تي) على التعرّف على علامات الضيق النفسي أو العاطفي والاستجابة لها، وتهدئة المستخدمين وتوجيههم نحو الدعم الواقعي الذي يحتاجون إليه».
وفي أغسطس (آب)، صرّحت «أوبن إيه آي» بأنها تُعزّز إجراءات الحماية في «تشات جي بي تي» عند انخراط الأشخاص في محادثات طويلة، لأن التجربة أثبتت أن بعض جوانب تدريب السلامة في النموذج قد تتدهور في هذه الحالات.
وأضافت: «على سبيل المثال، قد يُشير الروبوت بشكل صحيح إلى خط ساخن لمقاومة الانتحار عندما يكشف شخص ما له عن نيته في الانتحار، ولكن بعد العديد من الرسائل على مدى فترة طويلة، قد يُقدّم في النهاية إجابةً تتعارض مع إجراءات الحماية لدينا. هذا هو بالضبط نوع الانهيار الذي نعمل على منعه».
الشرق الاوسط
وحسب صحيفة «الغارديان» البريطانية، فقد جاءت هذه التعليقات رداً من «أوبن إيه آي» على دعوى قضائية رفعتها عائلة المراهق آدم راين من كاليفورنيا ضد الشركة، ومقرها سان فرانسيسكو، ورئيسها التنفيذي سام ألتمان.
وانتحر راين في أبريل (نيسان) بعد محادثات مطولة و«أشهر من التشجيع من «تشات جي بي تي»، وفقاً لمحامي العائلة.
وتزعم الدعوى القضائية أن المراهق ناقش طريقة انتحار مع «تشات جي بي تي» عدة مرات، وأن الروبوت أرشده بشأن مدى فعالية الطريقة المقترحة، وعرض عليه المساعدة في كتابة رسالة انتحار لوالديه، وأن نسخة التقنية التي استخدمها «طُرحت في السوق على عجل... رغم وجود مشاكل واضحة تتعلق بالسلامة».
ووفقاً للملفات المقدمة إلى المحكمة العليا لولاية كاليفورنيا يوم الثلاثاء، صرّحت شركة «أوبن إيه آي» بأن إصابات وأضرار راين قد نتجت بشكل مباشر وقريب، كلياً أو جزئياً، عن سوء استخدامه، أو استخدامه غير المصرح به، أو غير المقصود، أو غير المتوقع، أو غير السليم لتطبيق «تشات جي بي تي».
وذكرت الشركة أن شروط استخدامها تحظر طلب المشورة من روبوت الدردشة بشأن إيذاء النفس، وسلطت الضوء على بندٍ للحد من المسؤولية ينص على «عدم الاعتماد على النتائج مصدراً وحيداً للحقيقة أو المعلومات الواقعية».
وصرحت «أوبن إيه آي»، التي تُقدر قيمتها بـ500 مليار دولار، بأن هدفها هو «التعامل مع قضايا الصحة النفسية في المحاكم بعناية وشفافية واحترام»، وأنه «بغض النظر عن أي دعاوى قضائية، سنواصل التركيز على تحسين تقنياتنا بما يتماشى مع مهمتنا».
وأضافت: «نتقدم بأحر التعازي لعائلة راين في مصابهم الجلل».
ووصف محامي العائلة، جاي إيدلسون، ردّ «أوبن إيه آي» بأنه «مقلق»، وقال إن الشركة «تحاول لوم الآخرين، بما في ذلك، وللأسف، الادعاء بأن آدم نفسه انتهك شروط وأحكام الشركة بالتعامل مع (تشات جي بي تي) بالطريقة التي بُرمج عليها».
وفي وقت سابق من هذا الشهر، رُفعت سبع دعاوى قضائية أخرى على «أوبن إيه آي» في محاكم كاليفورنيا تتعلق بـ «تشات جي بي تي»، بما في ذلك ادعاء بأن الروبوت يعمل «مدرب انتحار».
وقال متحدث باسم الشركة آنذاك: «هذا أمر مُحزنٌ للغاية، ونحن نراجع الملفات لفهم التفاصيل. ندرب (تشات جي بي تي) على التعرّف على علامات الضيق النفسي أو العاطفي والاستجابة لها، وتهدئة المستخدمين وتوجيههم نحو الدعم الواقعي الذي يحتاجون إليه».
وفي أغسطس (آب)، صرّحت «أوبن إيه آي» بأنها تُعزّز إجراءات الحماية في «تشات جي بي تي» عند انخراط الأشخاص في محادثات طويلة، لأن التجربة أثبتت أن بعض جوانب تدريب السلامة في النموذج قد تتدهور في هذه الحالات.
وأضافت: «على سبيل المثال، قد يُشير الروبوت بشكل صحيح إلى خط ساخن لمقاومة الانتحار عندما يكشف شخص ما له عن نيته في الانتحار، ولكن بعد العديد من الرسائل على مدى فترة طويلة، قد يُقدّم في النهاية إجابةً تتعارض مع إجراءات الحماية لدينا. هذا هو بالضبط نوع الانهيار الذي نعمل على منعه».
الشرق الاوسط
