القلعة نيوز - يستعد قادة في شركتي "أوبن إيه آي" و"أنثروبيك" وغيرهما من شركات الذكاء الاصطناعي، بحسب تقارير، لاحتمال وقوع كارثة مرتبطة بالذكاء الاصطناعي قد تدفع الجمهور إلى اتخاذ موقف معادٍ لهذه التكنولوجيا.
يجري قادة القطاع سرًا مناقشات بشأن السيناريوهات المحتملة لما قد يحدث بعد وقوع حادث كارثي مرتبط بالذكاء الاصطناعي، وفقًا لموقع "أكسيوس".
وتركز هذه السيناريوهات على هجوم إلكتروني كبير يعطل الخدمات المالية أو الاتصال بالإنترنت أو إمدادات الكهرباء أو المياه، بحسب تقرير لموقع "أكسيوس".
ويدرس المسؤولون التنفيذيون سيناريوهات تتضمن خروج وكلاء ذكاء اصطناعي عن السيطرة وهروبهم من بيئات الاختبار، أو استغلال جهات خبيثة نماذج متاحة للجمهور.
وأبلغ عدد من المطلعين على صناعة الذكاء الاصطناعي موقع "أكسيوس" بأنهم يتوقعون وقوع حادث كبير خلال الأشهر الستة إلى الاثني عشر المقبلة، ويرجحون أن يكون ناجمًا عن هجوم إلكتروني واسع النطاق.
ولا يستند هذا الأمر إلى مجرد تكهنات، إذ يشير موقع "أكسيوس" إلى حملة حديثة استهدفت مؤسسات مالية في كوريا الجنوبية، حيث قيل إن وكلاء ذكاء اصطناعي خارجين عن السيطرة استهدفوا مصرفين.
وتقول شركة كراود سترايك المتخصصة في الأمن السيبراني إن المهاجم استعان بأدوات الذكاء الاصطناعي، بما في ذلك نماذج طورتها الصين مثل "ديب سيك"، بل واستخدم أداة "Claude Code" للعثور على جهات يمكنها شراء البيانات المسروقة.
ويتوقع قادة شركات الذكاء الاصطناعي أن يؤدي وقوع حدث كارثي إلى رد فعل شعبي وسياسي قوي. ويرجحون أن يدفع ذلك جمهورًا يشكك بالفعل في الذكاء الاصطناعي إلى اتخاذ موقف أكثر عداءً تجاه هذه التكنولوجيا وأبرز قادتها، ومن بينهم داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة أوبن إيه آي.
وقالت "أوبن إيه آي" إن تدريبات الاستعداد التي تجريها تستكشف سيناريوهات مختلفة من دون التعامل معها باعتبارها أحداثًا حتمية، فيما رفضت "أنثروبيك" التعليق.
ويتركز جانب كبير من هذه الاستعدادات السرية على اختبار أسوأ السيناريوهات والاستعداد لإطلاع الكونغرس الأميركي على المعلومات قبل صياغة تشريعات مدفوعة بالغضب.
ويبدو أن المسؤولين التنفيذيين لهذه الشركات يعتقدون أن فرص إقرار تنظيمات فعلية محدودة في الوقت الحالي، لكنهم يرغبون مع ذلك في التأثير على القواعد التي قد يدرسها المشرعون بعد وقوع حادث خطير.
وتتراوح الاستجابات المقترحة بين وقف تطوير الذكاء الاصطناعي المتقدم بالكامل وحظر الذكاء الفائق حظرًا تامًا.
وهناك مقترح آخر يحظى بدعم من الحزبين، يقضي بإلزام الأنظمة المتقدمة للذكاء الاصطناعي بوجود مفتاح إيقاف، رغم تشكيك خبراء في إمكانية إيقاف جميع أنظمة الذكاء الاصطناعي بهذه الطريقة على نحو واقعي.
وتكمن وراء كل ذلك مشكلتان أعمق. فقد أصبحت البنية التحتية للذكاء الاصطناعي متغلغلة في الاقتصاد إلى درجة أن فرض قيود مؤثرة عليها قد يؤدي إلى اضطرابات اقتصادية حقيقية.
وفي الوقت نفسه، تتوفر بالفعل نماذج كثيرة للذكاء الاصطناعي للتنزيل مجانًا، ما يعني أن الشركات لا تملك قدرًا كبيرًا من السيطرة على كيفية إساءة استخدام هذه النماذج بعد إتاحتها للعالم.
ولا تثبت هذه الاستعدادات أن وقوع كارثة أمر مؤكد، لكنها تشير إلى أن بعض قادة الذكاء الاصطناعي يأخذون هذا الاحتمال على محمل الجد إلى درجة تدفعهم إلى الرغبة في تجهيز صانعي السياسات قبل أن تفرض أزمة حقيقية التحرك.
العربية
التحكم بالخط:
شركات الذكاء الاصطناعي تستعد لحادث كارثي محتمل وتداعياته .. ما القصة؟
