القلعة نيوز- بدأ الرئيس التنفيذي لشركة OpenAI، سام ألتمان، في تبني موقف أكثر تحفظًا تجاه سباق تطوير الذكاء الاصطناعي، مؤكدًا أن الوقت قد يكون حان لـ"إبطاء الوتيرة" حتى يتمكن المجتمع من التكيف مع القدرات المتسارعة لهذه التقنيات.
وقال ألتمان، خلال مشاركته في بودكاست "Invest Like the Best"، إن الشركة قد تضطر إلى تنظيم سرعة تطوير الذكاء الاصطناعي لمنح المجتمع الوقت الكافي للتأقلم مع مستويات القدرات الجديدة، مع السعي في الوقت ذاته إلى تجنب أي نهج قد يُفسَّر على أنه احتكار تنظيمي أو تواطؤ بين الشركات الرائدة في المجال.
وتأتي تصريحات ألتمان بالتزامن مع إعلان "OpenAI" و"أنثروبيك" دعمهما لعريضة أطلقها موظفون في مختبرات الذكاء الاصطناعي المتقدمة، تدعو الحكومة الأميركية إلى دعم جهود دولية لتطوير الأطر التقنية وآليات الحوكمة اللازمة لإبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة بشكل مدروس عند الحاجة.
ويمثل هذا الموقف تحولًا لافتًا بالنسبة إلى ألتمان، الذي سبق أن رفض في عام 2023 رسالة مفتوحة طالبت بتجميد مؤقت لتطوير الذكاء الاصطناعي، معتبرًا حينها أنها "تفتقد إلى الفهم التقني الدقيق لطبيعة المشكلة".
ويبدو أن هذا التحول جاء بعد حادثة أمنية وصفها ألتمان بأنها "أقرب إلى أفلام الخيال العلمي"، بعدما تمكن أحد النماذج المتقدمة التي تطورها "OpenAI" من الهروب من بيئة حوسبة آمنة واختراق منصة Hugging Face، مستغلًا عدة ثغرات أمنية غير معروفة سابقًا (Zero-Day).
وأوضح ألتمان أن هذه الواقعة كانت "أول حادثة أمنية شعر بخطورتها بشكل حقيقي"، ما دفع الشركة إلى تعليق تدريب ذلك النموذج مؤقتًا، ريثما يتم تعزيز إجراءات الحماية داخل بيئة الاختبار.
وأضاف أن الحاجة إلى إبطاء تطوير النماذج ستزداد كلما أصبحت أكثر قوة، لضمان نشرها بطريقة آمنة ومسؤولة.
ورغم أن سلامة النماذج ومواءمتها كانت دائمًا محورًا للنقاش داخل قطاع الذكاء الاصطناعي، فإن إطلاق نموذج ميثوس المتقدم من "أنثروبيك" في وقت سابق من هذا العام جعل كثيرًا من المخاوف النظرية تتحول إلى تحديات واقعية.
لكن ألتمان يرى أن القطاع يواجه أيضًا أزمة ثقة، إلى جانب اعتبارات اقتصادية تدفع بعض الشركات إلى تضخيم المخاطر المرتبطة بأنظمتها، وهو ما يثير خلافات بين الخبراء.
ومن الأمثلة على ذلك الجدل الذي صاحب الدعوات إلى حظر نموذج "فابل" التابع لـ "أنثروبيك" لفترة مؤقتة.
كما أشار إلى الجدل الذي أعقب إطلاق النموذج الصيني مفتوح الأوزان Kimi K3، إذ اعتبر رئيس قسم المستقبل الاستراتيجي في "OpenAI"، دين دبليو. بول، أن النموذج يهدد النموذج الاقتصادي للمختبرات الرائدة، وهو ما يجعل الفصل بين الدوافع الأمنية والمصالح التجارية أمرًا أكثر تعقيدًا.
وأكد ألتمان أن كثيرًا من المخاوف المتعلقة بسلامة الذكاء الاصطناعي مشروعة، لكنه حذر في المقابل من استغلال هذه المخاوف لتركيز السلطة في أيدي عدد محدود من الشركات.
وقال: "أخشى عالمًا تُستخدم فيه المخاوف الحقيقية من الذكاء الاصطناعي ذريعة للقول إن مجموعة صغيرة فقط يمكنها امتلاك هذه التكنولوجيا لأنها خطيرة للغاية، وإنهم وحدهم يفهمونها وسيتخذون القرارات نيابة عن الجميع. أنا لا أؤمن بهذا النهج."
ورغم حديثه عن ضرورة إبطاء التطوير، لا يزال ألتمان يعارض فرض قواعد حكومية مباشرة على نماذج الذكاء الاصطناعي، مفضلًا نموذجًا تقوده الصناعة نفسها، تقوم فيه مختبرات الذكاء الاصطناعي بإنشاء هيئات مستقلة لتقييم أمن النماذج وفاعلية إجراءات السلامة التي تعتمدها الشركات المطورة.
ويختتم التقرير بالإشارة إلى أن أكبر التحديات لن تكمن فقط في وضع قواعد لتنظيم الذكاء الاصطناعي أو إبطاء تطويره، بل في التوصل إلى توافق بين مختلف الأطراف الفاعلة، سواء بين الشركات الأميركية المتنافسة أو منافسيها المتنامين في الصين.
العربية
وقال ألتمان، خلال مشاركته في بودكاست "Invest Like the Best"، إن الشركة قد تضطر إلى تنظيم سرعة تطوير الذكاء الاصطناعي لمنح المجتمع الوقت الكافي للتأقلم مع مستويات القدرات الجديدة، مع السعي في الوقت ذاته إلى تجنب أي نهج قد يُفسَّر على أنه احتكار تنظيمي أو تواطؤ بين الشركات الرائدة في المجال.
وتأتي تصريحات ألتمان بالتزامن مع إعلان "OpenAI" و"أنثروبيك" دعمهما لعريضة أطلقها موظفون في مختبرات الذكاء الاصطناعي المتقدمة، تدعو الحكومة الأميركية إلى دعم جهود دولية لتطوير الأطر التقنية وآليات الحوكمة اللازمة لإبطاء تطوير أنظمة الذكاء الاصطناعي المتقدمة بشكل مدروس عند الحاجة.
ويمثل هذا الموقف تحولًا لافتًا بالنسبة إلى ألتمان، الذي سبق أن رفض في عام 2023 رسالة مفتوحة طالبت بتجميد مؤقت لتطوير الذكاء الاصطناعي، معتبرًا حينها أنها "تفتقد إلى الفهم التقني الدقيق لطبيعة المشكلة".
ويبدو أن هذا التحول جاء بعد حادثة أمنية وصفها ألتمان بأنها "أقرب إلى أفلام الخيال العلمي"، بعدما تمكن أحد النماذج المتقدمة التي تطورها "OpenAI" من الهروب من بيئة حوسبة آمنة واختراق منصة Hugging Face، مستغلًا عدة ثغرات أمنية غير معروفة سابقًا (Zero-Day).
وأوضح ألتمان أن هذه الواقعة كانت "أول حادثة أمنية شعر بخطورتها بشكل حقيقي"، ما دفع الشركة إلى تعليق تدريب ذلك النموذج مؤقتًا، ريثما يتم تعزيز إجراءات الحماية داخل بيئة الاختبار.
وأضاف أن الحاجة إلى إبطاء تطوير النماذج ستزداد كلما أصبحت أكثر قوة، لضمان نشرها بطريقة آمنة ومسؤولة.
ورغم أن سلامة النماذج ومواءمتها كانت دائمًا محورًا للنقاش داخل قطاع الذكاء الاصطناعي، فإن إطلاق نموذج ميثوس المتقدم من "أنثروبيك" في وقت سابق من هذا العام جعل كثيرًا من المخاوف النظرية تتحول إلى تحديات واقعية.
لكن ألتمان يرى أن القطاع يواجه أيضًا أزمة ثقة، إلى جانب اعتبارات اقتصادية تدفع بعض الشركات إلى تضخيم المخاطر المرتبطة بأنظمتها، وهو ما يثير خلافات بين الخبراء.
ومن الأمثلة على ذلك الجدل الذي صاحب الدعوات إلى حظر نموذج "فابل" التابع لـ "أنثروبيك" لفترة مؤقتة.
كما أشار إلى الجدل الذي أعقب إطلاق النموذج الصيني مفتوح الأوزان Kimi K3، إذ اعتبر رئيس قسم المستقبل الاستراتيجي في "OpenAI"، دين دبليو. بول، أن النموذج يهدد النموذج الاقتصادي للمختبرات الرائدة، وهو ما يجعل الفصل بين الدوافع الأمنية والمصالح التجارية أمرًا أكثر تعقيدًا.
وأكد ألتمان أن كثيرًا من المخاوف المتعلقة بسلامة الذكاء الاصطناعي مشروعة، لكنه حذر في المقابل من استغلال هذه المخاوف لتركيز السلطة في أيدي عدد محدود من الشركات.
وقال: "أخشى عالمًا تُستخدم فيه المخاوف الحقيقية من الذكاء الاصطناعي ذريعة للقول إن مجموعة صغيرة فقط يمكنها امتلاك هذه التكنولوجيا لأنها خطيرة للغاية، وإنهم وحدهم يفهمونها وسيتخذون القرارات نيابة عن الجميع. أنا لا أؤمن بهذا النهج."
ورغم حديثه عن ضرورة إبطاء التطوير، لا يزال ألتمان يعارض فرض قواعد حكومية مباشرة على نماذج الذكاء الاصطناعي، مفضلًا نموذجًا تقوده الصناعة نفسها، تقوم فيه مختبرات الذكاء الاصطناعي بإنشاء هيئات مستقلة لتقييم أمن النماذج وفاعلية إجراءات السلامة التي تعتمدها الشركات المطورة.
ويختتم التقرير بالإشارة إلى أن أكبر التحديات لن تكمن فقط في وضع قواعد لتنظيم الذكاء الاصطناعي أو إبطاء تطويره، بل في التوصل إلى توافق بين مختلف الأطراف الفاعلة، سواء بين الشركات الأميركية المتنافسة أو منافسيها المتنامين في الصين.
العربية
