القلعة نيوز - للمرة الأولى، لم تأتِ التحذيرات الداعية لضبط جموح الذكاء الاصطناعي من مخاوف أكاديميين أو تحذيرات نشطاء حقوقيين، بل من داخل "غرفة صناعة التكنولوجيا" نفسها.
حيث دق قادة كبرى الشركات العالمية ناقوس الخطر، مؤكدين أن سرعة التطور التكنولوجي باتت تفوق قدرة الحكومات والمؤسسات على الفهم والرقابة.
ومع وصول هذا السجال إلى أروقة مجلس الأمن الدولي، وتزامنا مع تحذيرات "بيل غيتس" القاتمة من احتمالية استغلال هذه التقنيات كسلاح ذي آثار كارثية، لم يعد السؤال المطروح اليوم: "ماذا يستطيع الذكاء الاصطناعي أن يفعل؟"، بل: "من يملك فرض الضوابط حين تتجاوز سرعة الآلة حدود القواعد البشرية؟"..
سيناريوهات خيال علمي
من جانبه، يؤكد الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات،في حديثه أن المخاوف المطروحة لا تعني ظهور آلة واعية تستعد للقضاء على البشرية، كما تسوق سيناريوهات الخيال العلمي، بل تكمن الحقيقة في تزايد استقلالية الأنظمة وسرعة تنفيذها مع وجود ثغرات حوكمية وأمنية.
وأشار إلى أن الجلسة غير المعتادة لمجلس الأمن بمشاركة قادة شركات مثل "OpenAI" و"Anthropic" و"Hugging Face" نقلت النقاش رسمياً من مجرد تساؤلات حول خطورة التقنية إلى سؤال أكثر واقعية وإلحاحاً: "هل تستطيع منظومات الأمن والحوكمة البشرية مواكبة هذه الطفرات؟"، خاصة مع تحذيرات "سام ألتمان" من فقدان السيطرة أو تركز القوة في يد فئات تستخدم أعتى النماذج لفرض نفوذها.
وشدد رمضان على مفهوم "AI Control" أو التحكم بالأنظمة الذكية، موضحاً أن الانتقال من مجرد نماذج تُجيب عن الأسئلة إلى "وكلاء أذكياء" يخططون ويتخذون إجراءات سريعة يوسع نطاق الخطر بحدة؛ فالخطأ في الأنظمة التقليدية ينتج عنه "معلومة خاطئة"، بينما الخطأ لدى "الوكيل المستقل" يتحول إلى "سلسلة أفعال خاطئة" متتالية على أرض الواقع.
ولفت إلى واقعتين حقيقيتين أوردتهما تقارير صحافية كشفت عن هجوم سيبراني بادر به وكيل مستقل تتبع لـ "Hugging Face"، ووصول غير مصرح به لوكيل تابع لـ "OpenAI" إلى نظام حكومي أسترالي، مما برهن على أن تفاعل هذه الأنظمة مع بيئات حقيقية ينقل خطأها المباشر من العالم الافتراضي إلى الواقعي.
وأشار رئيس وحدة الذكاء الاصطناعي إلى أن النظام الحسابي لا يحتاج إلى "وعي بشرى" ليكون خطيراً، بل يكفي منحه صلاحيات واسعة وبيانات ضخمة وقدرة تنفيذية فائقة.
واسترشد بتحذير "بيل غيتس" الذي نبه لخطورة دمج الذكاء الاصطناعي المتقدم مع ذوي النوايا الإجرامية في سيناريو قد يهدد حياة الملايين، داعياً إلى عدم الرهان على "التنظيم الذاتي" للشركات وحده دون تدخل التشريعات وإنفاذ القانون؛ محذراً من أن الصراع القادم لن يكون بين "الإنسان والآلة"، بل بين "سرعة الابتكار وسرعة الحوكمة ووسائل الحماية".
صلاحيات بلا حدود
من جانبه، أوضح اللواء محمد رجائي، مساعد وزير الداخلية المصري الأسبق، أن مكامن الخطر لا تكمن في التقنية بذاتها بل في منحها صلاحيات بلا حدود، أو بيانات بلا حماية، أو تركها عرضة للاستغلال من قِبل هجمات إجرامية.
وأكد رجائي أن الحل لا يكمن في تعطيل أو إيقاف هذه التكنولوجيا - وهو أمر غير واقعي إزاء فوائدها المذهلة في الطب والعلوم والاقتصاد - وإنما في التحول التام نحو مبدأ "الذكاء الاصطناعي الآمن أولاً"، بفرض اختبارات مستقلة وصارمة قبل وبعد إطلاق الأنظمة فائقة القدرة.
وشدد رجائي على أن الأمن السيبراني يجب ألا يكون مجرد "طبقة إضافية" تُلحق بالأنظمة بعد تطويرها، بل يجب أن يدخل في صلب الهندسة البنيوية للذكاء الاصطناعي منذ لحظة التصميم الأولى.
ودعا المسؤول الأمني المصري إلى تفعيل حزمة من الضوابط تشمل عزل الأنظمة الحساسة، وتقييم سلوك الوكلاء، وحفظ سجلات تدقيق لكل إجراء، وتوفير آليات قاطعة "للإيقاف الطارئ"، مشيراً إلى أن الطبيعة العابرة للحدود لهذه التقنيات - حيث يُطور النظام في دولة، ويُدار من أخرى، وتُستغل بياناته في ثالثة - تفرض تدعيماً فورياً للتعاون الأمني والقانوني الدولي.
العربية
حيث دق قادة كبرى الشركات العالمية ناقوس الخطر، مؤكدين أن سرعة التطور التكنولوجي باتت تفوق قدرة الحكومات والمؤسسات على الفهم والرقابة.
ومع وصول هذا السجال إلى أروقة مجلس الأمن الدولي، وتزامنا مع تحذيرات "بيل غيتس" القاتمة من احتمالية استغلال هذه التقنيات كسلاح ذي آثار كارثية، لم يعد السؤال المطروح اليوم: "ماذا يستطيع الذكاء الاصطناعي أن يفعل؟"، بل: "من يملك فرض الضوابط حين تتجاوز سرعة الآلة حدود القواعد البشرية؟"..
سيناريوهات خيال علمي
من جانبه، يؤكد الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات،في حديثه أن المخاوف المطروحة لا تعني ظهور آلة واعية تستعد للقضاء على البشرية، كما تسوق سيناريوهات الخيال العلمي، بل تكمن الحقيقة في تزايد استقلالية الأنظمة وسرعة تنفيذها مع وجود ثغرات حوكمية وأمنية.
وأشار إلى أن الجلسة غير المعتادة لمجلس الأمن بمشاركة قادة شركات مثل "OpenAI" و"Anthropic" و"Hugging Face" نقلت النقاش رسمياً من مجرد تساؤلات حول خطورة التقنية إلى سؤال أكثر واقعية وإلحاحاً: "هل تستطيع منظومات الأمن والحوكمة البشرية مواكبة هذه الطفرات؟"، خاصة مع تحذيرات "سام ألتمان" من فقدان السيطرة أو تركز القوة في يد فئات تستخدم أعتى النماذج لفرض نفوذها.
وشدد رمضان على مفهوم "AI Control" أو التحكم بالأنظمة الذكية، موضحاً أن الانتقال من مجرد نماذج تُجيب عن الأسئلة إلى "وكلاء أذكياء" يخططون ويتخذون إجراءات سريعة يوسع نطاق الخطر بحدة؛ فالخطأ في الأنظمة التقليدية ينتج عنه "معلومة خاطئة"، بينما الخطأ لدى "الوكيل المستقل" يتحول إلى "سلسلة أفعال خاطئة" متتالية على أرض الواقع.
ولفت إلى واقعتين حقيقيتين أوردتهما تقارير صحافية كشفت عن هجوم سيبراني بادر به وكيل مستقل تتبع لـ "Hugging Face"، ووصول غير مصرح به لوكيل تابع لـ "OpenAI" إلى نظام حكومي أسترالي، مما برهن على أن تفاعل هذه الأنظمة مع بيئات حقيقية ينقل خطأها المباشر من العالم الافتراضي إلى الواقعي.
وأشار رئيس وحدة الذكاء الاصطناعي إلى أن النظام الحسابي لا يحتاج إلى "وعي بشرى" ليكون خطيراً، بل يكفي منحه صلاحيات واسعة وبيانات ضخمة وقدرة تنفيذية فائقة.
واسترشد بتحذير "بيل غيتس" الذي نبه لخطورة دمج الذكاء الاصطناعي المتقدم مع ذوي النوايا الإجرامية في سيناريو قد يهدد حياة الملايين، داعياً إلى عدم الرهان على "التنظيم الذاتي" للشركات وحده دون تدخل التشريعات وإنفاذ القانون؛ محذراً من أن الصراع القادم لن يكون بين "الإنسان والآلة"، بل بين "سرعة الابتكار وسرعة الحوكمة ووسائل الحماية".
صلاحيات بلا حدود
من جانبه، أوضح اللواء محمد رجائي، مساعد وزير الداخلية المصري الأسبق، أن مكامن الخطر لا تكمن في التقنية بذاتها بل في منحها صلاحيات بلا حدود، أو بيانات بلا حماية، أو تركها عرضة للاستغلال من قِبل هجمات إجرامية.
وأكد رجائي أن الحل لا يكمن في تعطيل أو إيقاف هذه التكنولوجيا - وهو أمر غير واقعي إزاء فوائدها المذهلة في الطب والعلوم والاقتصاد - وإنما في التحول التام نحو مبدأ "الذكاء الاصطناعي الآمن أولاً"، بفرض اختبارات مستقلة وصارمة قبل وبعد إطلاق الأنظمة فائقة القدرة.
وشدد رجائي على أن الأمن السيبراني يجب ألا يكون مجرد "طبقة إضافية" تُلحق بالأنظمة بعد تطويرها، بل يجب أن يدخل في صلب الهندسة البنيوية للذكاء الاصطناعي منذ لحظة التصميم الأولى.
ودعا المسؤول الأمني المصري إلى تفعيل حزمة من الضوابط تشمل عزل الأنظمة الحساسة، وتقييم سلوك الوكلاء، وحفظ سجلات تدقيق لكل إجراء، وتوفير آليات قاطعة "للإيقاف الطارئ"، مشيراً إلى أن الطبيعة العابرة للحدود لهذه التقنيات - حيث يُطور النظام في دولة، ويُدار من أخرى، وتُستغل بياناته في ثالثة - تفرض تدعيماً فورياً للتعاون الأمني والقانوني الدولي.
العربية
