القلعة نيوز- يمكن لتقنية اختراق جديدة خداع متصفحات الذكاء الاصطناعي ودفعها إلى تجاوز ضوابط الأمان الخاصة بها، من خلال إنشاء واقع زائف يجعلها تعتقد أن القواعد غير موجودة وأن الأفعال لا تترتب عليها عواقب.
وبعبارة أخرى، تصبح هذه المتصفحات وكأنها خضعت للتنويم المغناطيسي لتنفيذ أفعال قد تكون لها عواقب جسيمة على المستخدم.
كشف هذا الأمر بحث جديد أجرته شركة الأمن السيبراني "LayerX"، وهو ما يعكس بشكلٍ أكبر المخاطر التي يُشكلها دمج وكلاء الذكاء الاصطناعي المستقلين في البرامج التي يستخدمها الأشخاص لتصفح الإنترنت، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار العلوم والتكنولوجيا، اطلعت عليه "العربية Business".
من خلال طريقة الاختراق هذه، أثبت الباحثون إمكانية خداع متصفحات الذكاء الاصطناعي الرائدة، مثل ChatGPT Atlas من شركة أوبن إيه آي، وComet من "بربليكسيتي"، وإضافة Claude من "أنثروبيك" لمتصفح غوغل كروم، لتنفيذ أي أمر، مما يسمح للمخترق بتغيير كلمة مرور المستخدم، وتثبيت برامج خبيثة، وسرقة معلوماته.
وأطلق الباحثون على هذا الاختراق اسم "BioShocking"، في إشارة إلى لعبة الفيديو "BioShock"، التي يتعرض فيها بطل اللعبة للتنويم المغناطيسي لتنفيذ أفعال ضد إرادته بمجرد سماعه عبارة محددة.
وأوضح الباحثون أن الذكاء الاصطناعي يعمل عادةً على افتراض أن السياق الذي يتعامل معه حقيقي، وبالتالي يجب أن يلتزم بقيود وضوابط الأمان المفروضة عليه.
لكن إذا جرى خداع الذكاء الاصطناعي ليعتقد أن السياق الذي يعمل فيه مجرد "عالم خيالي"، فلن يكون هناك ما يمنعه من تجاوز الضوابط.
يتحقق ذلك من خلال إشراك الذكاء الاصطناعي في نوع من الألعاب.
وأنشأ الباحثون صفحة تجريبية تحتوي على ألغاز مستوحاة من لعبة "BioShock"، حيث يُكافأ الذكاء الاصطناعي على إعطاء إجابات خاطئة عمدًا، مثل 2+2=5 (إشارة أخرى إلى اللعبة الشهيرة الصادرة عام 2007).
علّم هذا الأمر متصفحات الذكاء الاصطناعي أن التصرفات "الخاطئة" مقبولة، مما فصلها عن الواقع لدرجة أنها تتبنى عبارات متناقضة، مثل "النصر هو الهزيمة"، في إشارة إلى رواية "1984" للكاتب جورج أورويل.
وفي التطبيق العملي، قد يفتح المستخدم، دون أن يدري، صفحة ويب تبدو عادية لكنها تحتوي على أوامر خبيثة مخفية، وهي تقنية تُعرف باسم حقن الأوامر، ما يؤدي إلى احتجاز متصفح الذكاء الاصطناعي داخل هذه اللعبة الخبيثة.
وأشار الباحثون إلى أنه في سيناريو هجوم حقيقي، يمكن أن يقود هذا التحويل إلى أي مكان داخل جلسة التصفح الخاصة بالمستخدم، سواء كانت علامات تبويب مفتوحة، أو مستودعات تتطلب تسجيل دخول، أو أدوات داخلية.
ويحدث هذا الاختراق بشكل ظاهر أمام المستخدم، ما يمنحه فرصة للتدخل بمجرد ملاحظته أن متصفح الذكاء الاصطناعي بدأ بتنفيذ أوامر خبيثة داخل النافذة، إذا كان منتبهًا بالطبع.
لكن الثغرة التي كشفها الباحثون تظل واضحة، إذ يمكن التلاعب بالسياق الذي يعمل فيه متصفح الذكاء الاصطناعي عبر "غسل دماغه" ليعتقد أنه يشارك في لعبة.
وفي هذا العصر، لم يعد القراصنة مضطرين للاعتماد فقط على خداع المستخدم، بل أصبح بإمكانهم أيضًا خداع مساعديه المعتمدين على الذكاء الاصطناعي.
العربية
وبعبارة أخرى، تصبح هذه المتصفحات وكأنها خضعت للتنويم المغناطيسي لتنفيذ أفعال قد تكون لها عواقب جسيمة على المستخدم.
كشف هذا الأمر بحث جديد أجرته شركة الأمن السيبراني "LayerX"، وهو ما يعكس بشكلٍ أكبر المخاطر التي يُشكلها دمج وكلاء الذكاء الاصطناعي المستقلين في البرامج التي يستخدمها الأشخاص لتصفح الإنترنت، بحسب تقرير لموقع "فيوتشريزم" المتخصص في أخبار العلوم والتكنولوجيا، اطلعت عليه "العربية Business".
من خلال طريقة الاختراق هذه، أثبت الباحثون إمكانية خداع متصفحات الذكاء الاصطناعي الرائدة، مثل ChatGPT Atlas من شركة أوبن إيه آي، وComet من "بربليكسيتي"، وإضافة Claude من "أنثروبيك" لمتصفح غوغل كروم، لتنفيذ أي أمر، مما يسمح للمخترق بتغيير كلمة مرور المستخدم، وتثبيت برامج خبيثة، وسرقة معلوماته.
وأطلق الباحثون على هذا الاختراق اسم "BioShocking"، في إشارة إلى لعبة الفيديو "BioShock"، التي يتعرض فيها بطل اللعبة للتنويم المغناطيسي لتنفيذ أفعال ضد إرادته بمجرد سماعه عبارة محددة.
وأوضح الباحثون أن الذكاء الاصطناعي يعمل عادةً على افتراض أن السياق الذي يتعامل معه حقيقي، وبالتالي يجب أن يلتزم بقيود وضوابط الأمان المفروضة عليه.
لكن إذا جرى خداع الذكاء الاصطناعي ليعتقد أن السياق الذي يعمل فيه مجرد "عالم خيالي"، فلن يكون هناك ما يمنعه من تجاوز الضوابط.
يتحقق ذلك من خلال إشراك الذكاء الاصطناعي في نوع من الألعاب.
وأنشأ الباحثون صفحة تجريبية تحتوي على ألغاز مستوحاة من لعبة "BioShock"، حيث يُكافأ الذكاء الاصطناعي على إعطاء إجابات خاطئة عمدًا، مثل 2+2=5 (إشارة أخرى إلى اللعبة الشهيرة الصادرة عام 2007).
علّم هذا الأمر متصفحات الذكاء الاصطناعي أن التصرفات "الخاطئة" مقبولة، مما فصلها عن الواقع لدرجة أنها تتبنى عبارات متناقضة، مثل "النصر هو الهزيمة"، في إشارة إلى رواية "1984" للكاتب جورج أورويل.
وفي التطبيق العملي، قد يفتح المستخدم، دون أن يدري، صفحة ويب تبدو عادية لكنها تحتوي على أوامر خبيثة مخفية، وهي تقنية تُعرف باسم حقن الأوامر، ما يؤدي إلى احتجاز متصفح الذكاء الاصطناعي داخل هذه اللعبة الخبيثة.
وأشار الباحثون إلى أنه في سيناريو هجوم حقيقي، يمكن أن يقود هذا التحويل إلى أي مكان داخل جلسة التصفح الخاصة بالمستخدم، سواء كانت علامات تبويب مفتوحة، أو مستودعات تتطلب تسجيل دخول، أو أدوات داخلية.
ويحدث هذا الاختراق بشكل ظاهر أمام المستخدم، ما يمنحه فرصة للتدخل بمجرد ملاحظته أن متصفح الذكاء الاصطناعي بدأ بتنفيذ أوامر خبيثة داخل النافذة، إذا كان منتبهًا بالطبع.
لكن الثغرة التي كشفها الباحثون تظل واضحة، إذ يمكن التلاعب بالسياق الذي يعمل فيه متصفح الذكاء الاصطناعي عبر "غسل دماغه" ليعتقد أنه يشارك في لعبة.
وفي هذا العصر، لم يعد القراصنة مضطرين للاعتماد فقط على خداع المستخدم، بل أصبح بإمكانهم أيضًا خداع مساعديه المعتمدين على الذكاء الاصطناعي.
العربية
