القلعة نيوز: الدكتورة صباح عادل الرواشدة
يشهد العالم ثورة تكنولوجية هائلة بقيادة تقنيات الذكاء الاصطناعي والتطبيقات اللغوية الضخمة، والتي أصبحت شريكاً يومياً للبشر في البحث، والكتابة، والتعلم. ورغم الكفاءة المذهلة التي تبديها هذه الأدوات، إلا أنها ليست معصومة من الخطأ،بل إنها تقع أحياناً في سقطات معرفية غريبة تُعرف بـ "الهلوسة البرمجية".
تثير هذه ظاهرة الكثير من التساؤلات حول مدى موثوقية العقول الرقمية، وتفرض على المستخدمين ضرورة التعامل معها بحذر ووعي معرفي.
تعريف الهلوسة: البرمجيةالهلوسة البرمجية (AI Hallucination): هي ظاهرة تقنية تحدث عندما يقوم نموذج الذكاء الاصطناعي (مثل نماذج توليد النصوص) بإنتاج إجابات أو معلومات خاطئة تماماً، أو اختلاق حقائق، وتواريخ، ومراجع وهمية لا وجود لها في الواقع، ويقدمها للمستخدم بأسلوب واثق ومقنع للغاية وكأنها حقيقة مسلم بها. في هذه الحالة، لا يقوم البرنامج بنقل معلومة خاطئة من موقع آخر، بل يقوم نظام الذكاء الاصطناعي بـ "ابتكارها" وتأليفها من تلقاء نفسه نتيجة خلل في توقع الكلمات أو نقص في بيانات التدريب.
ومن اسباب حدوثها حيث تحدث هذه الظاهرة نتيجة لعدة عوامل تقنية في تصميم الذكاء الاصطناعي، وأبرزها:طبيعة التنبؤ اللغوي: البرامج لا تفكر مثل البشر، بل هي مصممة لتوقع الكلمة التالية الأكثر احتمالاً بناءً على السياق، مما يدفعه أحياناً لتركيب جمل تبدو صحيحة لغوياً لكنها خاطئة تماماً علمياً.
ضعف أو تلوث بيانات التدريب: إذا تمت تغذية البرنامج بمعلومات مغلوطة، أو متناقضة، أو ناقصة أثناء تطويره، فإنه سيعطي نتائج مشوهة ومهلوسة.
الإفراط في التكيف (Overfitting): وقوع النظام في فخ الاعتماد الزائد على أنماط معينة تعلمها، فيقوم بتعميمها بشكل خاطئ عند سؤاله عن مواضيع جديدة.
ومن أهداف دراسة ومعالجة الظاهرةإن تسليط الضوء على هذه الظاهرة ومحاولة حلها من قبل العلماء والمستخدمين يهدف إلى تحقيق ما يلي:رفع موثوقية البيانات: ضمان تقديم معلومات دقيقة وصادقة للمستخدمين، خاصة في المجالات الحساسة كالطب، والقانون، والتعليم.حماية الأمانة العلمية: توعية الطلاب والباحثين بحدود التقنية، لمنع انتشار الأبحاث القائمة على مراجع أو مصادر وهمية.تطوير أنظمة آمنة: دفع الشركات المطورة لابتكار فلاتر وخوارزميات تدقيق صارمة تحد من هذه الأخطاء مستقبلاً.تعزيز الوعي النقدي: تدريب المستخدم على عدم التسليم الأعمى للإجابات الرقمية، وتفعيل مهارة "التحقق من المصادر" كخطوة أساسية. وهنالك أمثلة واقعية على الهلوسة البرمجيةمثل اختلاق المراجع والكتب: عندما تطلب من البرنامج قائمة بمراجع حول موضوع معين، قد يعطيك اسماً لكتاب يبدو حقيقياً جداً، وعند البحث عنه تجد أن الكتاب والمؤلف لا وجود لهما أصلاً، وإنما قام النظام بتركيب أسماء شائعة لتبدو مقنعة. وايضا فبركة السير الذاتية والأحداث: إذا سألت البرنامج عن شخصية عامة، فقد يذكر تاريخ ميلاده ومؤهلاته بشكل صحيح، ثم يضيف "هلوسة" كأن يقول إنه فاز بجائزة عالمية أو ألف كتاباً معيناً، وهو لم يفعل ذلك أبداً ،الأخطاء الحسابية والمنطقية البسيطة: أحياناً يفشل الذكاء الاصطناعي في حل مسائل رياضية بسيطة، أو يصر على إجابة منطقية خاطئة؛ لأنه يعتمد على تتابع الكلمات وليس على العمليات الرياضية الحقيقية في عقله ،قضايا المحاكم الشهيرة (ورطة المحامين): في حادثة شهيرة عام 2023 في أمريكا، استخدم محامٍ ذكاءً اصطناعياً لكتابة مذكرة دفاع، وقام البرنامج باختراع 6 قضايا سابقة وأحكام قضائية وهمية تماماً لتأييد موقفه، واكتشف القاضي ذلك وعوقب المحامي بغرامة مالية كبيرة. وفي الخاتمة، تُثبت ظاهرة "الهلوسة البرمجية" أن الذكاء الاصطناعي —رغم عبقريته— يبقى أداة صماء تحتاج دائماً إلى عقل بشري يوجهها ويدقق وراءها . إن الاستخدام الذكي لهذه التقنيات لا يعني الثقة العمياء بإجاباتها، بل يتطلب منّا الحفاظ ، والتحقق المستمر من المصادر لضمان دقة المعرفة وأمانتها. التقنية وُجدت لتُعين عقولنا، لا لِتُلغيها.
