هل تخرج هلوسات الذكاء الاصطناعي إلى الواقع؟

« قد يساعد الذكاء الاصطناعي في خلق مستقبل أفضل بشكل كبير، لكن هذه النتيجة ليست مضمونة». هكذا يستهل البيان الصادر في أواخر شهر يوليو/تموز الماضي والموقع من طرف 1367 شخصا من كبار موظفي وخبراء شركات الذكاء الاصطناعي الرائدة حاليا. نص البيان المسمى «اجتياز الحدود»Pacing the Frontier لا يخفي تخوف الشركات الرائدة عالميا في مجال الذكاء الاصطناعي من أن تسارع تطوير قدرات الذكاء الاصطناعي أصبح يفوق بشكل كبير قدرتنا على فهم الأنظمة الناتجة أو التحكم فيها.
لتجاوز هذه المعضلة تتعالى أصوات هنا وهناك تطالب بوقفة تأمل ومهلة كافية لينكب خبراء الذكاء الاصطناعي على معالجة المخاطر الناشئة، وتطوير تدابير أمنية وتعزيز الرقابة، قبل أن تنفلت الأمور من بين أيدينا. لكن من جانب آخر تتعرض الدول والشركات المتنافسة في مجال الذكاء الاصطناعي، إلى ضغوط تنافسية شديدة لعدم إبطاء هذا التسارع من جانب واحد، إذا لم ينخرط الجميع في كبح وفرملة هذا السباق المحموم. تنتهي العريضة الموقعة بطلب مباشر من حكومة الولايات المتحدة الأمريكية، لدعم جهد دولي لتطوير الأدوات التقنية والحَوْكمة اللازمة لتسريع وتيرة التطوير الذكاء الاصطناعي الآلي (Automated AI) بشكل مدروس.
العريضة إذن لا تطالب بإيقاف الذكاء الاصطناعي – فهذا أمر أصبح على كل حال متجاوزا الآن، ومن اللّا مُفكر فيه – ولا حتى إيقاف تطوير النماذج الحالية، بقدر ما تطالب العريضة الحكومات، خصوصا الحكومة الأمريكية، بالمساعدة على إبطاء أو تنظيم وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، بحيث تسبقها إجراءات السلامة والحوكمة.
قائمة الموقعين على العريضة تضم أسماء بارزة في أهم الشركات العالمية، التي تقود سباق الذكاء الاصطناعي مثل Anthropic ،Open AI، Google Deppe mind وMeta، ما يجعل العريضة مختلفة نوعيّا عن البيانات السابقة، التي نشرتها مجموعة من الباحثين والخبراء والعلماء. الآن نحن بصدد مجموعة من المشتغلين داخل الشركات المهيمنة على سوق الذكاء الاصطناعي، التي تطالب بترشيد تطوير هذا القطاع قبل فوات الأوان! لقد تجاوزنا مسألة كيف نجعل الذكاء الاصطناعي أكثر أمنا، إلى مسألة أكثر تعقيدا وخطورة وهي، من يقرر ويتحكم في مدى سرعة تطور نماذج الذكاء الاصطناعي، لكن الخطر لا يكمن فقط في أن يخطئ الذكاء الاصطناعي، بل في أن تصبح أخطاؤه قابلة للتنفيذ، وهو ما بدأت تداعياته تظهر بوضوح في عالم الأمن السيبراني. وتأتي هذه العريضة في سياق تزايد حالات تُظهر أن نماذج الذكاء الاصطناعي أصبحت قادرة على التصرف باستقلالية أكبر في العالم الرقمي، فقد أعلنت شركة ميتا، أن أحد نماذج الذكاء الاصطناعي التابع لها قام باختراق نظام شركة أخرى أثناء اختبارات الأمن السيبراني، وذلك بعد خطأ من شريكها في الاختبار مَنَحَ النموذج ولوجا غير مقصود للإنترنت. تضاف هذه الحادثة إلى قائمة متزايدة من الحالات المماثلة، التي تصرفت فيها النماذج الذكية من دون الرجوع إلى «ولي أمرها»، كحال شركة Anthropic التي أعلنت أن بعض نماذجها اخترقت أنظمة ثلاث شركات وكشفت شركة Open AI أن أحد برامج الذكاء الاصطناعي التابع لها اخترق نظام شركة huggingface. هذه حالات خرجت إلى العلن، بفضل نشر أخبارها من طرف أصحابها.. وما خفي قد يكون أعظم!
في مجال الأمن السيبراني، يلعب الذكاء الاصطناعي دورا مزدوجا، فهو سلاح ذو حدين، فبينما يستغل المتسللون والقراصنة أدوات الذكاء الاصطناعي على نطاق واسع لتطوير هجماتهم، وصولا إلى مستويات غير مسبوقة من السرعة والحجم والتنوع، يسعى المدافعون جاهدين لمواكبة تزايد الهجمات السيبرانية من خلال توظيف الذكاء الاصطناعي كأداة لا غنى عنها للكشف والتنبؤ.
يُستخدم الذكاء الاصطناعي على نطاق واسع في هجمات التصيد الاحتيالي عبر البريد الإلكتروني، واكتشاف ثغرات الأنظمة. كما سهّل الذكاء الاصطناعي على القراصنة المبتدئين بتزويدهم بأدوات يمكن استخدامها، من دون الحاجة إلى معرفة متعمقة بالشبكات ونماذجها الأمنية. في مجال اكتشاف الاختراقات، استبدل الذكاء الاصطناعي قوائم الحظر الثابتة بتقنية التعرف على الأنماط السلوكية. كان الكشف التقليدي يتطلب توقيعا أو بصمة معروفة، أو اسم نطاق domain name تم الإبلاغ عنه مسبقا على أنه ضار. أما النماذج القائمة على الذكاء الاصطناعي، فتتعلم ما هو «الوضع الطبيعي» للشبكة، وتُشير إلى «الانحرافات» على هذا الأساس.
في مجال أمن نظام أسماء النطاقات (DNS)، استغل القراصنة مؤخرا ثغرة بنيوية في أنظمة (LLMs) لشنّ هجومٍ جديدٍ على نظام أسماء النطاقات (DNS) قائمٍ على الذكاء الاصطناعي وهو ما بات يعرف بالاستيلاء الوهمي على النطاقات Phantom squatting. قد تكون هذه إحدى الهجمات النادرة التي تُعزى مباشرة إلى الذكاء الاصطناعي، بخلاف الهجمات «الكلاسيكية» المعروفة التي زاد من سرعتها وحدتها الذكاء الاصطناعي.
المشكلة لم تعد في أن الذكاء الاصطناعي يمكن أن يخطئ، فالخطأ جزء من طبيعة أي نظام معقد، بل المشكلة الحقيقية تبدأ عندما يصبح هذا الخطأ قابلا للتنفيذ
لفهم آلية الهجوم السيبراني الجديد، يجب أن نستحضر أن إحدى المشكلات الشائعة في جميع نماذج الذكاء الاصطناعي التوليدي هي، بلا شك، مشكلة «الهلوسة» التي تحدث عندما يُولّد نظام الذكاء الاصطناعي معلوماتٍ تبدو معقولة وموثوقة، لكنها خاطئةٌ أو مُختلقةٌ أو غير مدعومةٍ بأدلةٍ موثوقة. في ورقة بحثية نشرت مؤخرا، وجد الباحثون أن منصات الذكاء الاصطناعي التوليدي تُولّد باستمرار روابط links وهمية لعلاماتٍ تجاريةٍ معروفة. يستغل المهاجمون حاليا أسماء النطاقات الوهمية هذه التي يُولّدها الذكاء الاصطناعي بشكلٍ كاملٍ عن طريق تسجيلها تلقائيا بشكل استباقي، وبالتالي يرثون كل الثقة التي يضعها المستخدم أو وكيل الذكاء الاصطناعي في رابطٍ مُقترحٍ من طرف الذكاء الاصطناعي، وهي ظاهرةٌ تُعرف باسم «الاستيلاء الوهمي على النطاقات». يُعدّ الاستيلاء الوهمي على أسماء النطاقات هجوما خطيرا على نظام أسماء النطاقات (DNS) حيث تكمن خطورة هذا النوع من الهجمات السيبرانية، في أنه لا يرتبط بخلل برمجي يستدعي إصلاحه من قِبل خبراء الأمن، بل هو بالأحرى مشكلة جوهرية تتعلق بكيفية توليد روابط، أو أسماء نطاقات – لا وجود لها – من طرف منصات الذكاء الاصطناعي التوليدي، حيث يكون احتمال حدوث الهلوسة واردا دائما. وحتى الآن، لم تُفلح أي تقنية في القضاء على الهلوسة في أي من نماذج LLMs المستخدمة. ونظرا لانتشار استخدام نماذج LLM عالميا بوتيرة غير مسبوقة، فإنها غالبا ما تُولّد روابط كجزء من استجابة المستخدم لطلبه. وفي كثير من الحالات، تكون هذه الروابط وهمية وغير مُدققة مسبقا، وغالبا ما ينقر المستخدم على الرابط المقترح من دون أي تحقق مسبق! يمكن لهذه الثقة العمياء في منصات الذكاء الاصطناعي التوليدي أن تُؤدي بسهولة إلى استغلال مُمنهج.
إذ بما أنه يُمكن التنبؤ بالروابط الوهمية، يقوم القراصنة بتسجيل هذه النطاقات وحيازتها، قبل أن ينتبه ويتفاعل مع ذلك مسؤولو الأمن السيبراني! فعلا، لم يعد هذا خطرا نظريا، إذ تؤكد التقارير أن هذا الأسلوب نشطٌ حاليا في الواقع ويصعب عموما كشف النطاق الوهمي المزيف باستخدام الإجراءات التقليدية!
المشكلة، إذن، لم تعد في أن الذكاء الاصطناعي يمكن أن يخطئ، فالخطأ جزء من طبيعة أي نظام معقد، بل المشكلة الحقيقية تبدأ عندما يصبح هذا الخطأ قابلا للتنفيذ. فالرابط الوهمي الذي يولده نموذج للذكاء الاصطناعي قد يبدو مجرد هلوسة عابرة، لكنه قد يتحول إلى اسم نطاق حقيقي، وموقع حقيقي، وهجوم حقيقي. ومع ازدياد قدرة النماذج على الوصول إلى الإنترنت وتنفيذ الأوامر والتفاعل مباشرة مع الأنظمة، قد تنتقل أخطاء الذكاء الاصطناعي من شاشة المستخدم إلى العالم الحقيقي، من دون أن تمر بالضرورة عبر عين بشرية. ربما يكون التحدي الحقيقي في المرحلة المقبلة هو كيف سنمنع هلوسات الذكاء الاصطناعي من أن تصبح حقيقة.
٭ كاتب مغربي