استقالة مسؤول السلامة في 'أوبن إيه آي' تثير جدلا حول أمان الذكاء الاصطناعي

جددت استقالة أحد مسؤولي السلامة السابقين لدى شركة "أوبن إيه أي" من منصبه جدل معايير السلامة في قطاع الذكاء الاصطناعي، إذ جاءت استقالته بسبب مخاوف تتعلق بنهج الشركة تجاه معايير السلامة.
استقال ديفيد روبنسون من منصبه، محذراً من أن ثقافة الشركة تعاني من خلل جوهري، وأن شركات الذكاء الاصطناعي لا تتوخى "القدر الكافي من الحذر" عند تطوير هذه التقنية.
وقد أوضح ديفيد روبنسون، الذي قاد عملية إعداد تقارير السلامة المصاحبة لإطلاق منتجات الشركة المطورة لـ "شات جي بي تي، أسباب استقالته في مقال حمل عنوان: "لقد استقلت من أوبن أيه آي لأن ثقافتها تعاني من خلل".
وكتب روبنسون أن شركات الذكاء الاصطناعي الرائدة بحاجة إلى إصلاح جذري لثقافتها المؤسسية، مشيراً إلى أن حوادث مثل هجوم "سرب" من وكلاء الذكاء الاصطناعي، وهي برامج تعمل بشكل مستقل دون إشراف بشري، على شركة "هجينج فيس" الناشئة، تُعد أمراً "نموذجياً في هذا القطاع، نظراً للسرعة والمرونة التي يتسم بها عمل الأفراد".
وفي مقال نُشر في مجلة "ذا أتلانتيك"، كتب روبنسون: "أتفق مع موظفين آخرين غادروا الشركة مؤخراً في الرأي القائل بأن الشركات التي تطور هذه التقنية لا تتوخي الحذر الكافي على الإطلاق. لكنني أؤمن بأننا بحاجة إلى النظر فيما هو أعمق من مجرد قواعد محددة أو قوانين جديدة؛ إذ يتعين علينا مناقشة مسألة الثقافة المؤسسية".
وفي معرض حديثه عن وتيرة التطوير في "أوبن أيه آي"، كتب قائلاً، "بينما تسارع الشركة من عملية إطلاق منتج إلى آخر، فإنها تفشل في تحقيق مستوى الحذر الذي أرى أنه ضروري".
وقد أظهرت "أوبن أيه آي" بوادر حذر في الأسابيع الأخيرة، وذلك في أعقاب حادثة "هجينج فيس" والكشف عن إخطارها لأكثر من 100 مؤسسة بشأن أنشطة "وكلاء ذكاء اصطناعي مارقين"، أي وكلاء يعملون خارج نطاق السيطرة المخطط لها.
كما أعلنت الشركة هذا الأسبوع عن إلغاء إطلاق نموذج ذكاء اصطناعي من الجيل التالي، بعد أن أثار باحثون مخاوف تتعلق بالسلامة أثناء الاختبارات الداخلية. وعلاوة على ذلك، علّقت "أوبن أيه آي" عمليات تدريب نماذجها الأكثر تطوراً.
كما أصدر جيفري إيرفينغ، الذي عمل سابقاً في "أوبن أيه آي" وشغل منصب كبير العلماء في معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية قبل انضمامه إلى شركة "Resolution" المتخصصة في أبحاث سلامة الذكاء الاصطناعي، تحذيراً مماثلاً يوم السبت.

وفي مقال نُشر في مجلة "تايم" قال إيرفينغ، "إن التحذيرات الأخيرة بشأن القوة التدميرية المحتملة للذكاء الاصطناعي تقلل من شأن خطورة الموقف، وأعتقد أن هناك احتمالاً بنسبة 50% تقريباً بأن نهلك جميعاً نتيجة لتطوير أنظمة ذكاء اصطناعي تفوق ذكاء البشر، وأن أفعالنا خلال السنوات العشر المقبلة، أو السنتين على الأقل- هي التي ستحدد النتيجة".
وبحسب صحيفة الغارديان، تأتي هذه التحذيرات في أعقاب استقالة جاكوب كوكسون، الباحث في شركة "أنثروبيك"، المنافسة لشركة "أوبن إيه آي"، والذي ترك عمله لدى الشركة المطورة لروبوت المحادثة "كلود" الشهر الماضي.
وقد أعرب كوكسون عن اعتقاده بأن الذكاء الاصطناعي "قد يقضي علينا جميعاً بحلول نهاية العقد"، وهو رأي أيده موظف آخر في "أنثروبيك" حذّر من وجود احتمال يتجاوز 10% بأن يتسبب الذكاء الاصطناعي في إبادة البشرية خلال العقد المقبل.
ومع ذلك، نبّه منتقدو هذه التحذيرات إلى أنها تفتقر إلى الطابع العلمي، نظراً لاستحالة التحقق من صحتها أو إثبات خطئها.
وفي هذا السياق، كتب روبنسون أن "وادي السيليكون" يفتقر إلى الوعي بـ "كيفية التعامل مع التكنولوجيا الخطيرة" وبـ "معنى الاهتمام بالناس".
وحذّر من أن "أوبن إيه آي" تتبنى "تفاؤلاً غير مقيد" بشأن حل المشكلات فور ظهورها، مشيراً إلى أن هذه الثقافة الداخلية تعني أن إخفاقات السلامة ستتفاقم حتماً مع تزايد قدرات الأنظمة.
وكتب روبنسون، "تخيل وجود وكلاء ’مارقين‘ يعملون مثل فرق من قراصنة الإنترنت، على سبيل المثال، احتجاز أنظمة الكمبيوتر في المستشفيات مقابل فدية، ولكن دون الحاجة إلى النوم أبداً".
ودعا روبنسون إلى إجراء تغييرين يتعلقان بالسلامة: أولهما أن تعتمد شركات الذكاء الاصطناعي على خبرات السلامة المكتسبة في مجالات أخرى مثل الطاقة النووية والطيران، وثانيهما أن تعمل هذه الشركات على تطوير "علم جديد" يضمن إمكانية كبح جماح الأنظمة القوية مستقبلاً عند عملها بشكل مستقل.