وظيفة استثنائية.. 'أوبن أيه آي' تبحث عن مسؤول لاحتواء مخاطر الذكاء الاصطناعي

تسعى شركة أوبن أيه أي لتوظيف مسؤول تنفيذي جديد مسؤول عن دراسة المخاطر الناشئة المتعلقة بالذكاء الاصطناعي في مجالات تتراوح من أمن الكمبيوتر إلى الصحة العقلية.
في منشور على موقع إكس ، أقر الرئيس التنفيذي سام ألتمان بأن نماذج الذكاء الاصطناعي "بدأت في طرح بعض التحديات الحقيقية"، بما في ذلك "التأثير المحتمل للنماذج على الصحة العقلية"، بالإضافة إلى النماذج "الجيدة جداً في أمن الكمبيوتر لدرجة أنها بدأت في اكتشاف نقاط ضعف خطيرة" وفق موقع techcrunch..
وكتب ألتمان: "إذا كنت ترغب في مساعدة العالم على معرفة كيفية تمكين المدافعين عن الأمن السيبراني بقدرات متطورة مع ضمان عدم تمكن المهاجمين من استخدامها للإضرار، وذلك من خلال جعل جميع الأنظمة أكثر أماناً، وبالمثل بالنسبة لكيفية إطلاق القدرات البيولوجية وحتى اكتساب الثقة في سلامة تشغيل الأنظمة التي يمكنها تحسين نفسها، فيرجى التفكير في التقديم".
يصف إعلان شركة "أوبن أيه آي" لوظيفة رئيس قسم الاستعداد الوظيفة بأنها مسؤولة عن تنفيذ إطار عمل الشركة للاستعداد، "إطار عملنا الذي يشرح نهج "أوبن أيه آي" في تتبع القدرات الرائدة التي تخلق مخاطر جديدة لحدوث ضرر جسيم والاستعداد لها".
أعلنت الشركة لأول مرة عن إنشاء فريق للتأهب في عام 2023، قائلة إنه سيكون مسؤولاً عن دراسة "المخاطر الكارثية" المحتملة، سواء كانت أكثر فورية، مثل هجمات التصيد الاحتيالي، أو أكثر تكهنية، مثل التهديدات النووية.
بعد أقل من عام، أعادت شركة أوبن أيه أي تعيين رئيس قسم التأهب، ألكسندر مادري، في وظيفة تركز على الاستدلال بالذكاء الاصطناعي.
كما غادر مسؤولون تنفيذيون آخرون في مجال السلامة في أوبن أيه أي الشركة أو تولوا مناصب جديدة خارج نطاق التأهب والسلامة.
كما قامت الشركة مؤخراً بتحديث إطار عملها الخاص بالاستعداد ، مشيرة إلى أنها قد "تعدل" متطلبات السلامة الخاصة بها إذا قام مختبر الذكاء الاصطناعي المنافس بإصدار نموذج "عالي المخاطر" بدون حماية مماثلة.
وأشار ألتمان في منشوره، تواجه روبوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي تدقيقاً متزايداً بشأن تأثيرها على الصحة النفسية.
وتزعم دعاوى قضائية حديثة أن برنامج "شات جي بي تي" من "أوبن أيه أي" قد عزز أوهام المستخدمين، وزاد من عزلتهم الاجتماعية، بل ودفع بعضهم إلى الانتحار. (وقالت الشركة إنها تواصل العمل على تحسين قدرة "شات جي بي تي" على التعرف على علامات الضيق النفسي وربط المستخدمين بخدمات الدعم في العالم الحقيقي).