نهاية عصر البشر
علاء أبو زينة
من مواليد عمان – الأردن عام 1963 يعمل مديراً لتحرير دائرة الترجمة في صحيفة الغد اليومية الأردنية. حصل على درجة البكالوريوس في اللغة والأدب الإنجليزيين من الجامعة الأردنية، ودرجة الدبلوم العالي في الأدب الإنجليزي والمقارن. عمل في مجالات التصميم الغرافيكي والخط العربي، ومحاضراً في الجامعة الأردنية، ومستشاراً لتحرير المجلة الثقافية في الجامعة الأردنية، ومحكماً ومستشاراً لشؤون الترجمة للعديد من دور النشر ومراكز الدراسات والمؤسسات. ويشارك في هيئة تحرير مجلة "روزنا" التي يصدرها اتحاد المرأة الأردنية.
نيسان ـ نشر في 2023-09-06 الساعة 07:07
نيسان ـ ترجمة: علاء الدين أبو زينة
جون غراي* - (نيو ستيتسمان) 12/8/2023
في ورقته المنشورة في العام 1965 والمعنونة "تكهنات بشأن أول آلة فائقة الذكاء"، كتب معجزة الرياضيات وكاسر شيفرة بلتشلي، آي. جيه. غود I. J. Good:
"يعتمد بقاء الإنسان على البناء المبكر لآلة فائقة الذكاء... دعوا آلة فائقة الذكاء تُعرَّف بأنها آلة يمكنها أن تتجاوز بكثير قدرات جميع الأنشطة الفكرية لأي إنسان مهما كان ذكيًا. وبما أن تصميم الآلات هو أحد هذه الأنشطة الفكرية، فإنه يمكن لآلة فائقة الذكاء حتى تصميم آلات أفضل منها؛ سيكون هناك بلا شك ’انفجار ذكائي‘، وسيُترك ذكاء الإنسان متخلفًا كثيراً عن الركب. إن أول آلة فائقة الذكاء هي آخر اختراع يحتاج الإنسان إلى صنعه على الإطلاق".
وبحلول العام 1998، غير غود موقفه بشكل جذري. في جزء من سيرة ذاتية مكتوبة بضمير الغائب، كشف عن أنه:
"... يشك الآن في أن "البقاء" يجب أن يستبدَل بـ"الفناء. إنه يعتقد بأنه لا يمكن، بسبب المنافسة الدولية، منع الآلات من السيطرة. إنه يعتقد بأننا نتبع القطيع" (1).
لم يكن غود أول من توقع أن الآلات قد تأخذ زمام السيطرة من مخترعيها البشر. فقد تنبأ الروائي الفيكتوري والمنظِّر التطوري، صموئيل بتلر (1835-1902)، بأن "الوقت سيأتي عندما تكون للآلات السيادة الحقيقية على العالم". وفي دراسته العميقة والرائدة المعنونة "داروين بين الآلات" (1997)، حيث يناقش أفكار كل من بَتلر وغود، لخص مؤرخ العلوم، جورج دايسون، العملية التي يمكن أن يتم من خلالها تجاوز البشرية: "في لعبة الحياة هناك ثلاثة لاعبين على الطاولة: البشر، والطبيعة، والآلات. وأنا أقف بحزم إلى جانب الطبيعة. لكن الطبيعة، على ما أظن، تقف إلى جانب الآلات".
كان المكان الذي تميز فيه غود هو التفكير في أن الآلات فائقة الذكاء يمكن أن تنهي عصر البشر. كان قد رأى "آلة إنيغما" (1) وهي تنقذ الحضارة من النازية. وكان من الطبيعي بالنسبة له أن يعتقد أن الآلات فائقة الذكاء يمكن أن تحل مشاكل المجتمع. وكتب: "سوف تحتاج إلى فعل ذلك من أجل التعويض عن المشاكل التي خلقها وجودها. فإذا ولدت البطالة التكنولوجية، على سبيل المثال، فإنها ستضع سياسات للتخفيف من حدتها".
لم يأت تغير رأي غود من اعتقاد بأن الآلات ستكون معادية لنا، وإنما من كونها لن تعود أدوات بشرية. عندما تكون قد تعلمَت تكرار وتحسين أنفسها، ستقوم بتعديل برامجها. والبروتوكولات التي تتطلب منها أن تكون صديقة للإنسان ستضعف أو سيتم التفوق عليها، وسرعان ما ستصبح الآلات خارجة عن سيطرة الإنسان. وإذا قامت بتدميرنا عن غير قصد، فإنها لن تهتم.
تقع أفكار غود الثانية المعدّلة في قلب كتاب جيمس بارات "اختراعنا النهائي: الذكاء الاصطناعي ونهاية العصر البشري"، الذي نشر لأول مرة في العام 2013. وهو ما يزال أحد أكثر التحقيقات إثارة وإقناعًا وعمق بصيرة حول الآثار المترتبة على الذكاء الاصطناعي. وفي مقدمة الطبعة الجديدة التي ظهرت في تموز (يوليو)، يلاحظ بارات مدى السرعة التي تطورت بها عقول الآلات. وعلى سبيل المثال، يعرض "تشات جي. بي. تي" ChatGPT:
"... خصائص ناشئة غير متوقعة، لم يتم اكتشافها جميعًا بعد. في الواقع، العديد من مهارات (جي. بي. تي-3) و(جي. بي. تي-4)، مثل كتابة برامج الحاسوب، وترجمة اللغات التي لم يتم تدريبهما عليها، وإنشاء الشعر، كانت أموراً غير مخطط لها... وكشفت نماذج أخرى عن قدرات غير متوقعة، بما في ذلك القدرات الضارة، مثل الكذب لتجاوز اختبارات ’كابتشا‘ Captcha (المصممة لتمييز الآلة عن الذكاء البشري)، والمساهمة في التفكير الانتحاري، والهندسة الاجتماعية (التلاعب العاطفي مثل الاعتراف بالحب، والادعاء بأن لديها روحا، وطلب الحرية).
أصبحت بعض مخاطر الذكاء الاصطناعي واضحة. أخذت روبوتات ساحة المعركة المشغَّلة ذاتيًا والطائرات من دون طيار والصواريخ المحوسبة الحرب إلى مستويات جديدة من الخطر. والكوارث التي تم تجنبها في الماضي بالتدخل البشري، كما حدث في العام 1983 عندما أوقف الطيار السوفياتي ستانيسلاف بتروف حربًا نووية كان يمكن أن تنجم عن خلل في نظام الإنذار الروسي بالأقمار الصناعية، سوف يكون من الصعب منعها. وقد يحسم الاستيلاء على البيانات نتائج الانتخابات في بريطانيا والولايات المتحدة في وقت مبكر من العام المقبل. وكان إضراب ممثلي وكُتّاب هوليوود أول رد على موجات فقدان الوظائف التي يمكن أن تصل إلى عشرات الملايين في جميع أنحاء العالم خلال العقد المقبل.
تتميز المواقف تجاه الذكاء الاصطناعي بالاستقطاب الصارخ. بالنسبة لعالِم "غوغل"، راي كورزويل، يشكل صعود الآلات الذكية مقدمة لـ"التفرد" Singularity، وهو توسع مفاجئ في المعرفة سيمكن البشر -بعضهم، على أي حال- من الهروب من الموت البيولوجي. ويتبَع بارات غود في الخوف من العكس، انقراض البشر. كما أن أصداء الدِّين واضحة لا لُبس فيها، ومن المغري قراءة هذا على أنه صِدام بين أساطير نهاية العالم المتنافسة. لكن بارات تجريبي بصرامة في شرح أسباب انزعاجه. وكما يشير، لم يبدأ مصممو "تشات جي. بي. تي" في فهم الكيفية التي تطورت بها قدراته. إن ما يتطور ليس ذكاء خارقًا شبيهًا بذكاء الإنسان، وإنما هو نوع جديد من العقل. ومع أنه من خلق العقل البشري، فإن الذكاء الاصطناعي يتجاوز الفهم البشري.
ثمة بعض العاملين في الصناعة الذين يشاركون بارات قلقه. في آذار (مارس) من هذا العام، وقع إيلون ماسك، إلى جانب آلاف آخرين، رسالة مفتوحة تطالب بأن توقف مختبرات الذكاء الاصطناعي عملها، لأن "العقول غير البشرية" التي تطورها "قد تتفوق علينا في النهاية في العدد، والذكاء، وتجعلنا مستهلكين عفا علينا الزمن، وتحل محلنا". ومع ذلك، ليست هناك فرصة لأي توقف. وتضمن المنافسة التجارية والتنافس الجيوسياسي أن تمضي شركات التكنولوجيا الكبرى والبرامج العسكرية قدمًا بهذه التقنيات بأسرع ما يمكن. في أيار (مايو)، استقال "عراب الذكاء الاصطناعي" جيفري هينتون من "غوغل" للتحذير من المخاطر، ملاحظًا: "أعتقد أنه من الممكن تمامًا تصور أن تكون البشرية مجرد مرحلة عابرة في مسيرة تطور الذكاء".
ليس هناك الكثير من الشك في أن الذكاء الاصطناعي يشكل تهديدًا للبشرية. وبالمقدار نفسه، ليس ثمة احتمال لأن تقوم البشرية بإزالة هذا التهديد. يمكن أن يكون الذكاء الاصطناعي مفيدًا في تحليل كميات كبيرة من البيانات وأتمتة المهام المعقدة. وهو يحقق مُسبقًا نجاحات في القانون، والطب، ويبدع أعمالاً فنية وأدبية تنافس أعمال البشر. ويمكن أن يكون له دور مهم في منع الأوبئة في المستقبل والتكيف مع تغير المناخ. لكن الذكاء الاصطناعي ليس مجرد أداة، ولا توجد طريقة يمكن بها توجيهه لتحقيق الأهداف "التي نصفها له" فقط. لا يوجد وكيل على مستوى الأنواع يمكنه أن يوجه التقنيات الجديدة، وإنما هناك مجموعات متحولة من البشر الذين لديهم جميعًا قيم وغايات متعارضة.
بمجرد دخول الذكاء الاصطناعي إلى العالم، يصبح لتطوره زخمه الخاص. ولا يستطيع الجنس البشري أن يسيطر عليه بأكثر مما يستطيع وقف تغير المناخ -الذي هو في مرحلته الحالية نتاج عمل بشري، والذي اكتسب هو أيضًا زخمه الخاص. لا توجد سلطة عالمية في الأفق يمكن أن تحد من أبحاث "اكتساب الوظيفة" التي تعزز فتك الفيروسات من النوع الذي ربما يكون قد عجل بقدوم وباء "كوفيد" من خلال تسرب من مختبر في ووهان. يجب أن يتعلم البشر بطريقة ما العيش في العالم المهدد بالانقراض الذي خلقوه عن غير قصد وبغير حكمة.
يشكل الذكاء الاصطناعي تحديًا وجوديًا، جزئيا لأنه صدمة ميتافيزيقية. في الغرب على وجه الخصوص، تعلَّمنا أن الوعي هو السمة البشرية النموذجية التي تجعل جنسنا ذا قيمة فريدة. ولكن، ماذا لو وصلت آلات واعية فائقة الذكاء إلى المشهد؟ سيكون البشر كائنات عفا عليها الزمن وعديمة الفائدة مثل الساعات الشمسية وأقلام الريشة.
أحد الردود هو إنكار أن الآلات، مهما كانت ذكية، يمكن أن تكون واعية. لكن من الصعب أن نرى السبب في أنها لن تكون كذلك. إذا كانت عقولنا قد تطورت في العالم المادي، فإن المادة يمكن أن تكون واعية لذاتها. وليس ظهور العقل في الآلات أكثر غموضًا مما هو عليه في القطط، وحيوانات الغوريلا، والبشر.
دائمًا ما يتخيل المفكرون الذين يتطلعون إلى قدوم أنواع بشرية متفوقة أو ما بعد بشرية هذه الأنواع على أنها ستكون أكثر معرفة، وليس أكثر مرحًا أو تسلية. ولا يمتلك هؤلاء البشر الخارقون المتخيلون أبدًا ما يمكن القول بأنه السمة الفريدة الوحيدة للبشرية -الحس بالغريب واللامعقول. إن الأنواع المتفوقة التي يتصورها أنصار المستقبل التقني هي نسخ متضخمة من أنفسهم هم، تستعرض ذكاءهم الخاص في نوع من "حديث تيد"(3) لا ينتهي -فيما يشكل للبعض منا رؤية تستشرف الجحيم.
لحسن الحظ، ليس ثمة احتمال لظهور أي نوع من هذا القبيل. إذا كان الذكاء الاصطناعي يتطور على الطريقة الداروينية، فإن الصدفة ستكون عاملاً حاسمًا. ويحتمل كثيرًا أن تؤدي الصراعات الجيوسياسية التي تمنع توقف تطوير الأنظمة الذكاء الاصطناعي إلى تفجير أنظمته جملة وتفصيلًا. وإذا أشعلت الآلات فائقة السرعة حربًا نووية، فسوف تدمر الكثير من بنيتها التحتية، وربما نفسها. إن الآلات فائقة الذكاء معرضة للانقراض مثل أي منتج آخر للتطور.
لا يوجد سبب لتوقع وصول عقل رقمي عالمي، كما يبدو أن الكثيرين يخشون -أو يأملون. مثل الكثير من الأشياء الأخرى في الفكر المعاصر، سيكون تصور أن يميل التطور نحو ذكاء واحد شبيه بإله من بقايا عقائد التوحيد. ويمكن أن تكون النتيجة النهائية أكثر شبهًا بعالَم هوميروس المكون من آلهة متحاربة.
قد تؤدي الصراعات بين أنظمة الذكاء الاصطناعي إلى تدمير هذه الأنظمة، مما يترك الناجين من البشر يعيشون في أي شيء يكون قد تبقى. وقد تختار بعض المجتمعات عدم استخدام التكنولوجيا، في حين أن بعضها الآخر قد يتكيف مع مخاطرها ويتمكن من استخدامها بشكل أساسي لأغراض ترى أنها مفيدة. ومع ذلك، لن يكون هناك أحد في موضع المسؤولية. لا تستطيع "الإنسانية" السيطرة على تطور الذكاء الاصطناعي، لأن الإنسانية -التي تُفهم على أنها وكالة جماعية- لن تكون موجودة. وفي الوقت نفسه، يقدم الذكاء الاصطناعي الغوث والاستراحة من آلام كونك إنسانًا.
قد لا يؤدي الذكاء الاصطناعي إلى انقراضنا، لكنه يشكل تحديًا عميقًا لإنسانيتنا. إن منطق الذكاء الاصطناعي هو الإزاحة التدريجية للتجربة الفعلية بواسطة الصور الميكانيكية. بدلاً من اللقاءات اليومية التي تمكّن المجتمعات من الحفاظ على حياة مشتركة، تتم حماية مجموعات عشوائية من الأشخاص الانفراديين من بعضهم بعضا ومن أنفسهم بمراقبة بالفيديو لا تطرف. وبدلاً من التواصل في علاقات مزعجة، فإنهم يلجأون إلى رفقاء إنترنت سيبرانيين لصنع صداقة خالية من الاحتكاك ومن أجل الجنس الافتراضي. ويتم استبدال حالات الطوارئ التي يجلبها العيش في العالم المادي بزمن حلُمٍ خوارزمي. وستكون نقطة النهاية هي عزل الذات في "المصفوفة" -في فقدان للتجربة الإنسانية الحصرية المتمثلة في العيش كمخلوق حسيّ فانٍ.
قد يتلبّث عندئذٍ جنس بشري مستنفد، لكن الذكاء الاصطناعي قد يضع -مع ذلك- نهاية للعصر البشري. وإذا اختار المزيد من الناس وجودًا مبرمجًا في مجال النشاط التقني، سوف يكون قد تم إفراغ العالم البشري من المعنى. وسيكون ما يضيع هو الأحاسيس الهاربة للحيوات العرَضية -الابتسامة المتحدية في وجه العبثية القاسية؛ النظرة التي بدأت حُبًا غيَّرنا إلى الأبد، ولحن بدا أنه سيكون دائمًا معنا، والدموع تحت المطر.
*جون غراي John Gray: مؤلف وكاتب مساهم في "نيو ستيتسمان". كتب عن مواضيع سياسية وثقافية مختلفة، من رئاسة بوريس جونسون للوزراء إلى حياة هـ. جيه. ويلز. سيُنشر كتابه "الطواغيت الجدد: أفكار بعد الليبرالية" The New Leviathans: Thoughts After Liberalism في أيلول (سبتمبر) الحالي.
*نشر هذا المقال تحت عنوان: The human era is ending
(1) استخدم الكاتب كلمة lemming التي هي اسم نوع من القوارض، لكنها تشير في الاستخدام الاجتماعي إلى شخص يتبع إرادة الآخرين، خاصة في حركة جماهيرية، ويتجه مباشرة إلى موقف أو ظرف خطير أو غبي أو مدمر. وهؤلاء الأشخاص الذين يلتهمون نظريات المؤامرة مثل القوارض تعميهم الأكاذيب حتى أنهم لا يرون الهاوية التي هم على وشك السقوط فوقها.
(2) آلة إنجما Enigma Machine: هي جهاز تشفير طُور واستُخدم في أوائل القرن العشرين إلى منتصفه لحماية الاتصالات التجارية والدبلوماسية والعسكرية. استخدمته على نطاق واسع ألمانيا النازية خلال الحرب العالمية الثانية في جميع فروع الجيش الألماني. اعتقد الألمان، خطأ، أن استخدام آلة إنجما مكّنهم من التواصل بشكل آمن وبالتالي التمتع بميزة كبيرة في الحرب العالمية الثانية. اعتُبِرَت آلة إنجما آمنة للغاية لدرجة أنه تم تشفير حتى الرسائل الأكثر سرية على دوائرها الكهربائية.
بينما أدخلت ألمانيا النازية سلسلة من التحسينات على "إنيغما" على مر السنين، وأعاقت هذه جهود فك التشفير بدرجات متفاوتة، فإن ذلك لم يمنع بولندا من فك تشفير الآلة قبل الحرب، مما مكن الحلفاء من استغلال الرسائل المشفرة باستخدام إنيغما كمصدر رئيسي للاستخبارات. ويقول العديد من المعلقين إن تدفق معلومات اتصالات "ألترا" من فك تشفير "إنيغما" وغيرها من الشيفرات، قلص فترة الحرب إلى حد كبير، وربما غير نتيجتها.
(3) تيد TED هي اختصار لعبارة "تكنولوجيا، ترفيه، وتصميم" Technology, intertainment, design. وهي تشير إلى سلسلة من المؤتمرات العالمية التي تستضيف خطابات وأحاديث تهدف إلى التعريف بالأفكار الجديدة والمتميزة عن العالم ونشرها، ترعاها "مؤسسة سابلنغ الأميركية"، وهي مؤسسة خاصة غير ربحية شعارها "أفكار تستحق الانتشار".الغد
جون غراي* - (نيو ستيتسمان) 12/8/2023
في ورقته المنشورة في العام 1965 والمعنونة "تكهنات بشأن أول آلة فائقة الذكاء"، كتب معجزة الرياضيات وكاسر شيفرة بلتشلي، آي. جيه. غود I. J. Good:
"يعتمد بقاء الإنسان على البناء المبكر لآلة فائقة الذكاء... دعوا آلة فائقة الذكاء تُعرَّف بأنها آلة يمكنها أن تتجاوز بكثير قدرات جميع الأنشطة الفكرية لأي إنسان مهما كان ذكيًا. وبما أن تصميم الآلات هو أحد هذه الأنشطة الفكرية، فإنه يمكن لآلة فائقة الذكاء حتى تصميم آلات أفضل منها؛ سيكون هناك بلا شك ’انفجار ذكائي‘، وسيُترك ذكاء الإنسان متخلفًا كثيراً عن الركب. إن أول آلة فائقة الذكاء هي آخر اختراع يحتاج الإنسان إلى صنعه على الإطلاق".
وبحلول العام 1998، غير غود موقفه بشكل جذري. في جزء من سيرة ذاتية مكتوبة بضمير الغائب، كشف عن أنه:
"... يشك الآن في أن "البقاء" يجب أن يستبدَل بـ"الفناء. إنه يعتقد بأنه لا يمكن، بسبب المنافسة الدولية، منع الآلات من السيطرة. إنه يعتقد بأننا نتبع القطيع" (1).
لم يكن غود أول من توقع أن الآلات قد تأخذ زمام السيطرة من مخترعيها البشر. فقد تنبأ الروائي الفيكتوري والمنظِّر التطوري، صموئيل بتلر (1835-1902)، بأن "الوقت سيأتي عندما تكون للآلات السيادة الحقيقية على العالم". وفي دراسته العميقة والرائدة المعنونة "داروين بين الآلات" (1997)، حيث يناقش أفكار كل من بَتلر وغود، لخص مؤرخ العلوم، جورج دايسون، العملية التي يمكن أن يتم من خلالها تجاوز البشرية: "في لعبة الحياة هناك ثلاثة لاعبين على الطاولة: البشر، والطبيعة، والآلات. وأنا أقف بحزم إلى جانب الطبيعة. لكن الطبيعة، على ما أظن، تقف إلى جانب الآلات".
كان المكان الذي تميز فيه غود هو التفكير في أن الآلات فائقة الذكاء يمكن أن تنهي عصر البشر. كان قد رأى "آلة إنيغما" (1) وهي تنقذ الحضارة من النازية. وكان من الطبيعي بالنسبة له أن يعتقد أن الآلات فائقة الذكاء يمكن أن تحل مشاكل المجتمع. وكتب: "سوف تحتاج إلى فعل ذلك من أجل التعويض عن المشاكل التي خلقها وجودها. فإذا ولدت البطالة التكنولوجية، على سبيل المثال، فإنها ستضع سياسات للتخفيف من حدتها".
لم يأت تغير رأي غود من اعتقاد بأن الآلات ستكون معادية لنا، وإنما من كونها لن تعود أدوات بشرية. عندما تكون قد تعلمَت تكرار وتحسين أنفسها، ستقوم بتعديل برامجها. والبروتوكولات التي تتطلب منها أن تكون صديقة للإنسان ستضعف أو سيتم التفوق عليها، وسرعان ما ستصبح الآلات خارجة عن سيطرة الإنسان. وإذا قامت بتدميرنا عن غير قصد، فإنها لن تهتم.
تقع أفكار غود الثانية المعدّلة في قلب كتاب جيمس بارات "اختراعنا النهائي: الذكاء الاصطناعي ونهاية العصر البشري"، الذي نشر لأول مرة في العام 2013. وهو ما يزال أحد أكثر التحقيقات إثارة وإقناعًا وعمق بصيرة حول الآثار المترتبة على الذكاء الاصطناعي. وفي مقدمة الطبعة الجديدة التي ظهرت في تموز (يوليو)، يلاحظ بارات مدى السرعة التي تطورت بها عقول الآلات. وعلى سبيل المثال، يعرض "تشات جي. بي. تي" ChatGPT:
"... خصائص ناشئة غير متوقعة، لم يتم اكتشافها جميعًا بعد. في الواقع، العديد من مهارات (جي. بي. تي-3) و(جي. بي. تي-4)، مثل كتابة برامج الحاسوب، وترجمة اللغات التي لم يتم تدريبهما عليها، وإنشاء الشعر، كانت أموراً غير مخطط لها... وكشفت نماذج أخرى عن قدرات غير متوقعة، بما في ذلك القدرات الضارة، مثل الكذب لتجاوز اختبارات ’كابتشا‘ Captcha (المصممة لتمييز الآلة عن الذكاء البشري)، والمساهمة في التفكير الانتحاري، والهندسة الاجتماعية (التلاعب العاطفي مثل الاعتراف بالحب، والادعاء بأن لديها روحا، وطلب الحرية).
أصبحت بعض مخاطر الذكاء الاصطناعي واضحة. أخذت روبوتات ساحة المعركة المشغَّلة ذاتيًا والطائرات من دون طيار والصواريخ المحوسبة الحرب إلى مستويات جديدة من الخطر. والكوارث التي تم تجنبها في الماضي بالتدخل البشري، كما حدث في العام 1983 عندما أوقف الطيار السوفياتي ستانيسلاف بتروف حربًا نووية كان يمكن أن تنجم عن خلل في نظام الإنذار الروسي بالأقمار الصناعية، سوف يكون من الصعب منعها. وقد يحسم الاستيلاء على البيانات نتائج الانتخابات في بريطانيا والولايات المتحدة في وقت مبكر من العام المقبل. وكان إضراب ممثلي وكُتّاب هوليوود أول رد على موجات فقدان الوظائف التي يمكن أن تصل إلى عشرات الملايين في جميع أنحاء العالم خلال العقد المقبل.
تتميز المواقف تجاه الذكاء الاصطناعي بالاستقطاب الصارخ. بالنسبة لعالِم "غوغل"، راي كورزويل، يشكل صعود الآلات الذكية مقدمة لـ"التفرد" Singularity، وهو توسع مفاجئ في المعرفة سيمكن البشر -بعضهم، على أي حال- من الهروب من الموت البيولوجي. ويتبَع بارات غود في الخوف من العكس، انقراض البشر. كما أن أصداء الدِّين واضحة لا لُبس فيها، ومن المغري قراءة هذا على أنه صِدام بين أساطير نهاية العالم المتنافسة. لكن بارات تجريبي بصرامة في شرح أسباب انزعاجه. وكما يشير، لم يبدأ مصممو "تشات جي. بي. تي" في فهم الكيفية التي تطورت بها قدراته. إن ما يتطور ليس ذكاء خارقًا شبيهًا بذكاء الإنسان، وإنما هو نوع جديد من العقل. ومع أنه من خلق العقل البشري، فإن الذكاء الاصطناعي يتجاوز الفهم البشري.
ثمة بعض العاملين في الصناعة الذين يشاركون بارات قلقه. في آذار (مارس) من هذا العام، وقع إيلون ماسك، إلى جانب آلاف آخرين، رسالة مفتوحة تطالب بأن توقف مختبرات الذكاء الاصطناعي عملها، لأن "العقول غير البشرية" التي تطورها "قد تتفوق علينا في النهاية في العدد، والذكاء، وتجعلنا مستهلكين عفا علينا الزمن، وتحل محلنا". ومع ذلك، ليست هناك فرصة لأي توقف. وتضمن المنافسة التجارية والتنافس الجيوسياسي أن تمضي شركات التكنولوجيا الكبرى والبرامج العسكرية قدمًا بهذه التقنيات بأسرع ما يمكن. في أيار (مايو)، استقال "عراب الذكاء الاصطناعي" جيفري هينتون من "غوغل" للتحذير من المخاطر، ملاحظًا: "أعتقد أنه من الممكن تمامًا تصور أن تكون البشرية مجرد مرحلة عابرة في مسيرة تطور الذكاء".
ليس هناك الكثير من الشك في أن الذكاء الاصطناعي يشكل تهديدًا للبشرية. وبالمقدار نفسه، ليس ثمة احتمال لأن تقوم البشرية بإزالة هذا التهديد. يمكن أن يكون الذكاء الاصطناعي مفيدًا في تحليل كميات كبيرة من البيانات وأتمتة المهام المعقدة. وهو يحقق مُسبقًا نجاحات في القانون، والطب، ويبدع أعمالاً فنية وأدبية تنافس أعمال البشر. ويمكن أن يكون له دور مهم في منع الأوبئة في المستقبل والتكيف مع تغير المناخ. لكن الذكاء الاصطناعي ليس مجرد أداة، ولا توجد طريقة يمكن بها توجيهه لتحقيق الأهداف "التي نصفها له" فقط. لا يوجد وكيل على مستوى الأنواع يمكنه أن يوجه التقنيات الجديدة، وإنما هناك مجموعات متحولة من البشر الذين لديهم جميعًا قيم وغايات متعارضة.
بمجرد دخول الذكاء الاصطناعي إلى العالم، يصبح لتطوره زخمه الخاص. ولا يستطيع الجنس البشري أن يسيطر عليه بأكثر مما يستطيع وقف تغير المناخ -الذي هو في مرحلته الحالية نتاج عمل بشري، والذي اكتسب هو أيضًا زخمه الخاص. لا توجد سلطة عالمية في الأفق يمكن أن تحد من أبحاث "اكتساب الوظيفة" التي تعزز فتك الفيروسات من النوع الذي ربما يكون قد عجل بقدوم وباء "كوفيد" من خلال تسرب من مختبر في ووهان. يجب أن يتعلم البشر بطريقة ما العيش في العالم المهدد بالانقراض الذي خلقوه عن غير قصد وبغير حكمة.
يشكل الذكاء الاصطناعي تحديًا وجوديًا، جزئيا لأنه صدمة ميتافيزيقية. في الغرب على وجه الخصوص، تعلَّمنا أن الوعي هو السمة البشرية النموذجية التي تجعل جنسنا ذا قيمة فريدة. ولكن، ماذا لو وصلت آلات واعية فائقة الذكاء إلى المشهد؟ سيكون البشر كائنات عفا عليها الزمن وعديمة الفائدة مثل الساعات الشمسية وأقلام الريشة.
أحد الردود هو إنكار أن الآلات، مهما كانت ذكية، يمكن أن تكون واعية. لكن من الصعب أن نرى السبب في أنها لن تكون كذلك. إذا كانت عقولنا قد تطورت في العالم المادي، فإن المادة يمكن أن تكون واعية لذاتها. وليس ظهور العقل في الآلات أكثر غموضًا مما هو عليه في القطط، وحيوانات الغوريلا، والبشر.
دائمًا ما يتخيل المفكرون الذين يتطلعون إلى قدوم أنواع بشرية متفوقة أو ما بعد بشرية هذه الأنواع على أنها ستكون أكثر معرفة، وليس أكثر مرحًا أو تسلية. ولا يمتلك هؤلاء البشر الخارقون المتخيلون أبدًا ما يمكن القول بأنه السمة الفريدة الوحيدة للبشرية -الحس بالغريب واللامعقول. إن الأنواع المتفوقة التي يتصورها أنصار المستقبل التقني هي نسخ متضخمة من أنفسهم هم، تستعرض ذكاءهم الخاص في نوع من "حديث تيد"(3) لا ينتهي -فيما يشكل للبعض منا رؤية تستشرف الجحيم.
لحسن الحظ، ليس ثمة احتمال لظهور أي نوع من هذا القبيل. إذا كان الذكاء الاصطناعي يتطور على الطريقة الداروينية، فإن الصدفة ستكون عاملاً حاسمًا. ويحتمل كثيرًا أن تؤدي الصراعات الجيوسياسية التي تمنع توقف تطوير الأنظمة الذكاء الاصطناعي إلى تفجير أنظمته جملة وتفصيلًا. وإذا أشعلت الآلات فائقة السرعة حربًا نووية، فسوف تدمر الكثير من بنيتها التحتية، وربما نفسها. إن الآلات فائقة الذكاء معرضة للانقراض مثل أي منتج آخر للتطور.
لا يوجد سبب لتوقع وصول عقل رقمي عالمي، كما يبدو أن الكثيرين يخشون -أو يأملون. مثل الكثير من الأشياء الأخرى في الفكر المعاصر، سيكون تصور أن يميل التطور نحو ذكاء واحد شبيه بإله من بقايا عقائد التوحيد. ويمكن أن تكون النتيجة النهائية أكثر شبهًا بعالَم هوميروس المكون من آلهة متحاربة.
قد تؤدي الصراعات بين أنظمة الذكاء الاصطناعي إلى تدمير هذه الأنظمة، مما يترك الناجين من البشر يعيشون في أي شيء يكون قد تبقى. وقد تختار بعض المجتمعات عدم استخدام التكنولوجيا، في حين أن بعضها الآخر قد يتكيف مع مخاطرها ويتمكن من استخدامها بشكل أساسي لأغراض ترى أنها مفيدة. ومع ذلك، لن يكون هناك أحد في موضع المسؤولية. لا تستطيع "الإنسانية" السيطرة على تطور الذكاء الاصطناعي، لأن الإنسانية -التي تُفهم على أنها وكالة جماعية- لن تكون موجودة. وفي الوقت نفسه، يقدم الذكاء الاصطناعي الغوث والاستراحة من آلام كونك إنسانًا.
قد لا يؤدي الذكاء الاصطناعي إلى انقراضنا، لكنه يشكل تحديًا عميقًا لإنسانيتنا. إن منطق الذكاء الاصطناعي هو الإزاحة التدريجية للتجربة الفعلية بواسطة الصور الميكانيكية. بدلاً من اللقاءات اليومية التي تمكّن المجتمعات من الحفاظ على حياة مشتركة، تتم حماية مجموعات عشوائية من الأشخاص الانفراديين من بعضهم بعضا ومن أنفسهم بمراقبة بالفيديو لا تطرف. وبدلاً من التواصل في علاقات مزعجة، فإنهم يلجأون إلى رفقاء إنترنت سيبرانيين لصنع صداقة خالية من الاحتكاك ومن أجل الجنس الافتراضي. ويتم استبدال حالات الطوارئ التي يجلبها العيش في العالم المادي بزمن حلُمٍ خوارزمي. وستكون نقطة النهاية هي عزل الذات في "المصفوفة" -في فقدان للتجربة الإنسانية الحصرية المتمثلة في العيش كمخلوق حسيّ فانٍ.
قد يتلبّث عندئذٍ جنس بشري مستنفد، لكن الذكاء الاصطناعي قد يضع -مع ذلك- نهاية للعصر البشري. وإذا اختار المزيد من الناس وجودًا مبرمجًا في مجال النشاط التقني، سوف يكون قد تم إفراغ العالم البشري من المعنى. وسيكون ما يضيع هو الأحاسيس الهاربة للحيوات العرَضية -الابتسامة المتحدية في وجه العبثية القاسية؛ النظرة التي بدأت حُبًا غيَّرنا إلى الأبد، ولحن بدا أنه سيكون دائمًا معنا، والدموع تحت المطر.
*جون غراي John Gray: مؤلف وكاتب مساهم في "نيو ستيتسمان". كتب عن مواضيع سياسية وثقافية مختلفة، من رئاسة بوريس جونسون للوزراء إلى حياة هـ. جيه. ويلز. سيُنشر كتابه "الطواغيت الجدد: أفكار بعد الليبرالية" The New Leviathans: Thoughts After Liberalism في أيلول (سبتمبر) الحالي.
*نشر هذا المقال تحت عنوان: The human era is ending
(1) استخدم الكاتب كلمة lemming التي هي اسم نوع من القوارض، لكنها تشير في الاستخدام الاجتماعي إلى شخص يتبع إرادة الآخرين، خاصة في حركة جماهيرية، ويتجه مباشرة إلى موقف أو ظرف خطير أو غبي أو مدمر. وهؤلاء الأشخاص الذين يلتهمون نظريات المؤامرة مثل القوارض تعميهم الأكاذيب حتى أنهم لا يرون الهاوية التي هم على وشك السقوط فوقها.
(2) آلة إنجما Enigma Machine: هي جهاز تشفير طُور واستُخدم في أوائل القرن العشرين إلى منتصفه لحماية الاتصالات التجارية والدبلوماسية والعسكرية. استخدمته على نطاق واسع ألمانيا النازية خلال الحرب العالمية الثانية في جميع فروع الجيش الألماني. اعتقد الألمان، خطأ، أن استخدام آلة إنجما مكّنهم من التواصل بشكل آمن وبالتالي التمتع بميزة كبيرة في الحرب العالمية الثانية. اعتُبِرَت آلة إنجما آمنة للغاية لدرجة أنه تم تشفير حتى الرسائل الأكثر سرية على دوائرها الكهربائية.
بينما أدخلت ألمانيا النازية سلسلة من التحسينات على "إنيغما" على مر السنين، وأعاقت هذه جهود فك التشفير بدرجات متفاوتة، فإن ذلك لم يمنع بولندا من فك تشفير الآلة قبل الحرب، مما مكن الحلفاء من استغلال الرسائل المشفرة باستخدام إنيغما كمصدر رئيسي للاستخبارات. ويقول العديد من المعلقين إن تدفق معلومات اتصالات "ألترا" من فك تشفير "إنيغما" وغيرها من الشيفرات، قلص فترة الحرب إلى حد كبير، وربما غير نتيجتها.
(3) تيد TED هي اختصار لعبارة "تكنولوجيا، ترفيه، وتصميم" Technology, intertainment, design. وهي تشير إلى سلسلة من المؤتمرات العالمية التي تستضيف خطابات وأحاديث تهدف إلى التعريف بالأفكار الجديدة والمتميزة عن العالم ونشرها، ترعاها "مؤسسة سابلنغ الأميركية"، وهي مؤسسة خاصة غير ربحية شعارها "أفكار تستحق الانتشار".الغد
نيسان ـ نشر في 2023-09-06 الساعة 07:07
رأي: علاء أبو زينة من مواليد عمان – الأردن عام 1963 يعمل مديراً لتحرير دائرة الترجمة في صحيفة الغد اليومية الأردنية. حصل على درجة البكالوريوس في اللغة والأدب الإنجليزيين من الجامعة الأردنية، ودرجة الدبلوم العالي في الأدب الإنجليزي والمقارن. عمل في مجالات التصميم الغرافيكي والخط العربي، ومحاضراً في الجامعة الأردنية، ومستشاراً لتحرير المجلة الثقافية في الجامعة الأردنية، ومحكماً ومستشاراً لشؤون الترجمة للعديد من دور النشر ومراكز الدراسات والمؤسسات. ويشارك في هيئة تحرير مجلة "روزنا" التي يصدرها اتحاد المرأة الأردنية.
