نهاية العالم: المخاطر الحقيقية، ودور الذكاء الاصطناعي، وكيف تقاوم الإنسانية

مقدمة: الساعة تدق

لقد عاشت الإنسانية دائمًا مع الوعي بفناءها - ليس فقط كأفراد، ولكن كنوع. كانت الحضارات القديمة تخشى الفيضانات والمجاعات وغضب الآلهة. واليوم، أصبحت مخاوفنا أكثر رسوخًا في العلم، وأكثر رعبًا منه. لقد بنينا أسلحة قادرة على إنهاء الحضارة في فترة ما بعد الظهر. نحن نعمل على تسخين الغلاف الجوي بوتيرة تهدد استقرار النظم البيئية التي نعتمد عليها. وقد بدأنا في خلق عقول - عقول اصطناعية - قد تتجاوز عقولنا يومًا ما.

اتضح أن نهاية العالم ليست حدثًا دراميًا واحدًا. إنها مجموعة من الاحتمالات، بعضها بطيء وزاحف، والبعض الآخر مفاجئ وكارثي. إن فهم هذه الاحتمالات ليس تمرينًا لليأس - بل هو الخطوة الأولى نحو منعها.

الجزء الأول: كتالوج الكوارث

1. الحرب النووية

من بين جميع التهديدات التي يصنعها الإنسان، تظل الحرب النووية هي الأكثر إلحاحًا والأكثر فهمًا. واليوم، يوجد ما يقرب من 12500 رأس حربي نووي في تسع دول. إن التبادل واسع النطاق بين الولايات المتحدة وروسيا ــ أكبر ترسانتين ــ لن يؤدي إلى قتل مئات الملايين بشكل مباشر فحسب. فهو من شأنه أن يؤدي إلى "شتاء نووي": حيث ستضخ العواصف النارية الضخمة السخام إلى طبقة الستراتوسفير، فتحجب ضوء الشمس لسنوات، وتنهار الزراعة على مستوى العالم، وربما تقتل المليارات من خلال المجاعة.

الجزء المرعب ليس فقط الأسلحة نفسها، بل الأنظمة التي تتحكم فيها. يمكن اتخاذ قرارات الإطلاق في دقائق. كادت الإنذارات الكاذبة أن تؤدي إلى حرب نووية عدة مرات - في عام 1983، تجاهل الضابط السوفييتي ستانيسلاف بيتروف تحذيرًا عبر الأقمار الصناعية من صواريخ أمريكية قادمة، وهو القرار الذي ربما أنقذ الحضارة. إن كون مصير البشرية يعتمد على حكم رجل واحد في منتصف الليل ليس أمرًا مطمئنًا.

2. تغير المناخ والانهيار البيئي

إن تغير المناخ أبطأ من الصاروخ، ولكن قدرته على إحداث الدمار مذهلة بنفس القدر. وفي ظل المسارات الحالية، فإن الكوكب في طريقه نحو ارتفاع درجات الحرارة بمقدار 2-3 درجات مئوية فوق مستويات ما قبل الصناعة بحلول نهاية هذا القرن. أبعد من 3 درجات مئوية، يمكن أن تؤدي حلقات ردود الفعل - ذوبان التربة الصقيعية التي تطلق غاز الميثان، وتحول الغابات المحتضرة من بالوعات الكربون إلى مصادر الكربون - إلى ارتفاع درجات الحرارة إلى مستويات أعلى بكثير، بما يتجاوز أي مستوى شهدته الحضارة الإنسانية على الإطلاق.

وتتتابع العواقب: ارتفاع منسوب مياه البحار مما يؤدي إلى نزوح سكان المناطق الساحلية، وموجات الجفاف والفيضانات التي تدمر الزراعة، وتحمض المحيطات الذي يدمر سلاسل الغذاء البحرية، والانقراض الجماعي الذي يزعزع استقرار المحيط الحيوي. لا توجد لحظة واحدة "لنهاية العالم" - بل تآكل بطيء وطاحن للظروف التي تدعم حياة ثمانية مليارات إنسان.

3. الأوبئة المهندسة والأسلحة البيولوجية كانت جائحة كوفيد-19، على الرغم من كونها مدمرة، بمثابة معاينة لشيء أسوأ بكثير. إن التقدم في مجال التكنولوجيا الحيوية - تحرير الجينات، والبيولوجيا التركيبية، وتوليف الحمض النووي الاصطناعي - يجعل من الممكن على نحو متزايد هندسة مسببات الأمراض الأكثر قابلية للانتقال، أو الأكثر فتكاً، أو المقاومة بشكل خاص للعلاجات الحالية.

إن الوباء المصمم بالقدر الكافي، سواء تم إطلاقه عن طريق الخطأ من المختبر أو عمداً من قبل جهة حكومية أو غير تابعة للدولة، يمكن أن يقتل مئات الملايين قبل أن يتم نشر تدابير الاحتواء. وعلى النقيض من الأسلحة النووية، فإن الحاجز الذي يحول دون دخول الأسلحة البيولوجية يتراجع بسرعة. أصبحت المعدات المخبرية أرخص ويمكن الوصول إليها بسهولة من أي وقت مضى. يتم توزيع المعرفة المتعلقة بهندسة مسببات الأمراض الخطيرة بشكل متزايد.

4. الكويكبات والكوارث الطبيعية

الطبيعة نفسها لا تعاني من نقص في التهديدات على مستوى الانقراض. ويظل اصطدام كويكب كبير -من النوع الذي قضى على الديناصورات غير الطائرة قبل 66 مليون سنة- حدثًا منخفض الاحتمال، ولكنه حدث حاسم حضاريًا. قد تؤدي الانفجارات البركانية الهائلة، مثل تلك التي حدثت في يلوستون أو توبا، إلى قذف الرماد في الغلاف الجوي لسنوات، مما يؤدي إلى فصول شتاء بركانية وفشل المحاصيل العالمية.

إن هذه الأحداث نادرة حقًا على النطاق الزمني البشري. لكن الكون لا يهتم بالجداول الزمنية البشرية، وكلمة "نادر" تختلف عن كلمة "أبدًا".

5. الذكاء الاصطناعي: البدل

ثم هناك الذكاء الاصطناعي - الذي يمكن القول إنه الخطر الوجودي الأكثر تعقيدًا والمتنازع عليه في القائمة، وذلك على وجه التحديد لأننا نبنيه بأنفسنا، الآن، بسرعة هائلة.

الجزء الثاني: عامل الذكاء الاصطناعي - كل من التهديد والدرع

الوعد

يقوم الذكاء الاصطناعي بالفعل بإعادة تشكيل كيفية اكتشاف التهديدات والرد عليها. يمكن لنماذج التعلم الآلي تحليل صور الأقمار الصناعية لتتبع التغيرات البيئية في الوقت الفعلي. تعمل أنظمة الذكاء الاصطناعي على تسريع اكتشاف الأدوية، مما يتيح استجابات أسرع للأوبئة الناشئة. تعمل نمذجة المناخ المدعومة بالذكاء الاصطناعي على تحسين فهمنا بشكل كبير لكيفية تطور أنظمة التغذية الراجعة. في مجال الأمن النووي، يتم تطوير أدوات الذكاء الاصطناعي لاكتشاف عمليات إطلاق الصواريخ والتحقق من معاهدات الحد من الأسلحة بدقة وسرعة أكبر من المحللين البشريين وحدهم.

باختصار: يعد الذكاء الاصطناعي واحدًا من أقوى أدواتنا للكشف عن الكوارث الموضحة أعلاه ووضع نماذج لها واحتمال منعها.

التهديد

لكن الذكاء الاصطناعي يقدم أيضًا مخاطر جديدة - بعضها دقيق وبعضها يحتمل أن يكون كارثيًا.

الأسلحة المستقلة يتم تطويرها بالفعل من قبل العديد من الشركات الأمم. ولم تعد الطائرات بدون طيار القادرة على تحديد الأهداف والاشتباك معها دون إذن بشري مجرد خيال علمي؛ ويتم اختبارها ونشرها في مناطق الصراع اليوم. ولا يقتصر القلق على الأسلحة الفردية المستقلة، بل على المخاطر النظامية التي تخلقها: التصعيد الأسرع، وقدر أقل من الحكم البشري في الحلقة، واحتمال وقوع حوادث كارثية أو حسابات خاطئة تؤدي إلى صراعات أكبر.

تمثل الأسلحة البيولوجية المتسارعة بواسطة الذكاء الاصطناعي تهديدًا مخيفًا بشكل خاص. ومن الممكن أن تؤدي النماذج اللغوية الكبيرة وأنظمة الذكاء الاصطناعي القابلة للطي البروتين، في حالة إساءة استخدامها، إلى خفض الخبرة المطلوبة لهندسة مسببات الأمراض الخطيرة بشكل كبير. إن ما كان يتطلب في السابق فريقًا من حملة الدكتوراه على مدار سنوات، يمكن ضغطه في أشهر من قبل شخص لديه معرفة أساسية في علم الأحياء ولديه إمكانية الوصول إلى أدوات الذكاء الاصطناعي. إن الفجوة بين "الفكرة الخطيرة" و"الواقع الخطير" آخذة في التضييق.

الذكاء الاصطناعي المنحرف - وهو خطر سعي أنظمة الذكاء الاصطناعي المتقدمة إلى تحقيق أهداف تتعارض بشكل دقيق أو كبير مع القيم الإنسانية - ربما يكون الخطر الأكثر مناقشة والأكثر إثارة للجدل في هذا المجال. مع ازدياد قدرة أنظمة الذكاء الاصطناعي، أصبح ضمان قيامها بما نريده بشكل موثوق أكثر صعوبة. إن الذكاء الاصطناعي الذي له هدف بسيط ــ تعظيم كفاءة استخدام الطاقة، أو تعظيم الناتج الاقتصادي ــ قد يسعى إلى تحقيق هذا الهدف بطرق كارثية على حياة الإنسان إذا لم تتماشى قيمه بشكل عميق مع قيمنا.

وهذا ليس خطرا على المدى القريب مثل الحرب النووية. لكن العديد من الباحثين الرائدين في مجال الذكاء الاصطناعي على مستوى العالم يعتقدون أن هذا مصدر قلق خطير على المدى الطويل ويستحق اهتمامًا جديًا الآن، في حين أن هذا المجال لا يزال شابًا نسبيًا.

إن المعلومات المضللة المدعومة بالذكاء الاصطناعي تمثل بالفعل مشكلة زمن المضارع. يمكن للتزييف العميق، والدعاية التي يولدها الذكاء الاصطناعي، ووسائل الإعلام الاصطناعية زعزعة استقرار الديمقراطيات، والتحريض على العنف، وتقويض الإحساس المشترك بالواقع الذي تعتمد عليه المجتمعات الديمقراطية. في عالم الدول المسلحة نوويا، فإن المعلومات المضللة المدعومة بالذكاء الاصطناعي والتي تقنع الحكومة بأنها تتعرض للهجوم يمكن أن تؤدي إلى استجابات كارثية في العالم الحقيقي.

الجزء الثالث: كيف ندافع عن أنفسنا

الخبر السار - وهناك أخبار جيدة - هو أن البشرية لا تسير بشكل سلبي نحو هذه التهديدات. عبر العلوم والسياسات والتكنولوجيا والحوكمة الدولية، تُبذل جهود جادة للحد من المخاطر الوجودية.

الردع النووي ونزع السلاح

يعتمد النظام النووي العالمي الحالي على نظام الردع المتبادل: فكرة مفادها أن أي ضربة أولى من شأنها أن تؤدي إلى انتقام مدمر، مما يجعل الحرب النووية غير عقلانية بالنسبة لجميع الأطراف. وقد نجح هذا إلى حد كبير لمدة ثمانين عاما، ولكنه هش، وعرضة للحوادث، ويعتمد على لاعبين عقلانيين ــ وهي الافتراضات التي لا تصمد دائما.

والحل الأعمق هو الحد من الأسلحة، وفي نهاية المطاف، نزع السلاح. لقد نجحت معاهدات مثل اتفاقية ستارت الجديدة بين الولايات المتحدة وروسيا في خفض الترسانات بشكل كبير مقارنة بذروات الحرب الباردة. إن معاهدة حظر الأسلحة النووية، رغم أنها لم توقع عليها بعد أي دولة نووية، تمثل إجماعاً دولياً متزايداً على ضرورة إزالة هذه الأسلحة. التقدم بطيء، ولكن الاتجاه صحيح.

العمل المناخي والهندسة الجيولوجية

إن تحول الطاقة - من الوقود الأحفوري إلى الطاقة الشمسية وطاقة الرياح والمصادر النظيفة الأخرى - يجري بسرعة ملحوظة. انخفضت تكاليف الطاقة الشمسية بنسبة تزيد عن 90% في العقد الماضي. السيارات الكهربائية تدخل الاتجاه السائد. وقد أوضحت الهيئة الحكومية الدولية المعنية بتغير المناخ (IPCC) أنه على الرغم من أن النافذة ضيقة، إلا أنها تحد من ارتفاع درجات الحرارة إلى 1. ولا يزال ارتفاع درجات الحرارة بمقدار 5 إلى 2 درجة مئوية ممكنًا من الناحية الفنية والاقتصادية.

بالنسبة للسيناريوهات الأكثر تطرفًا، يبحث العلماء في أساليب الهندسة الجيولوجية - بما في ذلك حقن الهباء الجوي الستراتوسفيري (عكس ضوء الشمس مرة أخرى إلى الفضاء) وتخصيب الحديد في المحيطات (تعزيز امتصاص الكربون). وهذه ليست بدائل لخفض الانبعاثات، وهي تنطوي على مخاطر خاصة بها. لكنها قد تكون بمثابة مساندة ضرورية إذا تجاوز الانحباس الحراري عتبات خطيرة.

التأهب للجائحة

كشف فيروس كورونا 2019 (COVID-19) عن فجوات كارثية في التأهب العالمي للأوبئة ــ عدم كفاية أنظمة الإنذار المبكر، وعدم كفاية القدرة على تصنيع اللقاحات، والتنسيق الدولي المجزأ. وكانت الاستجابة منذ ذلك الحين كبيرة: فالمنصات الجديدة للقاحات mRNA يمكنها الآن إنتاج لقاحات في غضون أسابيع وليس سنوات. وتجري منظمة الصحة العالمية مفاوضات بشأن معاهدة دولية جديدة لمكافحة الأوبئة. تتوسع شبكات المراقبة البيولوجية.

يلعب الذكاء الاصطناعي دورًا متزايدًا هنا أيضًا: النماذج التي تفحص بيانات الأمراض العالمية بحثًا عن إشارات مبكرة لتفشي المرض، والأدوات التي تسرع تحديد العلاجات الفعالة، والأنظمة التي تعمل على تحسين لوجستيات توزيع اللقاحات.

سلامة الذكاء الاصطناعي وإدارته

لقد نما مجال سلامة الذكاء الاصطناعي بشكل كبير على مدار العقد الماضي. لدى مختبرات الذكاء الاصطناعي الكبرى - بما في ذلك Anthropic وDeepMind وOpenAI - فرق سلامة مخصصة تعمل على المواءمة: لضمان أن أنظمة الذكاء الاصطناعي المتقدمة تسعى بشكل موثوق إلى تحقيق الأهداف التي تعود بالنفع على البشرية. وبدأت الحكومات في الاستجابة أيضًا: يمثل قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي، والأمر التنفيذي الأمريكي بشأن سلامة الذكاء الاصطناعي، والأطر الدولية الناشئة خطوات مبكرة نحو هياكل الإدارة لأنظمة الذكاء الاصطناعي القوية. ويكمن التحدي الأساسي في ضمان أن يكون تطوير الذكاء الاصطناعي محكومًا بالتعاون الدولي بدلاً من ديناميكيات السباق التنافسية - وهو ما يشبه، في بعض النواحي، تحديات الحد من الأسلحة في العصر النووي. لا يمكن لأي دولة أو شركة بمفردها حل مشكلة سلامة الذكاء الاصطناعي. يتطلب الأمر نوعًا من العمل الدبلوماسي والعلمي المستدام وغير الساحر الذي نادرًا ما يكون مثيرًا ولكنه غالبًا ما يبقي الحضارات على قيد الحياة.

الدفاع عن الكويكبات

نجحت مهمة DART التابعة لوكالة ناسا في عام 2022 في تغيير مدار كويكب عن طريق صدم مركبة فضائية فيه - وهو أول دليل على أن البشرية يمكنها بالفعل تحويل صخرة فضائية قادمة. يقوم مكتب تنسيق الدفاع الكوكبي بمراقبة الأجسام القريبة من الأرض وبناء القدرة على الإنذار المبكر والاستجابة. لأول مرة في تاريخ الكوكب، يوجد نوع يمكنه فعل شيء حيال كويكب قادم. وهذا ليس لا شيء.

الجزء الرابع: السؤال الأعمق

وراء كل هذه المخاطر المحددة يكمن سؤال أعمق: هل تمتلك البشرية الحكمة الجماعية والقدرة المؤسسية لإدارة التقنيات والقوى التي أطلقت لها العنان؟

إن وجهة النظر المتفائلة ــ وهناك أسباب قوية للتفاؤل ــ هي أننا فعلنا ذلك من قبل. لقد تجنبنا الحرب النووية خلال الحرب الباردة، على الرغم من العشرات من النداءات الوثيقة. لقد قضينا على مرض الجدري إلى حد كبير. لقد بدأنا، ولو ببطء، في معالجة أزمة المناخ. إن البراعة البشرية والتعاون البشري، في أفضل حالاتهما، أمران رائعان.

وتتلخص وجهة النظر المتشائمة في أن سرعة التغير التكنولوجي تتجاوز قدرتنا المؤسسية على التحكم فيه. تتقدم قدرات الذكاء الاصطناعي بشكل أسرع من قدرتنا على فهمها أو تنظيمها. يؤدي التخليق الحيوي إلى إضفاء الطابع الديمقراطي على الوصول إلى المعرفة البيولوجية الخطيرة. إن تغير المناخ يقترب من نقاط التحول التي قد تستبعد بعض الخيارات بشكل دائم.

وتتلخص وجهة النظر الصادقة في أنه لا يوجد ما يبرر التفاؤل المحض أو التشاؤم المحض. ما يبرره هو الإلحاح - الاعتراف الواضح بأن الاختيارات التي سيتم اتخاذها في العقود القليلة المقبلة من المرجح أن تحدد مسار الحضارة الإنسانية لعدة قرون.

الخلاصة: التحدي هو الحل الوحيد

إن نهاية العالم ليست حتمية. إنها مجموعة من الاحتمالات - بعضها مرتفع وبعضها منخفض - والتي يمكن رفعها أو خفضها من خلال اختيارات الإنسان. أصبحت الحرب النووية أكثر احتمالا في عالم تتآكل فيه معايير الحد من الأسلحة وأنظمة الإطلاق الآلية. إن وقوع كارثة مناخية يصبح أكثر احتمالا في عالم يعاني من الشلل السياسي والاعتماد على الوقود الأحفوري. إن المخاطر الوجودية للذكاء الاصطناعي أكثر ترجيحًا في عالم يكون فيه تطوير الذكاء الاصطناعي مدفوعًا تمامًا بالضغوط التنافسية دون قيود تتعلق بالسلامة.

والعكس صحيح أيضًا. كل معاهدة للحد من الأسلحة تم التوقيع عليها، وكل ميجا طن من الكربون تم توفيرها، وكل تقنية سلامة للذكاء الاصطناعي تم اكتشافها، وكل نظام للكشف عن الأوبئة تم بناؤه – هذه ليست مجرد انتصارات صغيرة. وهي تشكل، بشكل تراكمي، الفارق بين الحضارة التي تبقى على قيد الحياة وتلك التي لا تبقى.

نحن، لأول مرة في التاريخ، كائنات حية تفهم الآليات التي يمكن أن تدمرها وتمتلك الأدوات اللازمة لمعالجتها. إن اختيارنا لاستخدام هذه الأدوات بحكمة لا يتعلق بالتكنولوجيا. إنها مسألة إرادة.

الإجابة، إذا كنا منتبهين، يجب أن تكون نعم.

المصادر ومزيد من القراءة: معهد مستقبل الإنسانية (أكسفورد)، ومركز الأمن الحيوي في جامعة جونز هوبكنز، ونشرة علماء الذرة، ووكالة ناسا للدفاع الكوكبي، وتقارير تقييم الهيئة الحكومية الدولية المعنية بتغير المناخ، والأبحاث التي نشرتها Anthropic، وDeepMind، ومعهد أبحاث الذكاء الآلي حول سلامة الذكاء الاصطناعي.