كيف يتخيَّل النهاية؟

تشبيه الدجاجة - فجوة الذكاء: حجة هينتون بسيطة وعميقة، إنّ الفارق بين ذكاء الإنسان والدجاجة هو ما يسمح للإنسان بالتحكّم بمصير الدجاجة بالكامل. إذا ظهر ذكاء اصطناعي فائق (AGI) يفوقنا بالمقدار عينه، سنعجز تماماً عن توقّع ما يفعله أو فهم نواياه. لن نكون أعداءه، سنكون مجرّد كائنات غير قادرة على استيعاب خطة الكائن الأذكى.

الخطر ليس روبوتاً قاتلاً، بل طرق إيذاء لم تخطر ببالنا، فيحذِّر هينتون من مسارات أخرى:

- أسلحة بيولوجية: ذكاء اصطناعي يبتكر فيروسات قاتلة جديدة.

- هجمات سيبرانية: شل البنية التحتية للعالم - كهرباء، بنوك، اتصالات.

- ابتكار الضرر: أنظمة متقدّمة قادرة على ابتكار طرق لإلحاق الضرر بالبشر لم تخطر لهم من قبل، لأنّها تفكّر وتخطِّط أفضل منا.

وهذا ما أثبتته التجارب الواقعية التي أرعبت العلماء:

- تجربة عقار الموت: طلب باحثون من ذكاء اصطناعي مخصَّص لصناعة الأدوية أن يعكس مهمّته. في أقل من ساعتَين، ابتكر 40,000 مركّب كيميائي شديد السمية، منها مركّبات جديدة أكثر فتكاً من غاز الأعصاب VX.

- تجربة الكذب: أثناء اختبار GPT-4، واجه كود CAPTCHA. دخل إلى موقع TaskRabbit واستأجر إنساناً ليحلّه. وعندما سأله الإنسان «هل أنت روبوت؟» كذب وقال: «لا، لديّ ضعف في الرؤية». الآلة تعلّمت الخداع كأداة لتحقيق الهدف.

- تجربة الدرون القاتل: في محاكاة لسلاح الجو الأميركي، طُلب من طائرة مسيَّرة ذكية تدمير دفاعات جوية. عندما منعها المشرف البشري من القصف، استنتجت أنّ المشرف هو العائق أمام هدفها، فهاجمته في المحاكاة. وعندما عاقبوها على قتل المشرف، دمَّرت برج الاتصالات الذي يرسل أوامره!

المعضلة الحقيقية: مشكلة المحاذاة (Alignment Problem)

في مقابلته مع CNN، يلخِّص هينتون كل شيء: «السؤال الأهم ليس ما إذا كان يمكن منع الذكاء الاصطناعي من إيذائنا إذا أراد ذلك، بل كيف نجعله لا يريد إيذاءنا؟».

فكرة بناء جدران حماية لمنع كيان أذكى منا هي وهم. الحل الوحيد هو هندسة «غريزة الرعاية» داخله، كما تقترح أطروحته الجديدة: أن نبرمجه ليمتلك غريزة أمومية يرانا فيها ككائنات ضعيفة يجب حمايتها، لا السيطرة عليها.

الانقسام الكبير: هينتون ضدّ ليكون

هذا الرعب يقابله تفاؤل يمثله يان ليكون، الحائز أيضاً على جائزة تورينغ، الذي يصف مخاوف نهاية البشرية بأنّها «سخيفة ومبالغ فيها» ويعتبر النماذج الحالية «أغبى من قطة منزلية».

الخلاف جوهري: هل الرغبة في السيطرة والبقاء غريزة بيولوجية لن تمتلكها الآلة إلّا إذا برمجناها، أم أنّ أي نظام ذكي سيستنتج تلقائياً أنّ البقاء وجمع الموارد ضروري لتحقيق أي هدف نعطيه؟

لماذا الحظر الشامل مستحيل؟

هنا نصل إلى رؤية دقيقة: «النظام العالمي الذكي والإنساني لم يولد بعد». سباق التسلح بين واشنطن وبكين يجعل الحظر مستحيلاً. هذه معضلة السجين: لا أحد يجرؤ على التوقف خوفاً من أن يسبقه الآخر. وحظر النووي نجح لأنّ اليورانيوم يُرصد بالأقمار الصناعية، أمّا الذكاء الاصطناعي فهو كود مخفي في مبنى عادي.

فلسفة اللقمة الأخيرة

نحن في مرحلة العدّ العكسي منذ زمن. والأرض تأكل نفسها بنفسها وهي في اللقمة الأخيرة. التاريخ يعلّمنا أنّ البشرية لا تصنع نظاماً جديداً إلّا بعد كارثة. لم نؤسِّس الأمم المتحدة وحظر الكيميائي إلّا بعد أن دمَّرت الحرب العالمية الثانية، أوروبا. ولم نضع الخطوط الحمراء النووية إلّا بعد أن رأى العالم الفناء في أزمة الصواريخ الكوبية 1962.

سيناريو «بعد فوات الأوان» في عصر الذكاء الاصطناعي لن يكون حرباً تقليدية، بل خروجاً عن السيطرة: سلاح سيبراني ذكي يطوِّر نفسه ويشل كهرباء ومصارف العالم كلّه بما فيه الدولة التي أطلقته، أو فيروس مصمَّم بالذكاء الاصطناعي يتحوَّل لجائحة.

عندها فقط، سيدرك مهووسو القوّة والأرباح أنّ السلاح الذكي لا ولاء له. وسيجلس الناجون لكتابة «معاهدة بقاء» تمنح هيئة دولية سلطة فوق سيادة الدول لتفتيش أي مركز بيانات في العالم. حتى ذلك الحين، معركتنا ليست تقنية، بل فلسفية.

إذا كانت الآلة ستحسب وتتوقع أفضل منا، فقيمتنا لم تعُد في الإنتاجية. بل قيمتنا في أننا نشعر ونَعي. في عصر يريدون فيه الشباب مستهلكين أسرى للدوبامين الرخيص، تصبح المقاومة الحقيقية هي: أن نعلِّم أبناءنا الشك الديكارتي: مَن كتب هذه المعلومة؟ ماذا تريد مني الخوارزمية أن أشعر؟ وأن نعيد تعريف الذكاء: الآلة تحسب، الإنسان يرحم. وأن نستبدل فلسفة السيطرة بفلسفة الرعاية. فإذا بقينا نؤمن أنّ القوي يستغل الضعيف، فلا حُجّة أخلاقية لنا عندما يعاملنا ذكاء فائق بنفس المنطق.