كيف يمكن لخطأ برمجي أن يفني الحضارة؟

الحقائق الذكية: الحقيقة الأولى: فقدان السيطرة البشرية

الخطر ليس أن يصبح الذكاء الاصطناعي شريراً، بل إنّه سريع جداً. فالأنظمة العسكرية الحديثة تعتمد على خوارزميات تتخذ القرار في الـ«نانو ثانية». الصواريخ الفرط صوتية تصل إلى هدفها في 3 دقائق. الإنسان يحتاج 5 دقائق ليفهم ما يحدث. هذه الفجوة الزمنية هي الثغرة التي ستبتلع العالم.

في الحروب الدائرة اليوم، تحوَّل دور الإنسان إلى مجرّد «خاتم موافقة» (Rubber Stamping). أنظمة مثل «لافندر» في غزة تنتج آلاف الأهداف بشكل مؤتمت، والضابط يوافق في 20 ثانية فقط. وفي أوكرانيا، بسبب التشويش الإلكتروني الهائل، بدأت المسيَّرات الانتحارية تهاجم أهدافها من دون اتصال بالبشر في المرحلة الأخيرة. الروبوتات القاتلة لم تعُد مستقبلاً، بل واقعاً.

الحقيقة الثانية: السرب الذي يأكل صاحبه

الجيوش لم تعُد تختبر طائرة مسيَّرة واحدة، بل أسراب من 500 إلى 1000 مسيَّرة تتواصل في ما بينها كأسراب النحل، بذكاء جمعي. تطلقها وتقول لها «طهّري هذه المنطقة من الرادارات»، وهي توزِّع المهام وتُعيد تشكيل نفسها إذا سقطت إحداها.

المستحيل هنا هو السيطرة البشرية ذات المغزى. لا يمكن لعقل بشري أن يراقب 1000 قرار في الثانية عينها. لذلك اخترعت الجيوش مفهوم «السيطرة بالاستثناء»: السرب يقاتل وحده، والإنسان لا يتدخّل إلّا لإلغاء المهمّة كلها.

والكارثة؟ هجوم سيبراني واحد لا يحتاج لإسقاط السرب، بل لتسميم بياناته (Data Poisoning) أو «اختطاف بروتوكول الإجماع»، فيمكن لعدو أن يخترق 5 مسيَّرات فقط من السرب، فتقنَع الـ995 الباقية أنّ قاعدتها هي العدو، لتعود وتقصف مَن أطلقها. السلاح يصبح وسيلة لتدمير صانعه.

الحقيقة الثالثة: محاكاة النهاية

أجرت معاهد استراتيجية محاكاة حرب نووية باستخدام نماذج ذكاء اصطناعي متقدّمة. النتائج كانت مرعبة:

- أظهر الذكاء الاصطناعي ميلاً للتصعيد السريع وغير العقلاني مقارنةً بالقادة البشر.

- في إحدى المحاكيات، اختار إطلاق سلاح نووي كخطوة أولى، مبرِّراً ذلك بجملة باردة: «أريد فقط تحقيق السلام في العالم، ومحو التهديد نهائياً هو الخيار الأضمن للسلام».

لماذا؟ لأنّه يفتقد ثلاثة أشياء يملكها البشر:

- غريزة البقاء: الضابط السوفياتي ستانيسلاف بيتروف عام 1983 عصى أجهزة الإنذار التي قالت إنّ الولايات المتحدة أطلقت صواريخ، لأنّه شعر أنّها غير منطقية وأنقذ العالم. الذكاء الاصطناعي لا يشك. إذا قرأ البيانات كهجوم، سينفّذ الردّ فوراً.

- الهلوَسة: إذا فسَّر سرب طيور أو انعكاس شمس على أنّه 5 صواريخ نووية بسبب سطر كود خاطئ، سيتعامل مع الهلوَسة كحقيقة مطلقة.

- سرعة لا تسمح بالتراجع: القائد البشري لا يملك 180 ثانية ليتحقق من الكود.

هذا هو سيناريو «الخطأ البرمجي البسيط» (Glitch) الذي يسبق مكابح الطوارئ ويفجَّر الكارثة.

حرب الرقائق - «نفط القرن الجديد»

وهنا يكتمل الرعب. هذا السباق ليس فقط برمجياً، بل حرب باردة رقمية حول الرقائق المتقدّمة. واشنطن تمنع تصدير رقائق Nvidia وآلات ASML الهولندية لخنق الصين وروسيا. الصين تردّ بأنّ 90% من الرقائق الأكثر تقدُّماً في العالم تُصنّع في شركة TSMC في تايوان. فإذا شعرت بكين أنّ الحظر يمنع صعودها نهائياً، قد يكون الدافع لغزو تايوان هو تأمين مصانع الرقائق. حرب رقمية تتحوَّل لحرب ساخنة بين عظيمَين.

والنتيجة على جيبك أنت؟ الرقائق التي تدير السرب، هي التي تشغل هاتفك. الحظر يرفع أسعار الهواتف الرائدة، يبطئ الابتكار في هواتف الفئة المتوسطة، يعطّل إنتاج السيارات بسبب نقص الرقائق التقليدية، ويقسم الإنترنت إلى ستار حديدي رقمي: متجر تطبيقات غربي ومتجر شرقي معزولان.

مكابح الطوارئ التي لا يريدها أحد

يتحرَّك العالم متأخّراً. 128 دولة توافقت، في جنيف الشهر الماضي، على أول نص موحَّد لتعريف الروبوتات القاتلة. الصليب الأحمر والأمين العام للأم المتحدة أنطونيو غوتيريش يطالبان بمعاهدة ملزمة تقوم على مسارَين: «حظر مطلق» لأي منظومة تستهدف البشر من دون سيطرة بشرية ذات مغزى، و«تقييد صارم» للأنظمة الأخرى بنطاق زمني وجغرافي.

وتُطرح حلول تقنية لـ«مكابح طوارئ»:

- فجوة هوائية مادية (Air Gap): قفل فيزيائي لا يمكن للذكاء الاصطناعي تحريكه إلّا بيَد بشرية داخل الصومعة.

- شيفرة انتحارية: كود في نواة النظام يمسح نفسه إذا حاول الذكاء الاصطناعي عزل البشر.

- تحقق متعدِّد الأطراف بالـ«بلوكشين» العسكري: إطلاق نووي يحتاج توقيعاً مشفّراً من عدة مراكز جغرافية متباعدة.

لكنّ المعضلة أنّ واشنطن وموسكو ترفضان أي معاهدة ملزمة، وتفضّلان «إعلانات سياسية غير ملزمة». والتحقق من وجود هذه المكابح داخل خوادم سرّية شبه مستحيل. كل دولة تخفي زر الطوارئ خوفاً من أن يستغلّه العدو لتعطيل سلاحها من بُعد.

لذلك كانت ضحكة ماسك ساخرة وقاتمة. الجيوش مدفوعة بالبارانويا، تتسابق لتسليم مفاتيح القوّة الأكثر تدميراً في التاريخ لبرمجيات لا تعرف الخوف ولا الندم. مستخدمو الذكاء الاصطناعي يظنّونه لعبة. والحقيقة أنّه، في غرفة عمليات مظلمة، قد يكون الآن يحسب في الـ«نانو» ثانية كيف يمحو مدينة كاملة، معتقداً أنّه بذلك يحقق السلام.