مقال رأي | من الذرة إلى الخوارزمية.. تأملات في الاعتبارات الأخلاقية العالمية لتطبيقات الذكاء الاصطناعي العسكرية

المقال السابق⭠ (ضمن ملف الذكاء الاصطناعي وصناعة الدفاع) 

---

في عام 1986، وأنا في السادسة عشرة، رافقت والدي الدكتور عصام الدين جلال إلى مؤتمر باغواش السادس والثلاثين في بودابست، وكان آنذاك من قيادات باغواش، وممن أسهموا في الدعوة إلى مدوّنة سلوك دولية تضمن نقلًا عادلًا للتكنولوجيا إلى الدول النامية. أسّس هذه المؤتمرات عام 1957 نخبةٌ لبّت نداء برتراند راسل وألبرت أينشتاين، لتجمع علماء الشرق والغرب في حوار يحدّ من خطر الحرب النووية، انطلاقًا من مبدأ واحد: أن العلماء مسؤولون أمام الإنسانية عن عواقب ما يخترعون.

وكانت باغواش بذلك تصديقًا لمقولة رئيس الوزراء الفرنسي جورج كليمنصو: "الحرب أخطر من أن تُترك للعسكريين". قفزت هذه الذكرى إلى ذهني وأنا أشرع في كتابة هذا المقال، فأوجه الشبه بين الأمس واليوم كثيرة، غير أن العواقب اليوم أشد مباشرة وأقرب إلينا.

فالحجة التي غذّت سباق التسلح النووي، "إن لم نفعلها فعلها خصومنا"، هي ذاتها التي تغذّي سباق الذكاء الاصطناعي العسكري. وهي حجة لا تخلو من الصحة؛ فلا دولة ستتخلى منفردة عن سلاح يملكه خصمها، والردع حقيقة قائمة. لكن الحرب الباردة علّمتنا أيضًا أن القنبلة لم تُلغَ، بل رُوِّضت بالمعاهدات والخطوط الساخنة والقيود المتبادلة. فالسباق يفسّر لماذا تتسلح الدول، لكنه لا يحدد كيف يحق لها أن تستخدم سلاحها. غير أن الفارق اليوم جوهري: القنبلة احتكرتها دول قليلة، أما الذكاء الاصطناعي فتصنعه شركات خاصة، وينتشر بسرعة، ويتخذ قراراته في أجزاء من الثانية.

من هنا، لا أدعو إلى حظر الذكاء الاصطناعي العسكري، فتلك دعوة لا تصمد أمام الواقع. ما أدعو إليه هو ذكاء اصطناعي يعمل داخل خطوط حمراء واضحة، بل وأبعد من ذلك: أن تُوظَّف دقته لحماية المدنيين، بمن فيهم مدنيو الخصم. ويقدّم الفيلسوف الأمريكي جون رولز اختبارًا لذلك عبر ما سمّاه "حجاب الجهل": القواعد العادلة هي تلك التي نختارها دون أن نعرف موقعنا منها. فلو لم تكن تعلم أتكون القائد الذي يضغط الزر أم المدني على الجانب الآخر، فأيّ قواعد كنت ستقبل؟

---

---

ومن هذا الاختبار تنبثق أسئلتنا الجوهرية:

 • من يتحمّل المسؤولية حين تخطئ الخوارزمية فتقتل؟

 • أين تُرسم الخطوط التي لا يجوز للآلة تجاوزها؟

 • وإذا أتاحت التقنية تجنيب المدنيين الأذى، أفلا يصبح استخدامها لذلك واجبًا لا خيارًا؟

خمس مخاطر... وخمس ضمانات

وللإجابة عن هذه الأسئلة، لا بد من تسمية المخاطر بأسمائها، ومقابلة كل خطر بضمانة:

• فجوة المساءلة: حين تتخذ الآلة قرار القتل، يضيع المسؤول بين المبرمج والقائد والدولة. والضمانة سيطرة بشرية فعلية لا شكلية، تعني أن يملك الإنسان المعلومة والوقت والصلاحية لرفض توصية الآلة.

 • الانقياد للآلة: الخطر الأقرب اليوم ليس الروبوت القاتل، بل أنظمة تقترح الأهداف فيوقّع عليها البشر في ثوانٍ. والضمانة وقت مراجعة حقيقي، وسجلات تدقيق توثّق كل قرار.

• الخطأ والغموض: خوارزمية تخلط بين مقاتل ومدني، ولا يستطيع أحد تفسير قرارها. والضمانة اختبار مستقل في ظروف واقعية، ومراجعة قانونية لكل سلاح جديد قبل نشره.

 • التصعيد الخاطف: حين تتفاعل الأنظمة بسرعة تفوق إدراك البشر، قد تشتعل حرب لم يقررها أحد، والأخطر أن يمتد ذلك إلى القرار النووي. والضمانة خط أحمر قاطع: لا قرار نوويًا إلا بيد إنسان.

 • المسافة الأخلاقية: كلما ابتعد المقاتل عن ضحيته سهل عليه القتل، وسهل على الدول شن الحروب. والضمانة أن تُصمَّم الأنظمة لقياس الأذى المدني وتقليصه، بما في ذلك مدنيو الخصم، فتصبح الدقة أداة لحماية الأرواح لا وسيلة أيسر لإزهاقها.

ثلاث ضرورات... ولا حل سحري

ولكن، كيف تُفرض هذه الضمانات على الدول؟ لا بد من ثلاث ضرورات:

أولًا، حوار عالمي لا يحتكره العسكريون. فإن كانت الحرب أخطر من أن تُترك لهم، فالذكاء الاصطناعي العسكري أخطر من أن يُترك لهم وحدهم؛ إذ لا بد أن يجلس إلى الطاولة المهندسون والشركات المطوّرة وخبراء القانون والأخلاق، على غرار ما فعلته باغواش قبل عقود.

ثانيًا، ميثاق أخلاقي عالمي يبني على المفاوضات الجارية في الأمم المتحدة منذ سنوات، فيحظر الأنظمة التي تختار البشر وتقتلهم دون سيطرة إنسانية، وينظّم ما سواها. وحتى لو تأخرت القوى الكبرى عن التوقيع، فإن الميثاق يصنع وصمة تقيّد الجميع، كما فعلت معاهدة حظر الألغام.

ثالثًا، تحديث تعريف جرائم الحرب لسدّ فجوة المساءلة، فيُعدّ نشر نظام غير مختبر تهورًا يُحاسَب عليه القائد، ويُسأل المطوّر عن عيوب يعلمها ويخفيها.

---

---

الحوكمة تبدأ من الداخل

غير أن المواثيق الدولية لا تُنفَّذ إلا إذا وجدت داخل كل دولة من يحرسها. وتبدأ هذه الحوكمة من شروط الشراء العسكري، فلا يُقتنى نظام لم يخضع لاختبار مستقل، ولا يُنشر سلاح لم تراجعه جهة قانونية. وتمتد إلى رقابة برلمانية وقضائية تحاسب على القرار لا على النتيجة وحدها. أما الحلقة الأهم فهي المهندس نفسه: فالشركات المطوّرة مطالبة بقنوات آمنة يرفع عبرها موظفوها اعتراضهم، والقانون مطالب بحمايتهم إن رفضوا المشاركة فيما يخالف ضمائرهم. فهؤلاء هم ورثة باغواش الحقيقيون.

القواعد قبل الكارثة

لم يوقف علماء باغواش سباق التسلح النووي، لكنهم أسهموا في كتابة قواعده، فبقي العالم على حافة الهاوية دون أن يسقط فيها. واليوم يقف المهندسون والمطوّرون أمام الاختبار ذاته، بسرعة لا تمنحهم ترف الانتظار. فإن لم نكتب قواعد هذا السباق الآن، كتبتها لنا أول كارثة.

---

المقالات المنشورة عبر CNBC عربية تعبر عن رأي أصحابها، ولمزيد من المقالات يمكنكم زيارة صفحة "مقالات الرأي"