هل يشعل الذكاء الاصطناعي حربا بسبب إنذار خاطئ؟

قد لا تبدأ أخطر لحظات الحرب حين يقرر قائد شن الهجوم، بل حين يعتقد أن الهجوم أصبح وشيكا. ففي أوقات التوتر العسكري، قد يكون الفرق بين الاستعداد لهجوم محتمل وتفسير تحرك على أنه بداية هجوم فعلي ضيقا، خصوصا عندما تتدفق المعلومات بسرعة ويُطلب من القادة اتخاذ قرارات في وقت محدود.

ويزداد هذا الخطر مع الأنظمة التي ترصد تحركات غير مألوفة لطائرات أو سفن عسكرية وتقدمها بوصفها مؤشرا على تهديد محتمل. فالرصد قد يكون صحيحا، لكن الاستنتاج بأن الهجوم وشيك يظل غير مؤكد، وقد يدفع رفع حالة التأهب أو إعادة تموضع القوات الطرف الآخر إلى تفسير ذلك على أنه استعداد للهجوم.

حين يسبق الإنذار الفهم

لا يعني اكتشاف تحرك عسكري فهم الغرض منه. وفي بيئة يسودها التوتر وانعدام الثقة، قد تتحول فرضية غير مؤكدة إلى تقدير تهديد تتعامل معه القيادة باعتباره حقيقة.

وهذا الخطر تناوله بحث بعنوان "الذكاء الاصطناعي واتخاذ القرار العسكري: عندما يسبق الإنذار الفهم" (AI and Military Decision-Making: When Warning Outruns Understanding)، صادر عن معهد "إس راجاراتنام للدراسات الدولية" (RSIS) في سنغافورة. ويقول دينيس فوا، المتخصص في الدراسات الإستراتيجية والأمن، إن الإنذار الصادر عن الذكاء الاصطناعي لا يحتاج إلى أن يكون خاطئا كليا حتى يصبح خطرا، إذ قال: "عند هذه النقطة، يكون الإنذار قد بدأ في تغيير الوضع الذي كان من المفترض أن يقيّمه".

وتكشف حوادث الإنذار العسكري السابقة حساسية القرارات المبنية على معلومات ملتبسة. ففي عام 1983، لم يعتبر الضابط السوفياتي ستانيسلاف بيتروف إنذار نظام الإنذار المبكر، الذي أشار إلى إطلاق صواريخ أمريكية، دليلا كافيا على وقوع هجوم، وفي عام 1995، أثار إطلاق صاروخ علمي نرويجي مخاوف داخل روسيا من احتمال وقوع هجوم صاروخي.

السرعة لا تكفي وحدها

يتزايد دمج الذكاء الاصطناعي في الأنظمة العسكرية المخصصة للإنذار ودعم القرار، لكن معالجة البيانات بسرعة لا تحسم وحدها جودة التقدير الناتج عنها. فالمسألة تشمل أيضا كيفية اختبار النظام، ومعرفة الظروف التي قد يخطئ فيها، وإمكان مراجعة مخرجاته قبل الاستناد إليها في قرار عسكري.

وتشمل التوصيات آليات للاعتراض والتحقق، ومقارنة مخرجات الذكاء الاصطناعي بمصادر أخرى، وتدريب المستخدمين على سيناريوهات غير متوقعة وبيانات محدودة، إلى جانب توثيق الإجراءات والقرارات. ويؤكد فوا أن الموافقة البشرية وحدها لا تضمن وجود رقابة فعلية، قائلا: "موافقة شخص بشري على القرار النهائي لا تكفي إذا لم تتح له فرصة حقيقية لمراجعة التقدير والاعتراض عليه".

كما يناقش قلقا آخر يتمثل في تأثير المخرجات الآلية في تصورات القادة للأزمة والخيارات المتاحة أمامهم، خصوصا في السياقات النووية. وتطرح دراسة بعنوان "الذكاء الاصطناعي التوليدي والاستشراف الاصطناعي عند حافة الهاوية: مستقبل اتخاذ القرار في الأزمات النووية" (GenAI and Synthetic Foresight at the Brink: The Future of Nuclear Crisis Decision-Making)، أخطارا من بينها أن تؤدي حلقات التغذية الراجعة إلى جعل السيناريوهات التي ينتجها النظام مؤشرات يفسرها الطرف الآخر باعتبارها دليلا على تهديد.

وفي هذا السياق، يقول فوا إن بعض الأزمات قد تجعل الانتظار خطرا، ولذلك يجب وضع الضمانات واختبارها مسبقا، لا انتظار اندلاع الأزمة لمعرفة مدى فاعليتها. ويخلص إلى أن "الإنذارات الأسرع يمكن أن تمنح القادة وقتا أطول لاتخاذ قرارات جيدة، لكن فقط إذا كانت عملية اتخاذ القرار تسمح لهم باستخدام ذلك الوقت".

ولا يثبت ذلك أن الذكاء الاصطناعي تسبب في اندلاع حرب بسبب إنذار خاطئ، لكنه يكشف كيف يمكن أن يسهم في ظروف التصعيد حين يتحول رصد صحيح لتحرك عسكري إلى استنتاج غير مؤكد بشأن نية الخصم، ثم يدفع هذا الاستنتاج إلى قرار متسرع يفسره الطرف الآخر باعتباره تهديدا.