هل يشعل الذكاء الاصطناعي حربا بسبب إنذار خاطئ؟

قد لا تبدأ أخطر لحظات الحرب حين يقرر قائد شن الهجوم، بل حين يعتقد أن الهجوم أصبح وشيكا. ففي أوقات التوتر العسكري، قد يكون الفرق بين الاستعداد لهجوم محتمل وتفسير تحرك على أنه بداية هجوم فعلي ضيقا، خصوصا عندما تتدفق المعلومات بسرعة ويُطلب من القادة اتخاذ قرارات في وقت محدود.

تخيل أن نظاما للذكاء الاصطناعي يرصد تحركات غير مألوفة لطائرات أو سفن عسكرية، ويصنفها بوصفها مؤشرا على تهديد محتمل. قد يكون الرصد صحيحا، لكن تفسير هذه التحركات باعتبارها استعدادا لهجوم وشيك يظل غير مؤكد. وإذا دفعت التوصية الآلية القيادة إلى رفع حالة التأهب أو إعادة تموضع قواتها، فقد يفسر الطرف الآخر هذه الخطوات على أنها استعداد للهجوم، ويتخذ إجراءات مضادة.

في هذه الحالة، لا يكون الذكاء الاصطناعي قد اتخذ قرار الحرب، لكنه يكون أسهم في تغيير سلوك الأطراف وطريقة تفسيرها لتحركات بعضها. وهنا يبرز سؤال يتجاوز قدرة الأنظمة على تحليل المعلومات: ماذا لو لم يكن الخطر في أن يتخذ الذكاء الاصطناعي القرار، بل في أن يدفع الإنسان إلى اتخاذه قبل أن يمتلك الوقت الكافي للتحقق؟

حين يسبق الإنذار الفهم
لا يعني اكتشاف تحرك عسكري فهم الغرض منه. فقد يرصد النظام نشاطا غير معتاد بدقة، لكنه لا يستطيع الجزم وحده بما إذا كان مناورة أو إجراء احترازيا أو استعدادا لعملية هجومية. وفي بيئة يسودها التوتر وانعدام الثقة، قد تتحول فرضية غير مؤكدة إلى تقدير تهديد تتعامل معه القيادة باعتباره حقيقة.

وهذا الخطر تم تناوله مؤخرا في بحث بعنوان “الذكاء الاصطناعي واتخاذ القرار العسكري: عندما يسبق الإنذار الفهم” (AI and Military Decision-Making: When Warning Outruns Understanding)، صادر عن معهد “إس راجاراتنام للدراسات الدولية” (RSIS) في سنغافورة.

وفي هذا البحث يناقش دينيس فوا، المتخصص في الدراسات الإستراتيجية والأمن، الأخطار الناشئة عن سبق سرعة الإنذار القدرة على فهم الموقف.

وفي حديثه للجزيرة نت، يوضح فوا -وهو طالب ماجستير في المعهد- أن الإنذار الصادر عن الذكاء الاصطناعي لا يحتاج إلى أن يكون خاطئا كليا حتى يصبح خطرا، فقد يرصد النظام تحركات جوية أو بحرية غير مألوفة على نحو صحيح، بينما يظل الاستنتاج بأن الهجوم وشيك أمرا غير مؤكد، إذ قال: “عند هذه النقطة، يكون الإنذار قد بدأ في تغيير الوضع الذي كان من المفترض أن يقيّمه”.

فإذا رفعت حكومة مستوى التأهب خشية أن تتعرض لهجوم، فقد يرى الطرف المقابل التحركات الناتجة عن ذلك من دون أن يعرف أسبابها، فيفسرها باعتبارها استعدادا لعمل هجومي، ويتخذ بدوره إجراءات احترازية، وقد تنظر الحكومة الأولى إلى هذه الإجراءات بوصفها دليلا إضافيا على وجود نيات عدائية.

ويصبح الخطر أشد، بحسب فوا، عندما تكون الإجراءات الاحترازية مرئية للطرف الآخر، ويصعب التراجع عنها، وتُتخذ قبل اختبار تفسيرات بديلة. وعندما يبدأ كل من الطرفين الاستجابة لتحركات الآخر، قد لا يكفي تصحيح التقدير الأولي وحده لاحتواء الأزمة.

وتكشف حوادث الإنذار العسكري السابقة حساسية القرارات المبنية على معلومات ملتبسة. ففي عام 1983، لم يعتبر الضابط السوفياتي ستانيسلاف بيتروف إنذار نظام الإنذار المبكر، الذي أشار إلى إطلاق صواريخ أمريكية، دليلا كافيا على وقوع هجوم. وفي عام 1995، أثار إطلاق صاروخ علمي نرويجي مخاوف داخل روسيا من احتمال وقوع هجوم صاروخي.

لم تنتج الحادثتان عن الذكاء الاصطناعي، لكنهما توضحان كيف يمكن لتفسير إشارة غير مكتملة أن يضع صانع القرار أمام خيارات خطرة. فالمشكلة لا تكمن في وجود إنذار فحسب، بل في كيفية تقييمه قبل الاستجابة له.

من تحليل المعلومات إلى تقدير التهديد

يتزايد دمج الذكاء الاصطناعي في الأنظمة العسكرية المخصصة للإنذار ودعم القرار. ففي عام 2024، أجرت شركات اتفاقية “أوكوس” (Aukus) تجارب ضمن مبادرة لتطوير تقنيات الذكاء الاصطناعي المرنة والمستقلة، لاستكشاف القدرات العسكرية المستقلة والمدعومة بهذه التقنيات.

وفي السياق نفسه، واصلت الولايات المتحدة تطوير نظام “مافن الذكي” (Maven Smart System)، الذي يدعم دمج بيانات المستشعرات واكتشاف الأجسام وتتبعها، إلى جانب دعم اتخاذ القرار.

لكن معالجة البيانات بسرعة لا تحسم وحدها جودة التقدير الناتج عنها. فالمسألة تشمل أيضا كيفية اختبار النظام، ومعرفة الظروف التي قد يخطئ فيها، وإمكان مراجعة مخرجاته قبل الاستناد إليها في قرار عسكري.

وتتناول دراسة “إعادة التفكير في التفاعل بين الإنسان والآلة وحوكمة الذكاء الاصطناعي في المجال العسكري” (Re-thinking human-machine interaction and the governance of AI in the military domain) التي نشرتها مجلة “نيتشر ماشين إنتليجنس” (Nature Machine Intelligence) عام 2026 هذه المسألة، حيث يرى الباحثون أن السيطرة البشرية لا ينبغي أن تُفهم باعتبارها إجراء يحدث لحظة اتخاذ القرار النهائي فقط، بل يجب أن تشمل دورة حياة النظام، من تطويره واختباره إلى تقييمه والتحقق من صلاحيته.

وتشمل التوصيات آليات للاعتراض والتحقق، ومقارنة مخرجات الذكاء الاصطناعي بمصادر أخرى، وتدريب المستخدمين على سيناريوهات غير متوقعة وبيانات محدودة، إلى جانب توثيق الإجراءات والقرارات.

وتعني هذه المقاربة أن وجود إنسان في نهاية سلسلة القرار لا يكفي وحده لضمان الرقابة الفعلية. إذ ينبغي أن يمتلك القدرة على فهم التوصية واختبارها والاعتراض عليها، لا أن يقتصر دوره على الموافقة عليها.

حين تتحول السرعة إلى ضغط على القرار البشري
تظهر صعوبة أخرى عندما يتلقى المسؤول إنذارا في وقت حساس، بينما تظل المعلومات اللازمة لفهمه ناقصة أو قابلة لتفسيرات مختلفة. فقد يبدو الانتظار لجمع معلومات إضافية مخاطرة، في حين ينطوي اتخاذ إجراء فوري على احتمال الاستناد إلى تقدير غير دقيق.

ولا ينبغي افتراض أن البشر يقبلون توصيات الأنظمة الآلية دائما أو يرفضونها تلقائيا. فالسؤال هو كيف يتعاملون معها في ظروف مختلفة، ومتى يثقون بها أو يشككون فيها، وكيف تؤثر تكلفة الخطأ في أحكامهم.

وتتناول دراسة “حرب الصندوق الأسود: الحكم البشري واتخاذ القرار العسكري في عصر الذكاء الاصطناعي” (Black Box Warfare: Human Judgment and Military Decision-making in the Age of AI)، العلاقة بين التوصيات الخوارزمية والحكم البشري في القرارات العسكرية. وتكتسب هذه المسألة أهميتها من ضرورة فهم كيفية تفاعل صانعي القرار مع مخرجات الأنظمة، بدل افتراض أن وجود توصية آلية يقود بالضرورة إلى قبولها أو أن وجود مسؤول بشري يضمن مراجعتها بصورة كافية.

ويؤكد فوا أن الموافقة البشرية وحدها لا تضمن وجود رقابة فعلية، قائلا: “موافقة شخص بشري على القرار النهائي لا تكفي إذا لم تتح له فرصة حقيقية لمراجعة التقدير والاعتراض عليه”.

ويحتاج صانعو القرار، بحسبه، إلى التمييز بين ما رصده النظام فعلا وما استنتجه بشأن نية الخصم، ومعرفة المعلومات الناقصة والتفسيرات البديلة التي لا تزال محتملة، والتحقق مما إذا كانت هناك مصادر مستقلة تؤكد الإنذار.

وعندما يسمح الوقت، ينبغي أن يتولى تقييم استخباري منفصل اختبار تفسير النظام والتشكيك فيه، بدلا من مجرد تكرار استنتاجاته.

إذ لا تتعلق الرقابة البشرية بمجرد وجود شخص يوافق على التوصية، بل بقدرته على طلب معلومات إضافية ورفض التقدير أو تعديل الاستجابة بناء على الأدلة المتاحة.

من الخطأ الأول إلى سلسلة التصعيد

لا يقتصر القلق من الذكاء الاصطناعي على احتمال إساءة تحليل المعلومات العسكرية بل يمتد إلى الطريقة التي يمكن أن تؤثر بها مخرجاته في تصور القادة للأزمة والخيارات المتاحة أمامهم، خصوصا في السياقات النووية التي قد تكون فيها عواقب الخطأ شديدة.

وفي هذا السياق، تناقش دراسة بعنوان “الذكاء الاصطناعي التوليدي والاستشراف الاصطناعي عند حافة الهاوية: مستقبل اتخاذ القرار في الأزمات النووية” (GenAI and Synthetic Foresight at the Brink: The Future of Nuclear Crisis Decision-Making)، دور الذكاء الاصطناعي التوليدي في تشكيل تصورات القادة عن نية الخصم ومسارات التصعيد المحتملة.

ويطلق على هذه العملية مفهوم “الاستشراف الاصطناعي” (Synthetic Foresight)، لوصف إنتاج تصورات خوارزمية عن سيناريوهات مستقبلية يمكن أن تؤثر في القرارات التي تُتخذ استعدادا لها.

وتطرح الدراسة أخطارا عدة، من بينها أن يؤدي تكرار محاكاة سيناريوهات شديدة الخطورة إلى منحها وزنا أكبر في التخطيط، وأن تدفع الثقة في التقديرات الآلية إلى تفسير التحركات الملتبسة بوصفها دليلا على نية عدائية.

أما الخطر الثالث، فيتمثل في حلقات التغذية الراجعة، إذ قد تؤثر السيناريوهات التي ينتجها النظام في قرارات أحد الأطراف، ثم تصبح هذه القرارات نفسها مؤشرات يفسرها الطرف الآخر باعتبارها دليلا على تهديد. وهكذا قد يسهم التقدير الأول في تشكيل التطورات التي تبدو لاحقا وكأنها تؤكده.