بيتر إيزاكسون* – (فير أوبزيرفر) 2/8/2023
يفهم معظم الواقعيين معنى القول الشائع “كل شيء عادل في الحب والحرب”. وعادة ما يقع الحكم بعد نهاية الحرب بارتكاب جرائم الحرب التي تحدث أحيانًا على كاهل الخاسرين. ولكن، إذا كان “كل شيء عادل” بالنسبة للجهات الفاعلة البشرية التي تخضع للمساءلة نظريًا على الأقل، فما الذي سيعد عادلاً في حرب يخوضها الذكاء الاصطناعي.
في أوقات الحرب، يجب على كل مواطن معني أن يتساءل عما يراه السياسيون والعسكريون قيودًا مقبولة على عملهم. فهؤلاء في نهاية المطاف هم الأشخاص الذين يتخذون القرارات بفضل ما يُفترض أنه فهمهم الجاد للمخاطر والتزامهم بالصالح العام.
لكن الذكاء الاصطناعي يجلبُ بعدًا جديدًا إلى هذه المسألة. فلأن معظم الناس يعتقدون أن الذكاء الاصطناعي تم تصميمه لاتخاذ قرارات عقلانية بعد تكوين فهم خوارزمي للأولويات، فإنه لا يمكن عندما تشبه هذه القرارات جريمة حرب إلقاء اللوم على أي إنسان عن النتيجة. بل إن مفهوم المساءلة في حد ذاته، الذي هو في صميم كل نظام أخلاقي، يختفي تمامًا. إنك لا تستطيع إلقاء اللوم على الشخص الذي أنشأ الخوارزمية لأن نيته لم تكن إجرامية. ويمكنك إلقاء اللوم فقط على صاحب الوكالة الذي خلق الظروف التي أنتجت جريمة الحرب. لكن الوكالة في حالة الذكاء الاصطناعي هي شيء مجرد.
وإذن، كيف يمكننا التوفيق بين ثلاث قوى متباينة -وربما متضاربة: المفهوم بالغ البراغماتية للفعالية العسكرية؛ وفكرة المعايير الأخلاقية الأكثر تجريدًا بكثير؛ والعقلانية المفترضة للذكاء الاصطناعي؟
وفقًا لصحيفة “الواشنطن بوست”، يعتقد أحد كبار الضباط أنه لا يوجد الكثير للنقاش بشأنه في الولايات المتحدة لأن هذا “مجتمع يهودي-مسيحي”.
وعندما سئل عن وجهات نظر البنتاغون بشأن الحرب المستقلة، قدم الجنرال ريتشارد جي مور جونيور، نائب رئيس أركان القوات الجوية للخطط والبرامج، هذا التفسير، في حدث أقامه معهد هَدسون في تموز (يوليو): “بغض النظر عن معتقداتك، فإن مجتمعنا هو مجتمع يهودي مسيحي، ولدينا بوصلة أخلاقية. ليس الجميع يفعل. وهناك أولئك الذين هم على استعداد للذهاب نحو تحقيق الغايات بغض النظر عن الوسائل التي يجب استخدامها”.
ملاحظة سياقية
خطاب مور كاشف. وهو يبدأ تأكيده بما أصبح إيماءة موافقة إلزامية للشمولية، “بغض النظر عن معتقداتك”. وهذا يسمح له بالاعتراف بالنطاق الكامل للفكر الديني، أو حتى المعادي للدين، الذي تسمح به وثيقة الحقوق الأميركية قبل تأكيد ما يعتبره حقيقة أساسية: “إن مجتمعنا هو مجتمع يهودي مسيحي، ولدينا بوصلة أخلاقية”.
تماما كما ذكرت المحكمة العليا أن الشركات هي أشخاص على أساس فكرة القرن التاسع عشر القائلة إن الشركات التجارية يجب أن تعد “أشخاصًا معنويين”، يعتقد مور أنه حتى المجتمع الديمقراطي متعدد الثقافات له هوية أخلاقية. ومن المفترض أن هذا يعني أنه مسؤول عن أفعاله، كما يجب أن ينبغي لأي كائن أخلاقي.
لكن تفكير مور يأخذ الأمر خطوة أخرى إلى الأمام. ليس الأمر فقط أن الولايات المتحدة لديها هوية أخلاقية ويمكن اعتبارها وحدة أخلاقية يتقاسم الجميع فيها المسؤولية عن أفعالها. إنها تمتلك أيضًا “بوصلة أخلاقية”. ويعرّف القاموس هذه بأنها “مجموعة داخلية من القيم والأهداف التي تُرشد الشخص فيما يتعلق بالسلوك الأخلاقي واتخاذ القرار”. ويقارنها العديد من المعلقين بفكرة “الضمير” الأوغسطينية. لكن الضمير، تماما مثل الوعي، هو مفهوم يتحدى التعريف الفلسفي الواضح حتى عندما يكون مركِّزًا على صنع القرار الشخصي. ويشير كلاهما إلى نظام إدراك لفرد ويتضمنان الذاتية. ولا يمكن تطبيق أي منهما على الكيانات الجماعية. ولهذا السبب، لم ينجح أحد في وضع نظرية لفكرة وجود شركة أو أمة أو أي كيان جماعي آخر له بوصلة أخلاقية تتجاوز فكرة مدونة لقواعد السلوك أو بيانًا لمهمة.
عند وصف المشاركة الجماعية أو إحداث التناغم في أي شيء يؤثر على الإدراك، يفضل علماء الأنثروبولوجيا وعلماء الاجتماع وصف ما يسمونه “القيم الأساسية” للثقافات. ولكن لا ينبغي الخلط بين تلك القيم وبين المبادئ الأخلاقية. إن الفكرة القابلة للجدل بطريقة ما عن ثقافة “يهودية مسيحية” لا علاقة لها بالإطار الأخلاقي، ولها علاقة أكثر بافتراضات سياسية واقتصادية مصاغة بشكل غامض.
تستحضر الإشارة إلى اليهودية المسيحية ضمنيًا “العهدين” في الكتاب المقدس، الأول، باللغة العبرية، يصف الأحداث السياسية مع تركيز قوي على الحرب؛ والثاني، باللغة اليونانية، يقترح وجهة نظر تنفي سياسة القوة لصالح مبادئ روحية عالمية. ومن الواضح أن منطق مور أقرب إلى العهد القديم منه إلى الإنجيل المسيحي. ومن الواضح أن بوصلته الأخلاقية هي مجموعة من القواعد أو القوانين الصريحة بدلاً من المبادئ الأخلاقية الداخلية التي تحدد الروابط الإنسانية وتهيكلها.
يميز مور بين أمته، الولايات المتحدة، “التي تلعب وفقًا لقواعد الحرب” عن أي أمة أخرى لا تفعل. وهنا يفكر بلا شك في الصين، التي تختلف ثقافتها بشكل واضح. “هناك مجتمعات لها أساس مختلف تمامًا عن أساسنا”، يذكِّرنا مور، في حال لم نكن منتبهين.
سوف يتفق جميع علماء الأنثروبولوجيا مع هذا البيان، لكنهم سيخلصون إلى استنتاج مختلف تمامًا. يشير مور بوضوح إلى أنه نظرًا لأن أمته تمتلك بوصلة أخلاقية، فإن أولئك “المختلفين” لا يمتلكونها. وهذا يعني أنهم ليسوا العدو فقط؛ إنهم، بسبب افتقارهم إلى امتلاك بوصلتنا، ناقصون أخلاقيًا. وهذا يعني في نهاية المطاف -كما يجب أن يفترض أي ضابط عسكري- أن المشاكل المتعلقة بالأخلاقية لا يمكن حلها إلا من خلال القوة.
ملاحظة تاريخية
رُبما يُترك أي شخص على دراية بالتاريخ العسكري للولايات المتحدة وهو يتساءل عن أفعال البوصلة الأخلاقية اليهودية المسيحية في الماضي. بينما عمل رسمي دائمًا بشكل رسمي باسم ضمان “الدفاع”، أنتج هذا التاريخ سلسلة طويلة من الحروب غير المبررة، حتى في المناطق النائية من العالم. وقد أسفر عن قتل وتشريد الملايين من الناس، فضلاً عن زعزعة استقرار وإفقار مناطق بأكملها. ففي أي اتجاه كانت البوصلة تشير عندما كانت تلك الأحداث تحدث؟
كل هذه القرارات التي اتخِذت في الماضي البعيد أو القريب اتخذها بشر مسؤولون أخلاقيًا -ولكن، للأسف نادرًا ما خضعوا للمساءلة. كانت لديهم أسماء يمكن التعرف عليها، مثل ماكنمارا، وجونسون، وتشيني، ورامسفيلد، وبوش، وكلينتون وغيرهم الكثير. بعضهم، مثل ماكنمارا، انتهى بهم المطاف إلى الاعتراف بافتقارهم إلى البوصلة الأخلاقية. وفضل معظمهم، في أحسن الأحوال، أن يعلنوا صراحة تقييمهم المعيب للواقع على الأرض. ويشعر منتقدوهم وأي عدد من المؤرخين الجادين على الأقل بالرضا عن قدرتهم على الرجوع إلى المحفوظات وفحص خطابهم وأفعالهم وسرد حقائق التاريخ المنسوبة إلى أشخاص يمكن التعرف عليهم. بل إنهم قد يذهبون إلى أبعد من ذلك في تحليلهم ويحددون التجمعات الأيديولوجية -مثل السباق الحالي للمحافظين الجدد- التي تشير إلى المسؤوليات المشتركة عن كل من الأخطاء والجرائم على حد سواء.
في معظم الحالات، لا يؤدي تحديد المسؤولية إلى المساءلة، وذلك لأن طبقة صناع القرار قد حصنت نفسها من آليات المساءلة. عندما سُئل الرئيس باراك أوباما عن ملاحقة المذنبين بارتكاب جرائم حرب، أو حتى بالتجسس الداخلي في الإدارة السابقة، قال إن الوقت قد حان للتطلع إلى الأمام بدلاً من النظر إلى الوراء. ولم تكن أي إدارة لاحقة لتفكر في تحميل أوباما المسؤولية عن الكارثة المستمرة التي أدت إليها سياسته في ليبيا أو سورية.
هذا الوضع المحزن محبط لأولئك الذين ينطوون على اهتمام بالعدالة. لكن معرفة أن المسؤولية يمكن أن تُعزى إلى أشخاص معينين تبقى مريحة في بعض النواحي. إنها تساعدنا في الواقع بشكل جماعي على تحديد -ليس بوصلة أخلاقية بالضبط بقدر ما هو أفق أخلاقي.
مع قدوم الذكاء الاصطناعي تغيرت قواعد اللعبة. ثمة خطر من أنه عندما يتم ارتكاب جرائم حرب جديدة وأكثر تطرفًا بفضل الـ”كفاءة” الأكبر للذكاء الاصطناعي، فإنه لن يكون لدى الصحفيين والمؤرخين من يتحمل المسؤولية عن الأخطاء السياسية وجرائم الحرب التي يمكن أن تحدث على نطاق أوسع بكثير. لن تخضع الخوارزميات للمساءلة أبدا. بل إنها لن تكون حتى قابلة لتحديدها كمصدر للشرور المدمرة.
أوضح مور ما أسماه “أساس” تعليقاته عندما ادعى أن القوات الجوية الأميركية “لن تسمح للذكاء الاصطناعي باتخاذ إجراءات، كما أننا لن نتخذ إجراءات بناء على معلومات مقدمة من الذكاء الاصطناعي ما لم نتمكن من التأكد من أن المعلومات تتوافق مع قيمنا”. ثم أكد أن هذا “ليس من المتوقع أن يكون موقف أي خصم محتمل”.
أدلى مور بتصريحه الأولي ردًا على سؤال حول “الحرب المستقلة” التي تخوضها أنظمة عسكرية آلية ذاتية التشغيل. والأسلحة ذاتية التشغيل هي تلك التي تتخذ القرارات من تلقاء نفسها بفضل التكنولوجيا المتطورة والخوارزميات التي تعرِّف “ذكاءها”. ويبدو أن مور يعتقد أن “الذكاء الاصطناعي لدينا” سيتم تعليمه تقديم جميع قراراته إلى علماء الأخلاق اليهود المسيحيين قبل اتخاذ أي إجراء. وبالنظر إلى أخطاء وخطايا الشخصيات التاريخية التي كان من الممكن محاسبتها، نظريًا، لأن لديها أسماء ومناصب، ما نوع الأخطاء والخطايا التي يمكن أن نتوقعها مما يمكن أن تكون افتراضات أكثر تطرفًا وكارثية تضعها خوارزميات الذكاء الاصطناعي مجهولة الشخصية؟
هل يجب أن نلوم ببساطة الثقافة اليهودية المسيحية الجماعية على تلك الجرائم؟
*نشر هذا المقال تحت عنوان: Seeking the Best Algorithm for Ethical War Crimes
“الغد”
