الموت بواسطة الخوارزميات

ديرك هيلبينج وبيتر سيلي

زيوريخ / لوغانو – يتميَّز العصر الجيولوجي "الأنثروبوسين" بتهديدات وجودية - وهو عصر تُشكِّل فيه البشرية مصير الكوكب. يتم التعامل مع بعض هذه التهديدات من خلال خُطط العمل مثل أهداف التنمية المستدامة للأمم المتحدة. ومع ذلك، يبدو أننا أصبحنا عالقين بين إدراك ضرورة تغيير سلوكنا وبين عاداتنا الراسخة.

في عالم مُكتظ بالسكان، يسأل الكثير من الناس أنفسهم "ما هي قيمة الحياة البشرية"؟ أثارت جائحة كوفيد 19 هذه الإشكالية مرة أخرى، وتمت صياغة هذا السؤال بعبارات قاسية: من يجب أن يموت أولاً إذا لم تكن هناك موارد كافية لإنقاذ الجميع؟

في الواقع، تتعامل العديد من روايات الخيال العلمي، مثل رواية  "طغيان الفراشة" لفرانك شاتزنج، مع مخاوف مماثلة، وغالباً ما تُساعد على حل مشكلة التنمية المستدامة بطرق قاسية تُحاكي بعضاً من أسوأ الفصول في تاريخ البشرية. إنَّ الواقع ليس بعيداً. من المغري أن نتصور أنه بإمكاننا الاعتماد على الذكاء الاصطناعي لمساعدتنا في التغلب على مثل هذه المعضلات. كانت الموضوعات التي تتعلَّق بتهجير السكان والموت الرحيم القائم على الكمبيوتر قيد المناقشة، وقد تمَّ استخدام الذكاء الاصطناعي بالفعل للمساعدة في عملية فرز المرضى المصابين بفيروس كوفيد 19.

لكن هل ينبغي لنا أن نسمح للخوارزميات باتخاذ قرارات مصيرية؟ يجب النظر في "مُعضلة عربة الترام" الشهيرة. انطلاقاً من هذه التجربة الفكرية، إذا لم يفعل المرء أي شيء، فسيتم دهس العديد من الأشخاص بواسطة عربة قطار مُسرعة. إذا قام أحدهم بتغيير مسار عربة الترام نحو سكة أخرى، فسوف يموت عدد أقل من الناس، لكن تدخل الفرد سيؤدي إلى قتلهم.

جادل البعض أن هذه المعضلة تتعلق بإنقاذ الأرواح، لكن في واقع الأمر يتم طرح السؤال التالي: "إذا لم يتمكن الجميع من البقاء على قيد الحياة، فمن يجب أن يموت؟" ومع ذلك، أهون الشرور تظل شروراً. بمجرد اعتبارها مقبولة، لا بدَّ أن تتبعها تساؤلات صادمة، والتي من شأنها أن تُقوض الأسس التي يقوم عليها مُجتمعنا والكرامة الإنسانية. على سبيل المثال، إذا لم تتمكَّن سيارة ذاتية القيادة من الفرملة بسرعة كافية، فهل يجب أن تقتل امرأة مُسنة أو شخصاً عاطلاً عن العمل؟

تمَّ طرح أسئلة مُماثلة كجزء مما يسمّى تجربة "الآلة الأخلاقية"، والتي جمعت بيانات حول التفضيلات الأخلاقية للمشاركين في جميع أنحاء العالم في المواقف المتعلقة باستخدام مركبات ذاتية القيادة، حيث ناقش الباحثون مسألة "كيف يمكن لهذه التفضيلات أن تسهم في تطوير مبادئ عالمية مقبولة اجتماعياً لأخلاقيات الآلة". ومع ذلك، لا تُوفِّر مثل هذه التجارب أساساً مُناسباً لصنع السياسات.

يُفضل الناس عادة خوارزمية عادلة. قد يعني ذلك اتخاذ قرارات عشوائية. وبطبيعة الحال، لا نريد اقتراح قتل الناس بشكل عشوائي - أو قتلهم على الإطلاق. وهذا يتعارض مع المبدأ الأساسي للكرامة الإنسانية، حتى لو كان الموت غير مؤلم. بدلاً من ذلك، تقترح تجربتنا الفكرية أنه لا ينبغي لنا قبول إطار مُعضلة عربة الترام على النحو الوارد. إذا أسفر ذلك عن حلول غير مقبولة، فيجب علينا بذل المزيد من الجهود الجماعية لتغيير الوضع. على سبيل المثال، عندما يتعلق الأمر بالمركبات ذاتية القيادة، يمكننا قيادتها بشكل أبطأ أو تزويدها بفرامل أفضل وتقنيات أمان أخرى.

وعلى نحو مماثل، لم تكن قضايا الاستدامة الحالية في المجتمع مُحددة مسبقاً، بل كانت ناجمة عن طريقتنا في ممارسة الأعمال، والبنية التحتية الاقتصادية لدينا، ومفهومنا للتنقل الدولي، وإدارة سلسلة التوريد التقليدية. يجب أن يكون السؤال الحقيقي هو لماذا ما زلنا لا نملك اقتصاداً دائرياً مُشتركاً - بعد ما يقرب من 50 عاماً من الدراسات الجريئة حول محدودية النمو. ولماذا لم نكن مُستعدين لوباء كحدث كان مُتوقعاً على نطاق واسع؟

لقد تركتنا البيانات الضخمة والذكاء الاصطناعي والتقنيات الرقمية غير مُجهزين لمواجهة التحديات القائمة، سواء فيما يتعلق بأزمة تغير المناخ أو جائحة كوفيد 19 أو الأخبار المزيفة أو خطاب الكراهية أو حتى الأمن الإلكتروني. التفسير بسيط للغاية: بينما يبدو من الجيد "تحسين" العالم باستخدام البيانات، فإنَّ التحسين يعتمد على وظيفة هدف أحادية الأبعاد تُحدد مدى تعقيد العالم من خلال مؤشر واحد. هذا ليس مُناسباً ولا فعالاً، كما يتجاهل إلى حد كبير إمكانيات تأثيرات الشبكات غير المادية. في نفس الوقت، يُقلل من قدرة الإنسان على حل المشكلات ويحد من الطاقة الاستيعابية للعالم.

على النقيض من ذلك، لا تعمل الطبيعة على النحو الأمثل؛ بل تتطور بشكل مُشترك. إنها تقوم بأداء أفضل بكثير من أداء المجتمع البشري من حيث الاستدامة وشبكات الإمداد الدائرية. يمكن لاقتصادنا ومجتمعنا الاستفادة من الحلول المستوحاة من التكنولوجيا الحيوية التي تشبه النظم البيئية، لاسيما النظم التكافلية.

وهذا يعني إعادة تنظيم عالمنا المضطرب ودمج القدرة على الصمود والمرونة في عملية صنع السياسات والتعاون الدولي. تُشكل هذه السمات المميزة للأنظمة المستدامة أهمية بالغة للتكيف والانتعاش من الصدمات والكوارث والأزمات، مثل تلك التي نواجهها اليوم.

يمكن زيادة القدرة على الصمود بعدة طرق، بما في ذلك من خلال مضاعفة الجهود، وتنوع الحلول، والتنظيم اللامركزي، والنهج القائم على المشاركة، والتضامن، والمساعدة الرقمية حيثما اقتضت الحاجة. يجب أن تكون هذه الحلول مُستدامة محلياً لفترات طويلة من الزمن. بعبارة أخرى، بدلاً من "تعلم كيفية الموت في عصر الأنثروبوسين"، كما جادل المؤلف روي سكرانتون، يجب أن "نتعلَّم كيف نعيش" في هذه الأوقات العصيبة. هذا هو أفضل تأمين ضد التطورات التي قد تدفعنا إلى دخول مستنقع أخلاقي يتمثل في فرز الأرواح البشرية.

ديرك هيلبينج هو أستاذ العلوم الاجتماعية الحاسوبية في  المعهد الفيدرالي للتكنولوجيا في زيورخ. بيتر سيلي هو أستاذ أخلاقيات العمل في جامعة سويسرا الإيطالية بلوغانو.

حقوق النشر: بروجيكت سنديكيت، 2020.
www.project-syndicate.org