التحكم البشري بالروبوتات القاتلة

لا توجد تكنولوجيا عسكرية أكثر إزعاجًا من فكرة وجود آلة محملة بالأسلحة وتقوم باتخاذ قرارات بقتل الأشخاص من تلقاء نفسها، هذا الموضوع كان مصدر إلهام للعديد من الروايات وأفلام الخيال العلمي التي تتحدث عن المدن الفاسدة التي تحكمها الروبوتات، وهذا النوع من الخيال يؤجج الاحتجاجات ضد الطائرات بدون طيار، وذلك على الرغم من أن هذه الطائرات العسكرية ماتزال تحت تحكم البشر، إلّا أن احتمالية استخدام أسلحة التحكم الذاتي – التي تعمل من خلال البرمجة لإطلاق النار من تلقاء نفسها – في حروب المستقبل أصبحت شبه مؤكدة، وذلك وفقًا للتقرير الجديد الصادر عن مركز الأمن الأمريكي الجديد في واشنطن العاصمة.

قد يكون التحكم الذاتي أمرًا معقدًا، ولكن عندما نتحدث عن الآلات، فإن أهم الجوانب التي يمكن أن يتم طرحها في هذا السياق هو مقدار التحكم الذي لايزال البشر يمتلكونه على تلك التكنولوجيا، وما هي القرارات التي يمكن للآلة أن تتخذها من تلقاء نفسها، فالجميع – ابتداءً من وزارة الدفاع الأمريكية وانتهاءً بالمواطن العادي – يريدون التأكد من أن البشر هم من يعطون الأوامر عندما يتعلق الأمر باتخاذ القرارات القاتلة، كما أن المسؤولين لا يريدون بالتأكيد إعطاء الروبوتات الأسلحة، خاصة في حال تمت برمجتها للقتل.

إن تدخل البشر في المجالات التقنية يحكمه مبدأ “نطاق التدخل”، وبمعنى آخر يمكن قياس مدى تحكم البشر بالتكنولوجيا من خلال معرفة موقعهم من التعليمات التي يتم إعطائها للروبوتات، حيث إن دور البشر في حالة الروبوتات التي تقوم بمسح البيئة للبحث عن الأهداف المحتملة والتي تقوم بسؤال البشر لأخذ الموافقة قبل إطلاق النار على أي هدف، هو دور يختلف عن حالة الروبوتات التي تقوم بسؤال البشر في ساحة المعركة فيما إذا كان بإمكانها تحديد الأهداف لوحدها والهجوم عليها من تلقاء نفسها، وهذه هي الأسئلة التي يفكر فيها العسكريون، والتي يجب على جميع مصممي الروبوتات والأشخاص المسؤولين عن صياغة القوانين الجديدة للحروب أن يفكروا بها، لذلك فمن الجيد أن تكون هذه الأسئلة مؤطرة بالشكل الصحيح.

قام معدا التقرير بول شار ومايكل س. هورويتز، بالغوص أكثر في تحديد “نطاق التدخل”، فالصاروخ الذي يحدد الأهداف ومن ثم يقوم بطلب الإذن قبل أن يطلق النار هو “ضمن نطاق تدخل البشر”، في حين أن الآلات التي تلتقط الأهداف وتهاجمها من تلقاء نفسها هي “خارج نطاق تدخل البشر”، ولكن هناك أيضًا بعض الفوائد للأسلحة التي تقع ظاهريًا خارج نطاق تدخل البشر، مثل أسلحة الدفاع التلقائية، فبطاريات منظومات الدفاع الجوي المضادة للصواريخ تحتاج لأن يتم إطلاقها بشكل أسرع مما يستطيع الإنسان أن يفعله وإلا فإن إطلاقه سيذهب سدى، ولهذا يشير كل من شار وهورويتز إلى أن هذه الأسلحة هي “ضمن نطاق تدخل البشر”، رغم أنها تحدد الأهداف وتهاجمها من تلقاء ذاتها، ففي مثل هذه الحالات، يمكن للسلاح أن يطلق النار دون موافقة الإنسان، ولكن الإنسان سيتمكن من وقف إطلاق النار في المستقبل.

إن الأمر المهم في هذه الفروق هو مقدار التحكم الذاتي الذي تمتلكه كل آلة من هذه الآلات، فمن خلال تقسيم التحكم الذاتي إلى فئات، يصبح بإمكان المخططين الدفاعيين والمشرعين وجماعات حقوق الإنسان أن تعالج الأنواع المختلفة كل على حدى، وخصوصًا أكثرها تهديدًا، أي التي تقع “خارج نطاق تحكم البشر”.

لذلك فإذا كان لابد للروبوتات العسكرية أن تكون جزءًا من الحروب المستقبلية، فإنه من الجيد أن يكون هناك مصطلحات مشتركة لفهم عمل كل روبوت، ولهذا فإن تقريرًا واحدًا – مثل هذا التقرير – يتحدث عن “مدخل إلى التحكم الذاتي في أنظمة السلاح” لا يقدم كل الإجابات المطلوبة عن الكيفية التي يمكن فيها للعالم وللعسكريين أن يتعاملوا مع الروبوتات المستقلة، ولكنه من ناحية ثانية يحدد المفردات المفيدة التي يمكن أن تكون ذات فائدة لمن يريد أن يكون ضمن هذا الحوار في المستقبل.

المصدر: بوبيولار ساينس