ترجمة وتحرير: نون بوست
أفادت تقارير أن الجيش الإسرائيلي قام بتنفيذ شبكة للتعرف على الوجه في جميع أنحاء قطاع غزة، حيث قام بمسح الفلسطينيين العاديين أثناء تحركهم في جميع أنحاء المنطقة المدمرة، في محاولة للفرار من القصف المستمر والبحث عن لقمة العيش لعائلاتهم.
ويعتمد البرنامج على أداتين مختلفتين للتعرف على الوجه، وذلك وفقًا لصحيفة “نيويورك تايمز“، واحدة من صنع المقاول الإسرائيلي كورسايت، والأخرى مدمجة في منصة تنظيم صور المستهلك الشهيرة المقدمة من خلال صور جوجل.
وقال مسؤول إسرائيلي مجهول لصحيفة التايمز إن صور جوجل عملت بشكل أفضل من أي تقنية بديلة للتعرف على الوجه، مما ساعد الإسرائيليين على إعداد “قائمة اغتيالات” لمقاتلي حماس المزعومين الذين شاركوا في هجوم السابع من شهر تشرين الأول/ أكتوبر.
وقد أدت المراقبة الجماعية لوجوه الفلسطينيين، الناجمة عن جهود إسرائيل للتعرف على أعضاء حماس، إلى اعتقال الآلاف من سكان غزة منذ هجوم السابع من شهر تشرين الأول/ أكتوبر. وقال العديد من المعتقلين أو المسجونين، في كثير من الأحيان دون أدلة أو أدلة قليلة، إنهم تعرضوا للاستجواب الوحشي أو للتعذيب.
وفي قصة التعرف على الوجه، أشارت التايمز إلى الشاعر الفلسطيني مصعب أبو توحة، الذي تم اعتقاله وضربه على يد الجيش الإسرائيلي باستخدام تقنية التعرف على الوجه. وقال أبو توحة، الذي أطلق سراحه لاحقا دون توجيه اتهامات إليه بارتكاب أي جريمة، للصحيفة إن الجنود الإسرائيليين أخبروه أن اعتقاله بتقنية التعرف على الوجه كان “خطأ”.
وبغض النظر عن الدقة – تعد أنظمة التعرف على الوجه أقل دقة على الوجوه غير البيضاء – فإن استخدام ميزات التحليل المدعومة بالتعلم الآلي في صور جوجل لوضع المدنيين تحت التدقيق العسكري، أو ما هو أسوأ من ذلك، يتعارض مع قواعد الشركة المعلنة بوضوح. وتحت عنوان “الأنشطة الخطرة وغير القانونية“، تحذر شركة “جوجل” من أنه لا يمكن استخدام صور جوجل “للترويج للأنشطة أو السلع أو الخدمات أو المعلومات التي تسبب ضررًا جسيمًا وفوريًا للأشخاص”.
وردًا على سؤال حول مدى توافق الحظر المفروض على استخدام صور جوجل لإيذاء الأشخاص مع استخدام الجيش الإسرائيلي لصور جوجل لإنشاء “قائمة اغتيالات”، رفض المتحدث باسم الشركة جوشوا كروز الإجابة، مشيرًا فقط إلى أن “صور جوجل منتج مجاني متاح على نطاق واسع للعامة ويساعد على تنظيم الصور من خلال تجميع الوجوه المتشابهة، بحيث يمكنك تصنيف الأشخاص للعثور على الصور القديمة بسهولة. ولا يقدم هويات للأشخاص المجهولين في الصور”. (لم يستجب كروز للمحاولات اللاحقة المتكررة لتوضيح موقف جوجل).
ومن غير الواضح كيف يتم تطبيق مثل هذا الحظر – أو التزامات الشركة العامة طويلة الأمد بحقوق الإنسان – على الجيش الإسرائيلي.
وقالت آنا باتشياريلي، المديرة التقنية المساعدة في منظمة هيومن رايتس ووتش، إن “الأمر يعتمد على كيفية تفسير جوجل لـ”الضرر الخطير والفوري” و”النشاط غير القانوني”، لكن مراقبة التعرف على الوجه من هذا النوع تقوض الحقوق المنصوص عليها في القانون الدولي لحقوق الإنسان، مثل الخصوصية، وعدم التمييز، والتعبير، وحقوق التجمع، والمزيد”.
وأضافت: “بالنظر إلى السياق الذي تستخدم فيه القوات الإسرائيلية هذه التكنولوجيا، وسط إنكار واسع النطاق ومستمر ومنهجي لحقوق الإنسان للأشخاص في غزة، آمل أن تتخذ جوجل الإجراء المناسب”.
عمل الخير أم عمل جوجل؟
بالإضافة إلى شروط الخدمة التي تحظر استخدام صور جوجل للتسبب في ضرر للأشخاص، فقد ادعت الشركة لسنوات عديدة أنها تتبنى معايير عالمية مختلفة لحقوق الإنسان.
وكتبت ألكسندريا والدن، الرئيس العالمي لحقوق الإنسان في الشركة، في منشور على مدونة سنة 2022 أنه “منذ تأسيس شركة جوجل، آمنا بتسخير قوة التكنولوجيا لتعزيز حقوق الإنسان. وهذا هو السبب في أن منتجاتنا وعملياتنا التجارية وصنع القرار بشأن التقنيات الناشئة كلها مستنيرة ببرنامجنا لحقوق الإنسان والالتزام العميق بزيادة الوصول إلى المعلومات وخلق فرص جديدة للناس في جميع أنحاء العالم”.
ويشمل هذا الالتزام العميق، وفقًا للشركة، دعم الإعلان العالمي لحقوق الإنسان – الذي يحظر التعذيب – ومبادئ الأمم المتحدة التوجيهية بشأن الأعمال التجارية وحقوق الإنسان، التي تشير إلى أن الصراعات على الأراضي تنتج بعضًا من أسوأ انتهاكات الحقوق.
إن استخدام الجيش الإسرائيلي لمنتج جوجل المجاني والمتاح للعامة مثل الصور يثير تساؤلات حول التزامات الشركات في مجال حقوق الإنسان، ومدى استعداد الشركة للتصرف فعليًا بموجبها، تقول جوجل إنها تؤيد وتشترك في المبادئ التوجيهية للأمم المتحدة بشأن الأعمال التجارية وحقوق الإنسان، وهو إطار يدعو الشركات إلى “منع أو تخفيف الآثار السلبية على حقوق الإنسان التي ترتبط ارتباطًا مباشرًا بعملياتها أو منتجاتها أو خدماتها من خلال علاقاتها التجارية، حتى لو لم يساهموا في تلك التأثيرات”.
وقالت والدن أيضًا إن جوجل تدعم العناية الواجبة بحقوق الإنسان المراعية للصراع من جانب شركات تكنولوجيا المعلومات والاتصالات، وهو إطار طوعي يساعد شركات التكنولوجيا على تجنب إساءة استخدام منتجاتها وخدماتها في مناطق الحرب، ومن بين التوصيات العديدة الواردة في الوثيقة، أن تنظر شركات مثل جوجل في “استخدام المنتجات والخدمات للمراقبة الحكومية في انتهاك لمعايير القانون الدولي لحقوق الإنسان، مما يتسبب في آثار فورية على الخصوصية والأمن الجسدي (أي تحديد موقع شخص ما واعتقاله وسجنه)” (لم ترد شركة جوستبيس لابس ولا شركة بيزنس فور سوشيال ريسبونسابيلتي، اللتين شاركتا في تأليف إطار العناية الواجبة، على طلب التعليق).
وأوضحت باتشياريلي: “تتحمل كل من جوجل وكورسايت مسؤولية ضمان أن منتجاتهما وخدماتهما لا تسبب أو تساهم في انتهاكات حقوق الإنسان. أتوقع أن تتخذ جوجل إجراءً فوريًا لإنهاء استخدام صور جوجل في هذا النظام، بناءً على هذه الأخبار.”
وقد تواصل موظفو جوجل المشاركون في حملة “لا تكنولوجيا للفصل العنصري”، وهي حركة احتجاجية يقودها العمال ضد مشروع نيمبوس، مع الشركة لمنع الجيش الإسرائيلي من استخدام تقنية التعرف على الوجه في الصور لمواصلة الحرب في غزة.
وقالت المجموعة في بيان تمت مشاركته مع “ذا إنترسبت”: “إن قيام الجيش الإسرائيلي باستخدام التكنولوجيا الاستهلاكية مثل صور جوجل كسلاح، باستخدام تقنية التعرف على الوجه المضمنة للتعرف على الفلسطينيين كجزء من جهاز المراقبة الخاص به، يشير إلى أن الجيش الإسرائيلي سيستخدم أي تكنولوجيا متاحة له ما لم تتخذ جوجل خطوات لضمان أن منتجاتها لا تساهم في التطهير العرقي والاحتلال والإبادة الجماعية. باعتبارنا عاملين في جوجل، نطالب الشركة بإسقاط مشروع نيمبوس على الفور، ووقف جميع الأنشطة التي تدعم أجندة الإبادة الجماعية الخاصة بالحكومة الإسرائيلية والجيش الإسرائيلي لتدمير غزة”.
مشروع نيمبوس
لن تكون هذه هي المرة الأولى التي تتعارض فيها مبادئ حقوق الإنسان المزعومة لشركة جوجل مع ممارساتها التجارية – حتى في إسرائيل فقط – فمنذ سنة 2021، باعت شركة جوجل أدوات الحوسبة السحابية والتعلم الآلي المتقدمة للجيش الإسرائيلي من خلال عقدها المثير للجدل “مشروع نيمبوس”.
على عكس صور جوجل وهو منتج استهلاكي مجاني متاح لأي شخص، فإن مشروع نيمبوس هو مشروع برمجي مخصص مصمم خصيصًا لتلبية احتياجات الدولة الإسرائيلية، ومع ذلك، فإن براعة نيمبوس وصور جوجل في مطابقة الوجوه هي نتاج لموارد الشركة الهائلة في مجال التعلم الآلي.
إن بيع هذه الأدوات المتطورة لحكومة متهمة بانتظام بارتكاب انتهاكات لحقوق الإنسان وجرائم حرب يتعارض مع مبادئ الذكاء الاصطناعي الخاصة بشركة جوجل؛ حيث تحظر المبادئ التوجيهية استخدامات الذكاء الاصطناعي التي من المحتمل أن تسبب “ضررًا”، بما في ذلك أي تطبيق “يتعارض غرضه مع مبادئ القانون الدولي وحقوق الإنسان المقبولة على نطاق واسع”.
وقد اقترحت جوجل سابقًا أن “مبادئها” في الواقع أضيق بكثير مما تبدو عليه، وتنطبق فقط على “عمل الذكاء الاصطناعي المخصص” وليس الاستخدام العام لمنتجاتها من قبل أطراف ثالثة، وقال متحدث باسم الشركة لموقع “ديفنس ون” في سنة 2022: “هذا يعني أن تقنيتنا يمكن استخدامها على نطاق واسع إلى حد ما من قبل الجيش”.
ويظل من غير الواضح كيف، أو ما إذا كانت جوجل، ستحول تأكيداتها المدوّنة على المدونات التنفيذية إلى عواقب في العالم الحقيقي، وقد وضعت أرييل كورين، الموظفة السابقة في جوجل التي قالت إنها أُجبرت على ترك وظيفتها في سنة 2022 بعد احتجاجها على مشروع نيمبوس، صمت جوجل بشأن قضية الصور في نمط أوسع من تجنب المسؤولية عن كيفية استخدام تقنيتها.
وقالت كورين: “من المبالغة القول إن المساعدة والتحريض على الإبادة الجماعية يشكل انتهاكًا لمبادئ الذكاء الاصطناعي وشروط الخدمة الخاصة بشركة جوجل”، مضيفة: “حتى في غياب التعليق العام، أوضحت إجراءات جوجل أن مبادئ أخلاقيات الذكاء الاصطناعي العامة للشركة ليس لها أي تأثير أو وزن في قرارات سحابة جوجل التجارية، وأن حتى التواطؤ في الإبادة الجماعية لا يشكل عائقًا أمام سعي الشركة الحثيث لتحقيق الربح. بأي ثمن.”
وقالت كورين، وهي الآن إحدى منظمي حملة “لا تكنولوجيا للفصل العنصري”، لموقع “ذا إنترسبت: “من المبالغة القول إن المساعدة والتحريض على الإبادة الجماعية يشكل انتهاكًا لمبادئ الذكاء الاصطناعي وشروط الخدمة الخاصة بشركة جوجل. حتى في غياب التعليق العام، أوضحت إجراءات جوجل أن مبادئ أخلاقيات الذكاء الاصطناعي العامة للشركة ليس لها أي تأثير أو وزن في القرارات التجارية للخدمات السحابية في جوجل، وأن حتى التواطؤ في الإبادة الجماعية لا يشكل عائقًا أمام سعي الشركة الحثيث لتحقيق الربح بأي ثمن”.
المصدر: ذا انترسبت
