أوضحت تسريبات أخيرة من داخل شركة جوجل لموظفين رفضوا كشف هويتهم عن تعاون الشركة مع وزارة الدفاع الأمريكية لمساعدتها على تطوير تقنية الذكاء الاصطناعي في تحليل الصور التي تلتقطها “الدرونز” أو الطائرات بدون طيار الخاصة بها، وهو التعاون الذي أثار غضب الكثير من موظفي جوجل، مشككين في هدف ونوايا الشركة في إجراء تعاون مثل هذا.
أثار المشروع الذي تم إعلانه من خلال إخطار العاملين على المشروع فقط من خلال بريد إلكتروني داخلي، غضب الكثير من عاملي جوجل الذين شككوا في مدى أخلاقية مشاركة جوجل في هذا المشروع لتوفيرها مصادر خاصة في مشروع خاص بـ”تكنولوجيا المراقبة” في توظيف التكنولوجيا لخدمة الجهات العسكرية.
تسبب مشروع “Maven”، وهو اسم المشروع الذي تتعاون فيه جوجل مع وزارة الدفاع الأمريكية، في إثارة تساؤلات عديدة عن مدى أخلاقية “تعلم الآلة”، ومدى خطورة تطور هذه الآلية في وصولها إلى مرحلة القتل المباشر للناس بناءً على مجموعة بيانات التدريب “training data”.
بيانات التدريب هي مجموعة من البيانات التي يقوم المبرمجون بتصميمها كمدخلات للآلة، وبالذات الذكاء الاصطناعي، لتقوم الآلة على أساسها بتكوين علاقات معينة بين تلك البيانات، وتبني على أساسها نتائج معينة واستنتاجات، ومن ثم تقوم بعملية تقييم بناءً على جودة مجموعة بيانات التدريب التي تلقتها من المصممين.
أنفقت وزارة الدفاع الأمريكية ما يقرب من 7 مليارات ونصف مليار دولار أمريكي على المشاريع المتعلقة بالذكاء الاصطناعي
هذا يحدث بالضبط حينما تشير إليك خرائط جوجل عن أكثر الطرق المزدحمة لتتجنبها، هنا تعمل الآلة على استنتاج مجموعة من البيانات أُدخلت إليها لتخبرك بنتيجة معينة وهي أن ذلك الطريق مزدحم فتتجنبه، إلا أن موظفي جوجل يتساءلون ما إن كان الذكاء الاصطناعي، الذي تحاول جوجل الآن تدريب الطائرات بدون طيار “drones” الخاصة بوزارة الدفاع الأمريكية، سيقوم بتقييم “الإرهاب” على سبيل المثال باستخدام صور ومواقع تلتقطها تلك الطائرات، وهو ما يزيد من احتمالية قتل مزيد من المدنيين بالخطأ.
استخدام التكنولوجيا لقتل البشر
هذه ليست المرة الأولى التي يثار فيها قلق موظفي جوجل بشأن استخدام التكنولوجيا في قتل البشر، فقد عبر المدير التنفيذي السابق لجوجل “إريك شميديت” الذي أدار الشركة منذ عام 2011 وحتى عام 2017، عن قلقه بشأن تعاون جوجل في مشروعات التكنولوجيا العسكرية الخاصة بالجيش في حديث له الخريف الماضي، الذي ركز فيه على استغلال التقنية الموجودة في شركات التكنولوجيا العملاقة في قتل البشر بالخطأ، فبحسب ما قاله “إريك” فإن الجيش لا يبني تكنولوجيا، إنه يأمر من يتعاقد معهم، وهم شركات التكنولوجيا، على بناء ما يحتاجه من تكنولوجيا لخدمة الأغراض العسكرية، وهذا ما أثار قلق موظفي جوجل بحسب ما ورد في مصادر التسريبات.
أنفقت وزارة الدفاع الأمريكية ما يقرب من 7 مليارات ونصف مليار دولار أمريكي على المشاريع المتعلقة بالذكاء الاصطناعي، كما ورد في تقرير صحيفة “ووال ستريت جورنال” بعنوان “الذكاء الاصطناعي هو سباق الأسلحة الجديد”، من بين تلك المشاريع التي مولتها وزارة الدفاع الأمريكي، كان مشروع “maven” أو المعروف في سياق آخر باسم “خوارزميات الحرب من خلال فريق وظيفي” والمتفق عليه في أبريل/نيسان الماضي في وثيقة يمكنك قراءتها على الإنترنت.
جزء من وثيقة وزارة الدفاع الأمريكية:
تخطط وزارة الدفاع الأمريكية لدمج مزيد من تقنيات الذكاء الاصطناعي و تحليل البيانات الضخمة في مزيد من العمليات العسكرية في المناطق الحرجة
ما مهمة جوجل في هذا المشروع؟
تعتبر مهمة جوجل أو مهمة الفريق الوظيفي الخاص بخوارزميات الحرب في هذا المشروع هي تحليل الصور والمقاطع المصورة من الطائرات بدون طيار الخاصة بوزارة الدفاع الأمريكية التي تلتقطها يوميًا، وهي كمية ضخمة من الصور والمقاطع التي لا تستطيع الفرق البشرية تحليلها كلها، حيث يحتاج الجيش الأمريكي تحليل صور ومقاطع كتلك المقاطع لتحديد المواقع الإرهابية من غيرها لمساعدتهم في محاربة تنظيم الدولة الإسلامية “داعش” على سبيل المثال، إلا أن تسريبات موظفي جوجل أفادت أن مقاطع الصور والفيديو ضخمة للغاية، في إشارة إلى أنها لا تتعلق فقط بـ”المناطق الحرجة” التي وصفتها وزارة الدفاع في مسودتها عن المشروع.
من المفترض أن تزود جوجل البنتاغون بتحليل للصور والمقاطع من خلال بيانات عن مواقع بعينها وعن مراقبة لحركة أفراد معينين بين مواقع مختلفة، كما من المفترض أن تزود البنتاغون كذلك بتقنيات تحري الوجوه والتعرف على الأشياء من خلال تحليل تلك الصور والمقاطع لتزويد آلات الذكاء الاصطناعي بتقنية التعرف على الوجوه فيما بعد بسرعة وإتقان من خلال آلية تعلم الآلة لتصنيف الوجوه والأشياء إلى 38 تصنيفًا بحسب ما تقرره وزارة الدفاع الأمريكية.
تعتبر مهمة جوجل أو مهمة الفريق الوظيفي الخاص بخوارزميات الحرب في هذا المشروع هي تحليل الصور والمقاطع المصورة من الطائرات بدون طيار الخاصة بوزارة الدفاع الأمريكية التي تلتقطها يوميًا
تفيد التسريبات التي نشرها موقع “جيزمود“ أن الآلة يمكنها أن تكون عنصرية ضد البشر من خلال تقنية التعرف على الوجوه، حيث كانت الولايات المتحدة الأمريكية قد طورت تقنيات خاصة بالذكاء الاصطناعي لتوقع الأفراد المجرمين، أُثبت فيما بعد أن تلك التقنية شديدة التحيز ضد الأفارقة الأمريكان في زيادة احتمالية الآلة أن تحدد أفراد من الأفارقة الأمريكان أنهم مجرمون مُتوقعون.
لقد بين متحدثو جوجل الرسميين بأنها ليست المرة الأولى التي تتعاون فيها شركة جوجل وغيرها من شركات التكنولوجيا مثل أمازون ومايكروسوفت مع وزارة الدفاع الأمريكية في توفير ما تحتاجه من تقنية في تخزين المعلومات شديدة الأهمية التي تضمن أمن الولايات المتحدة الأمريكية، وأن مشروع “Maven” ليس الأول من نوعه ولا يستهدف قتل المدنيين ومراقبتهم كما تزعم الشائعات وإنما يستغل التكنولوجيا في الحماية من الإرهاب.
لقد وصف رئيس جوجل التنفيذي المُستقيل “إريك شميديت” شركة جوجل من قبل أنها شركة ذكاء اصطناعي من الآن فصاعدًا بدلًا من كونها شركة “داتا” أو شركة بحث عن المعلومات، مشيرًا إلى أن مشروع “مافين” هو المشروع الأهك لدمج جوجل الذكاء الاصطناعي في خوارزميات الحرب، ليكون المشروع هو نجم وزارة الدفاع الأمريكية في مستقبل الحروب بالذكاء الاصطناعي.