بدأت وحدة 8200 بتدريب نموذج ذكاء اصطناعي جديد عالي القوة، يشبه برنامج ChatGPT، وذلك بناء على كميات كبيرة من المحادثات بالعربية المحكية بين الفلسطينيين في الأراضي الفلسطينية- هذا ما يتضح من تحقيق أجراه موقع "سيحا ميكوميت" وصحيفة "الغارديان" (بريطانيا).
في حين تم تدريب نماذج اللغة الكبيرة في السوق المدنية، مثل ChatGPT، على أساس مليارات النصوص العلنية المأخوذة من الإنترنت، باللغة الإنكليزية ولغات أخرى، فإن أداة 8200 الجديدة - والتي تعرّف كـ"نموذج لغة كبير" (LLM) - تتغذى على "كميات مجنونة" من المعلومات الاستخباراتية.
وقالت ثلاثة مصادر أمنية ذات معرفة بالأداة الجديدة إن هدف النموذج هو "الإجابة على أسئلة" مسؤولي الاستخبارات حول أي موضوع يتعلق بالأشخاص الذين يتتبعونهم، وبالتالي مساعدتهم على معالجة المعلومات بسرعة. وأشار أحدهم إلى أنه تم تدريب النموذج الجديد على مئة مليار كلمة باللغة العربية المحكية.
"لقد أردنا إنشاء أكبر مجموعة بيانات ممكنة، وجمع كل البيانات التي حصلت عليها دولة إسرائيل باللغة العربية على الإطلاق"، كما أوضح شاكيد روجر سايدوف، وهو ضابط استخبارات قدم نفسه كقائد للمشروع، في محاضرة علنية في مؤتمر العام الماضي.
إن استخدام المعلومات، التي يتم جمعها أيضاً من خلال ملاحقة السكان المدنيين الذين يعيشون تحت الحكم العسكري، يطرح مشاكل أخلاقية خطرة. ويقول زاك كامبل، الباحث الكبير في مجال التكنولوجيا في منظمة هيومن رايتس ووتش: "نحن نتحدث عن معلومات شخصية جداً، تم أخذها من أشخاص غير مشتبه بهم في جرائم، لغرض تدريب أداة يمكنها بعد ذلك المساعدة في إثبات اشتباه".
ويقول مصدر استخباراتي رافق عن كثب تطوير نماذج لغة في سلاح الاستخبارات العسكرية في السنوات الأخيرة: "المسألة ليست مجرد [انتهاك] للخصوصية، بل هي أيضاً [مسألة] قوة. الذكاء الاصطناعي يزيد من القوة. فهو يسمح لنا بالعمل بناء على معلومات عدد أكبر من الأشخاص، وهذا يسمح بالسيطرة على السكان. لا يتعلق الأمر فقط بإطلاق النار. بل بوسعي مراقبة نشطاء حقوق إنسان، وبناء فلسطيني في المنطقة ج. لديّ بالتالي وسائل إضافية لمعرفة ما يفعله كل شخص في الضفة الغربية. وعندما تكون قابضاً على هذا الكم من المعلومات، فيمكنك توجيهها إلى أي غاية تريدها. والجيش الإسرائيلي لديه القليل جداً من القيود في هذا السياق".
إن تطوير هذا النموذج اللغوي، على أساس "كميات مجنونة" من المعلومات الاستخباراتية، كالمذكور أعلاه، يواصل عملياً المراقبة المكثفة للفلسطينيين في الأراضي المحتلة والتي تقوم بها إسرائيل منذ عقود. في العام 2014، أفاد جنود خدموا في الوحدة 8200 بأنهم كانوا يتتبعون أشخاصاً أبرياء غير ضالعين بنشاط عسكري ضد إسرائيل، وفي إطار المراقبة، قاموا بجمع معلومات يمكن استخدامها لابتزاز الناس - مثل وضع مالي صعب، ميول جنسية، أو مرض خطير أصيبوا به أو أصيب به أحد أفراد أسرهم. كما أفادوا أيضاًعن مراقبة لنشطاء سياسيين.
واليوم، حتى قبل محاولة تطوير نموذج للغة العربية المحكية بصيغة ChatGPT، تستخدم 8200 نماذج لغوية أصغر تسمح، بشكل ناجع، بتصنيف معلومات، وتنضيد محادثات، والبحث عن كلمات رئيسة. وقالت مصادر استخباراتية إن المراقبة الأفقية واستخدام هذه النماذج مكن من زيادة جدية في عدد الاعتقالات في صفوف الفلسطينيين في المناطق المحتلة، وتعميق السيطرة على السكان. "مع اتساع التغطية وتوسع البيانات، أصبح هناك كثير من المشتبه بهم ممن تربطهم بالشبهة صلة واهية وأحياناً خاطئة، ولكنهم مشتبه بهم وهناك مواد بشأنهم. وإذا رغب أحد باعتقالهم، فستكون لديه ذريعة"، وفقاً لمصدر استخباراتي.
إن الفرق الجوهري بين النماذج الأصغر، المستخدمة أصلا، والنموذج الكبير الذي يجري تطويره الآن هو أن النموذج الجديد يستخدم أيضاً محادثات يومية لا قيمة استخباراتية لها. "أن يتصل شخص ما بشخص آخر ويخبره أن يخرج لأنه ينتظره خارج المدرسة، هي مجرد محادثة، وغير مثيرة للاهتمام. ولكن من ناحية نموذج مثل هذا، فإن هذا ذهبٌ خالص، لأن بحوزتي المزيد والمزيد من البيانات التي يمكنني تدريب النموذج عليها"، كما يقول مصدر أمني. 8200 لديها إمكانية وصول إلى ملايين المكالمات، وهو أمر حيوي لتطوير النموذج. وكما أوضح المصدر: "اللغة العربية المحكية هي بيانات لا توجد على الإنترنت تقريباً، ولا توجد نصوص محادثات أو محادثات واتساب على الإنترنت. إنها غير موجودة بالكمية المطلوبة من أجل تدريب مثل هذا النموذج".
8200 تحوّلت إلى خبيرة في المجال
وفقاً لمحاضرة سايدوف، تعود بداية العمل في المشروع إلى تشرين الثاني 2022. تمت إتاحة نموذج اللغة ChatGPT للجمهور الواسع لأول مرة، وفي مجال الاستخبارات، كما قال سايدوف، تم إنشاء فريق متخصص لدراسة كيفية اعتماد التكنولوجيا التوليدية لاستخدامات استخباراتية وعسكرية. "قلنا، واو، ChatGPT، الآن سوف نستبدل جميع عناصر الاستخبارات بوكلاء، يقومون كل خمس دقائق بقراءة جميع المعلومات الاستخباراتية الإسرائيلية ويقولون من سيكون الإرهابي التالي"، أضاف سايدوف في محاضرته.
لكن الوحدة لم تنجح في التقدم كما أرادت. رفضت شركة OpenAI طلب 8200 الحصول على إمكانية وصول مباشر إلى محرك اللغة واستيراده إلى المنظومة الداخلية والمنفصلة عن الإنترنت لدى الوحدة، بينما النماذج المتوفرة من شركات أخرى كانت قادرة فقط على معالجة معلومات باللغة العربية الفصحى، وليس بالمحكية.
نقطة التحول وقعت بعد اندلاع الحرب. وقالت مصادر إنه بعد السابع من أكتوبر/ تشرين الأول 2023، تجند في سلك جيش الاحتياط لوحدة 8200 "خبراء إسرائيليون من الصف الأول" في نماذج اللغة. وقد جاءوا من شركات مثل ميتا وغوغل ومايكروسوفت، وشاركوا في مشروع لتطوير نموذج لغوي كبير ومستقل. وقال مصدر أمني عمل في المشروع إن خبراء في المجال ممن يتمتعون بمعرفة "لم تكن متاحة من قبل، باستثناء مجموعة مغلقة للغاية من الشركات في العالم"، قد دفعتهم الحرب إلى القدوم لوحدة 8200. وقال مصدر أمني إنه بفضل هؤلاء الخبراء الذين جاءوا من السوق المدنية، أصبحت الوحدة 8200 خبيرة في هذا المجال، واشترت مزارع خوادم متقدمة بعشرات ملايين الدولارات لتدريب نموذج اللغة.
أوري غوشن، مدير عام شركة 21AI المتخصصة في نماذج اللغة، قال لموقع "سيحا ميكوميت" و"الغارديان" إن موظفي الشركة شاركوا في المشروع. وأضاف: "لا يمكن لهيئة أمنية أن تعمل مباشرة مع خدمة مثل ChatGPT، لذلك هناك حاجة في التفكير بكيفية تشغيل الذكاء الاصطناعي داخل منظومة منفصلة".
وقال غوشن إن نماذج اللغة الكبيرة كهذه يمكن أن تساعد وكالات الاستخبارات في إنشاء قوائم المشتبه بهم، معالجة المعلومات، والتوصل إلى إجابات موزعة بسرعة بين مصادر متعددة للمعلومات. لكن تكمن قوتها الرئيسة في قدرتها على العثور على المعلومات ليس من خلال "أدوات بحث بدائية"، وإنما ببساطة من خلال "طرح أسئلة والحصول على إجابات". ويشرح غوشن أنه سيكون من الممكن سؤال روبوت الاستخبارات الذكي عما إذا كان شخصان قد التقيا من قبل أو الاستيضاح بنقرة زر ما إذا كان شخص ما قد فعل شيئاً معيناً في أية مرة.
لكن غوشن يحذر من أن الاعتماد الأعمى على مثل هذه النماذج قد يؤدي إلى أخطاء. "هذه نماذج احتمالية، لذا فإنك تقدم لها أمراً ما أو سؤالاً، وستجيبك بشيء يبدو وكأنه سحر. ولكن في كثير من الأحيان قد تحصل على إجابة غير منطقية. وهذا ما نسميه بالهلوسات"، كما قال.
كمبل أيضاً عبّر عن مخاوف مشابهة. ويقول إن نماذج اللغة الكبيرة أشبه بـ"آلات تخمين"، وأخطاؤها متأصلة في المنظومة. وأضاف أن مستخدمي الأداة ليسوا هم من طوروها في كثير من الأحيان، وتظهر الدراسات أنهم يميلون إلى الثقة بها أكثر. وقال "في نهاية المطاف، هذه التخمينات يمكن أن تستخدم لتجريم أشخاص".
نديم ناشف، مدير ومؤسس "حملة"، وهي منظمة فلسطينية للحقوق الرقمية، يردد صدى مخاوف كمبل. ويقول إن "الفلسطينيين أصبحوا أدوات للمختبر الإسرائيلي لتطوير التقنيات التي تحول الذكاء الاصطناعي إلى سلاح. كل هذا من أجل تكريس نظام الفصل العنصري والاحتلال. هذه التقنيات تُستخدم للسيطرة على الناس والسيطرة على حياتهم. وهذا انتهاك خطير ومستمر للحقوق الرقمية للفلسطينيين، والتي هي أيضاً حقوق إنسان".
استخدام "غير مقبول"
وحدة 8200 ليست الوحيدة التي تحاول تطوير أدوات ذكاء اصطناعي توليدي. فقد طورت وكالة المخابرات المركزية الأميركية أداة مشابهة لـ ChatGPT من أجل تحليل معلومات متاحة على الإنترنت، كذلك تعمل أجهزة استخبارات في بريطانيا أيضاً على تطوير نماذج لغوية كبيرة خاصة بها. لكن مسؤولين أمنيين بريطانيين وأميركيين سابقين قالوا إن مجتمع الاستخبارات الإسرائيلي يقوم بمخاطرات أكبر بكثير من الأميركيين أو البريطانيين عندما يتعلق الأمر بدمج أنظمة الذكاء الاصطناعي في تحليل الاستخبارات.
وقال مدير سابق لوكالة استخبارات غربية إن الجمع الواسع لمحتوى الإتصالات الفلسطيني يسمح للمخابرات العسكرية الإسرائيلية باستخدام الذكاء الاصطناعي بطريقة "غير مقبولة" في وكالات الاستخبارات في البلدان التي تفرض رقابة أكثر صرامة على استخدام أدوات المراقبة والتعامل مع البيانات الحساسة عن الأفراد.
بريانا روزن، ضابطة أمن سابقة في البيت الأبيض وباحثة عسكرية وأمنية في جامعة أكسفورد، حالياً، تقول إن الباحث الاستخباراتي الذي يستخدم أداة مثل ChatGPT يمكنه "تشخيص تهديدات ربما فاتت البشر قبل حدوثها، ولكن كيف يعرف الباحث ما إذا كانت [الأداة] قد وجدت صلة خاطئة أو توصلت إلى استنتاج غير صحيح؟". وقالت إنه من المهم لمنظمات الاستخبارات مراقبة التكنولوجيا بطريقة جدية وفهم المنطق من وراء قراراتها.
تم الكشف عن الإشكالية المتعلقة بالاستخدام العملياتي للنماذج المبنية على الذكاء الاصطناعي، من بين أمور أخرى، في التحقيقات المنشورة في "سيحا ميكوميت" وفي مجلة 972+ خلال الحرب الأخيرة في غزة. على سبيل المثال، كشفت التحقيقات عن أن الجيش استخدم برنامج حاسوب يسمى "لفندر" لكي ينشئ بواسطة الذكاء الاصطناعي قائمة بأسماء عشرات الآلاف من الفلسطينيين المشتبه في انتمائهم إلى منظمات مثل حماس أو الجهاد الإسلامي. وفقاً للتحقيق، فإن هذه القائمة شكلت الأساس لهجمات على هؤلاء الناشطين في بيوتهم، على الرغم من أنه كان معروفاً أن البرنامج يخطئ في 10% من الحالات. وكشف التحقيق أن ضباط الاستخبارات صادقوا فعلا على الهجمات على الأسماء التي ظهرت في القائمة، لكن المصادقة كانت في كثير من الأحيان سطحية جداً واستخدمت كختم مطاطي. ففي اللحظة التي ظهرت الأسماء في القائمة، أصبحت هدفاً للهجوم، وكانت الرقابة البشرية في أدنى حد.
ذكرت وكالة أسوشيتد برس في شباط من هذا العام، أن الذكاء الاصطناعي الذي استخدمه ضباط الاستخبارات الإسرائيلية ساعد في اختيار هدف لغارة جوية في لبنان في تشرين الثاني 2023، والتي أسفرت عن مقتل أربعة أشخاص، بينهم ثلاث فتيات. وأشارت رسالة تلقتها الوكالة إلى أن هدف الهجوم كان خطأ.
وفي الضفة الغربية، بدأ الجيش بالفعل في استخدام نماذج لغوية قادرة على مسح نطاق واسع جدا من المعلومات. ووصف مصدر استخباراتي نموذج لغة قيد الاستخدام بالفعل، يقوم بمسح معلومات وتحديد الفلسطينيين الذين يستخدمون كلمات تدل على "شغب". وقد استخدم المصدر نفسه هذا النموذج في حالات قام فيها الجيش باجتياح قرى في الضفة الغربية "لإثبات وجوده". "يختار الجيش شارعاً ما، يقتحم كل الأبواب، ويتنقل من منزل إلى آخر. هذا يسمى إظهار حضور، وهم لم يخجلوا من هذا الاسم. هدفنا [في الاستخبارات] هو أن نقول إذا ما تحدث أحد أنه ذاهب لرمي الحجارة على الجنود".
تشدد مصادر استخباراتية على أنه في كل ما يتعلق بالضفة الغربية، لا تكمن الإشكالية بالضرورة في درجة الدقة والأخطاء، بل في النطاق الواسع الذي تسمح به مثل هذه النماذج: قوائم "المشتبه بهم" للاعتقال تمتلئ باستمرار، لأنه تم تخزين كمية هائلة من المعلومات التي يمكن معالجتها بسرعة طوال الوقت. وقالت عدة مصادر إن "الشك العام" والغامض أحيانا يكفي لتنفيذ اعتقالات إدارية من دون محاكمة للفلسطينيين في الأراضي الفلسطينية. وفي واقع أصبحت فيه المراقبة واسعة بدرجة عالية، وحيث تكون عتبة الاعتقال منخفضة للغاية، فإنه يمكن العثور على مثل هذه المعلومات التجريمية بخصوص كثير من الناس.
لقد روت مصادر أمنية أن النماذج اللغوية الموجودة في الوحدة 8200 تسمح بتنضيد المعلومات باللغة العربية وترجمتها إلى العبرية وتصفيتها بنجاعة، بحيث تصبح المواد اليوم متاحة بشكل أسرع ومباشر أكثر لدى الألوية وفرقة "يهودا والسامرة"، والتي تنفذ الاعتقالات في المناطق المحتلة كل ليلة. بعبارة أخرى، يمكن للقادة الوصول إلى المعلومات الاستخباراتية الخام، والتي تُترجم إلى العبرية مباشرة، حتى من دون معرفة اللغة العربية بأنفسهم ومن دون المرور بمراكز 8200، والاختيار من قائمة متزايدة باستمرار من المشتبه بهم لاعتقالهم في كل قرية. وقال أحد المصادر: "أحياناً يكون الأمر ببساطة أن قائد الفرقة يريد ثلاثين أو مئة اعتقال شهرياً في قطاعه".
ورداً على ذلك، صرح مكتب المتحدث باسم الجيش الإسرائيلي أن الجيش الإسرائيلي يعمل من خلال مجموعة متنوعة من الأساليب والأدوات الاستخباراتية لكشف "النشاط الإرهابي" الذي تقوم به المنظمات المعادية في الشرق الأوسط والحد منه. وبسبب حساسية المعلومات، لا يمكن تقديم تفاصيل حول الوسائل والأساليب المحددة، بما في ذلك عمليات معالجة المعلومات. وكل استخدام للأدوات التكنولوجية يتم من خلال عملية صارمة يقودها متخصصون، بهدف ضمان أقصى قدر من الدقة للمعلومات الاستخباراتية.
وقالت شركة غوغل: "لدينا موظفون يؤدون الخدمة الاحتياطية في دول مختلفة من حول العالم أجمع. والعمل الذي يقوم به هؤلاء الموظفون كعناصر احتياطي لا علاقة له بشركة غوغل". ولم نتلقّ رداً من شركتي ميتا ومايكروسوفت.
