كيف أثر توظيف إسرائيل للذكاء الاصطناعي على حياة الفلسطينيين وسردياتهم؟

في 22 فبراير/شباط 2022، أصدر مركز حملة، المركز العربي لتطوير الإعلام الاجتماعي، ورقة موقف حول تأثير تقنيات الذكاء الاصطناعي على حياة وسرديات الفلسطينيين. في الآتي استعراض لأبرز ما جاء فيه.

تأثير استخدام الذكاء الاصطناعي في توليد المحتوى على الفلسطينيين

أشار المركز في الورقة إلى خطر استعمال أدوات الذكاء الاصطناعي لتوليد محتويات مضلّلة و/أو دعائية، تُستخدم في التعبير الثقافي والسياسي ولديها القدرة على التأثير في الإنتاج الثقافي وحرية التعبير والرأي العام.

ويلاحظ، وفق الورقة، تحيّز تلك المحتويات للرواية الإسرائيلية، وذلك نتيجة تحيزات مشفّرة في مجموعات البيانات التي تُجمع من مواقع الإنترنت، مما يؤدّي إلى إعادة إنتاج تحيّزات الإنترنت القائمة أساسًا، وترسيخها وتوسيع رقعة انتشارها.

على سبيل المثال، ظهرت ملصقات أطفال يحملون أسلحة بمجرد استخدام كلمة "فلسطيني" أو عبارة "طفل فلسطيني مسلم"، لإنشاء ملصقات باستخدام الذكاء الاصطناعي على تطبيق واتساب، المملوك لشركة ميتا.

وبدا من ردود عملاقي نماذج اللغة، تشات جي بي تي (Chat GPT) وبارد (gemini)، أنّ كليهما يعرض معلومات انتقائية ومضلّلة أو خاضعة للرقابة والقمع، عند طرح أسئلة متعلّقة بفلسطين.

وسبق أن كشف تقرير لمجلة مذربورد التقنية، ضلوع شركة أدوبي في بيع صور ومشاهد مفبركة باستخدام الذكاء الاصطناعي عن غزة وإسرائيل.

واعتبر المركز رصد وسائل الإعلام لأوجه انحياز الذكاء الاصطناعي ضد الفلسطينيين، عاملاً حاسمًا في رفع الوعي بخطورة تلك التحيّزات والدفع نحو تطوير ذكاء اصطناعي أخلاقي، يستخدم مجموعات بيانات متنوعة وعادلة.

وفي حين يستعين بعض المستخدمين والناشطون بالمحتويات المولّدة بالذكاء الاصطناعي بهدف إظهار مساندتهم لطرف ما، تجعل عدم قدرة المتلقّين، ممن لا دراية لهم بالذكاء الاصطناعي التوليدي، على تمييز المحتويات المزيفة هذه الأخيرة قادرة على خداعهم حتى دونما قصد، في الوقت الذي لا تزال فيه أدوات كشف المحتويات المولّدة بالذكاء الاصطناعي غير مضمونة بنسبة مئة في المئة.

كما قد يخلق انتشار المحتويات المولّدة باستخدام الذكاء الاصطناعي حالة من الارتياب الدائم، قد تصل حدّ التشكيك في صدقية صور ومشاهد حقيقية.

ووفق تصنيفات مشروع الأعمال التجارية وحقوق الإنسان والتكنولوجيا، الذي أنشأته المفوضية السامية لحقوق الإنسان، فإنّ بوسع المحتويات المولّدة باستخدام الذكاء الاصطناعي أن تؤثر على حقوق الإنسان الفلسطيني وسردياته، بطرق أبرزها التسبب بالأذى الجسدي والنفسي وترسيخ الصور النمطية والسلبية و/أو التحيزات، والتلاعب بالرأي العام وتقييد حرية التعبير.

إدارة المحتوى المعززة بالذكاء الاصطناعي تهدّد المحتوى الفلسطيني

حذرت الورقة من تأثير تحيزات مجموعات البيانات على شفافية عملية إدارة المحتوى المعزّزة بالذكاء الاصطناعي، التي باتت تعتمدها منصات ميتا ولينكد إن وتيك توك. ووثق مركز حملة انتهاكات بحق المحتوى الداعم للقضية الفلسطينية، وقال إنّه لاحظ فرطًا في إدارة المحتوى العربي مقابل محدودية في إدارة المحتوى العبري على منصّات ميتا.

ونبهت الورقة إلى أنّ عدم تدارك ذلك التمييز سيؤدي إلى توسّع نطاقه، وسيقلل أكثر فأكثر شفافية ومساءلة شركات مواقع التواصل الاجتماعي، وسيوسّع نطاق قمع حرية التعبير كلّما تعلّق الأمر بالسرديات الفلسطينية وما يناصرها بفعل الحجب الجزئي للظهور وحذف المشاركات والحسابات.

كما لا يعرف، بحسب الورقة، دور تقنيات إدارة المحتوى المعززة بالذكاء الاصطناعي في تطبيق القوانين الحكومية المفروضة على منصات التواصل الاجتماعي، مثل قانون مكافحة الإرهاب في إسرائيل مثلًا. يمكن لذلك أن يحوّل وسائل التواصل الاجتماعي إلى أدوات لممارسة الرقابة على الخطاب المعارض وقمع حرية الرأي والتعبير.

وتتحكم الخوارزميات المعززة بالذكاء الاصطناعي في زيادة أو خفض فرص ظهور المحتويات وفي نظم التوصية، وذلك بالاستناد إلى بيانات قد تكون غير دقيقة أو منحازة. يُعرّض ذلك المستخدمين لخطر التلاعب، ويقلّل مقدرتهم على الوصول إلى معلومات ومعارف دقيقة وغير منحازة.

أثر استخدام تقنيات الذكاء الاصطناعي في نظم المراقبة على الفلسطينيين

تستخدم تقنيات الذكاء الاصطناعي في استحداث وتطوير نظم المراقبة الحكومية وغير الحكومية، مما يسفر غالبًا عن انتهاكات حقوقية.

وتتمثل مهمة تلك التقنيات في مراقبة وتتبع وتعقّب الأفراد، من خلال جمع أكبر قدر ممكن من البيانات الحساسة حولهم، كبصمة الوجه وسجل الاتصالات وخوارزميات مواقع التواصل الاجتماعي وكاميرات المراقبة. وتعدّ إسرائيل واحدة من رواد هذا المجال، ومن أبرز برامجها "بيغاسوس" الذي يمكن تثبيته عن بعد على الهواتف الذكية بالإضافة إلى تقنيات التعرف على الوجوه المستخدمة في الحواجز العسكرية.

اسخدام تقنيات الذكاء الاصطناعي لأتمتة الحرب الإسرائيلية على الفلسطينيين

تجنح إسرائيل لاستخدام تقنيات الذكاء الاصطناعي في أسلحتها، التي بات عدد منها يحدّد الأهداف ويطلق النار ذاتيًا. كما تتعمّد اختبارها على الفلسطينيين والتسويق لها على أنها أسلحة مجرّبة في سياقات حقيقية.

وسبق أن استخدمت إسرائيل طائرات دون طيار تعمل بالذكاء الاصطناعي لاستهداف فلسطينيين في الضفة الغربية، بالإضافة إلى بندقية "سمارت شوتر" ذاتية الإطلاق. وفي حربها على غزة، وظّفت نظام استهداف آلي يختار أهدافه بناءً على احتمال ضلوعها في القتال. 

ويطرح ذلك إشكاليات أخلاقية بالنظر إلى نقاط الضعف المتأصّلة في الذكاء الاصطناعي، التي تثير الشكوك حول قدرته على تمييز المدنيين عن المقاتلين. كما يؤدّي استبدال عملية اتخاذ القرار البشري بالذكاء الاصطناعي إلى انتقال المسؤولية من البشر إلى الآلات وإفلات البشر من المساءلة.

اقرأ/ي أيضًا

كيف وُظّفت الصور المولدة بالذكاء الاصطناعي خلال الحرب الإسرائيلية على غزة؟

رويترز: الذكاء الاصطناعي يُستخدم في القرصنة والدعاية المضللة