هذه المدونة ترجمة لمقال بتصرّف من موقع إيكونومست توداي.
إنّ الاستثمارات الضخمة التي يتم ضخها في روبوتات المحادثة من كبرى شركات التكنولوجيا تثير المخاوف من زيادة انتشار المعلومات الخاطئة والمضللة، وفقًا لخبراء المجال.
كيف لروبوتات المحادثة أن تساهم في انتشار المعلومات المضللة؟
قال سايمون جرينمان، المؤسس المشارك وكبير مسؤولي قسم التكنولوجيا في شركة بيست براكتس للذكاء الاصطناعي لموقع إيكونومست توداي "إن احتمال زيادة المعلومات المضللة ضخم، لأن النماذج اللغوية المكوّنة لروبوتات المحادثة ليست مصممة لتحري الدقة، بل مصممة لإجراء محادثات بليغة".
وفي إشارة إلى أن هذه النماذج اللغوية الكبيرة لا يمكنها التمييز بين "المعلومات المدعومة بالأدلة والخيال" ، قال غرينمان "نخشى من التصوّرات الاجتماعية التي يمكن أن تضخّم المحتوى السام والعنصرية والعنف وكراهية النساء وخطاب الكراهية والنظريات السياسية غير الصحيحة والمتحيزة"، إذ تمكن نظام شات جي بي تي الذي أنشأته شركة أوبن إيه آي، من جذب 100 مليون مستخدم في غضون شهرين من إطلاقه.
وفي يناير/كانون الثاني من هذا العام، أعلنت شركة مايكروسوفت عن استثمار جديد، بمليارات الدولارات يمتدّ لسنوات لدعم هذا النظام، وامتنعت عن تقديم تفاصيل الصفقة حينها، إلا أن وكالة سيمافور الإخبارية ذكرت أن "مايكروسوفت" أجرت محادثات لاستثمار قرابة 10 مليارات دولار. وتمثل هذه الصفقة المرحلة الثالثة من الشراكة بين الشركتين، بعد استثمارات مايكروسوفت السابقة في عامي 2019 و2021.
وفي هذا الصدد، أعلنت شركة غوغل خلال هذا الشهر، أنها ستطرح "بارد"، وهو روبوت محادثة مدعوم بتطبيق Language Model for Dialogue الذي يُشار له بالاختصار LaMDA .
يقول غرينمان، إن مشكلة المعلومات المضللة ليست جديدة، لكن الخوف من نماذج اللغات الكبيرة التي تعتمد على الرياضيات المبنية على الخوارزميات هو “أنها تأخذ المحتوى من الإنترنت ثم تتقيأه، فهي تمتص المحتوى المعادي للنساء مثلًا، ثم تعود فتقذفه مرة أخرى للمستخدمين وتضخمه”.
وفقًا للمكتب الوطني لسجلات الجريمة (NCRB)، شهدت حوادث الأخبار الزائفة وتداول الشائعات ارتفاعًا بمقدار ثلاثة أضعاف تقريبًا في عام 2020 مقارنة بعام 2019، فقد تم تسجيل ما مجموعه 1527 حالة مرتبطة بالأخبار المزيفة في عام 2020، مقارنة ب 486 حالة في عام 2019 و280 حالة في عام 2018.
ومع ذلك، بعد عام الوباء، كان هناك انخفاض بنسبة 42٪ في عدد الحالات المسجلة وفقا لبيانات NCRB لعام 2021 حيث تم تسجيل 882 حالة.
وفي نوفمبر/تشرين الثاني غرد سمير ساران، رئيس مؤسسة أبحاث ذا أوبزرفر أنه يجب على البلدان حول العالم، أن تضيق الخناق على نظام شات جي بي تي وغيرها من المنتجات المماثلة، وأضاف "يجب إخضاع هذه الأنظمة لاختبارات متعددة المراحل قبل إتاحتها".
لاحظ الخبراء أن نماذج اللغة لروبوتات المحادثة التي تقودها تقنية الذكاء الاصطناعي مبنية بشكل أساسي حول اللغة الإنجليزية، لذا فإن التأثير الأولي لهذه الأنظمة سيكون على البلدان الناطقة باللغة الإنجليزية، لكنها مسألة وقت فقط قبل أن يتم توطين هذه النماذج لتلبية مختلف الثقافات والبلدان والجنسيات واللغات.
إلى جانب ذلك، فإن نماذج اللغة تم بناؤها قبل 12 شهرًا من الآن، لذا إذا سأل شخص ما عن شيء يحدث في فبراير/شباط 2023 فلن يكون لديها إجابة.
استعدادات عالمية للتصدي لفوضى المعلومات الناتجة عن روبوتات المحادثة
يستعد مدققو الحقائق الإسبان للتعامل مع الهجمة المحتملة للمعلومات المضللة، مع اقتراب البلاد من إجراء انتخابات وطنية وأخرى إقليمية.
تقول إيرين لاراز التي تعمل في مجال تدقيق الحقائق هي وفريقها بشركة مقرّها مدريد، "الخطر الذي نستعد له هو أن الأشخاص الذين يهدفون إلى تشتيت انتباه مدققي الحقائق يمكنهم استخدام تطبيق شات جي بي تي لنشر نفس المعلومات المضللة ولكن بتنسيقات وأشكال مختلفة، لذلك على الرغم من أن المدخلات قد تكون هي نفسها، إلا أن النتيجة هي العديد من المقالات التي تقول نفس الشيء بطرق مختلفة، وقد لا نستطيع اكتشاف التضليل في جميع المنصات أو جميع الأماكن التي ينتشر فيها".
وأردفت لاراز أنه منذ فترة وجيزة نُشر مقال في صحيفة إسبانية، حيث سأل الصحفي روبوت محادثة بينغ عما إذا كان لرئيس إسبانيا شاربًا، ليجيب بنعم، في حين أن بيدرو سانشيز ليس لديه شارب في الواقع.
وتابعت: "قد يكون هذا التضليل صغير وسخيف لا نهتم به، ولكن إذا كان لدى هذا التطبيق القدرة على اختراع إجابات لقضايا أكبر يمكن أن تثير الاستقطاب، فلا شك بأنه مصدر قلق كبير خاصة عندما يتعلق الأمر بالموضوعات الحساسة".
اقرأ/ي أيضًا
روبوتات المحادثة يتجاوز خطرها نشر المعلومات المضللة إلى الإهانة والتهديد
