نقلت وكالة رويترز عن مسؤول كبير في مجال الأمن السيبراني في كندا، أن هناك قراصنة ومتخصصون في الدعاية يستخدمون الذكاء الاصطناعي لإنشاء برامج ضارة وصياغة رسائل بريد إلكتروني للتصيد ونشر معلومات مضللة عبر الإنترنت.
استخدام الذكاء الاصطناعي في الخداع
قال سامي خوري، رئيس المركز الكندي للأمن السيبراني، إن وكالته وثقت استخدام الذكاء الاصطناعي "في إنشاء رسائل بريدية مخادعة، أو صياغة رسائل بطريقة أكثر تركيزًا، وفي تعليمات برمجية ضارة وفي التضليل المعلوماتي".
ولم تنقل رويترز عن خوري أي أدلة أو تفاصيل، لكنها قالت إن تأكيده على أن مجرمي الإنترنت يستخدمون الذكاء الاصطناعي، يضاف إلى القلق المثار بشأن استخدام التكنولوجيا الحديثة من قبل الجهات الخارجة عن القانون.
وقال خوري في مقابلة مع الوكالة إنه “لا يزال هناك طريق لوقف هذه الأعمال” موضحًا أن القلق من نماذج الذكاء الاصطناعي كان بسبب "التطور السريع والكبير لها، بحيث من الصعب التعامل مع إمكاناتها الخبيثة قبل إطلاقها".
المخاطر الافتراضية للذكاء الاصطناعي
ويأتي تصريح المسؤول الكندي، مع نشر العديد من التقارير في الآونة الأخيرة، من مجموعات متخصصة في الرقابة على الإنترنت، تحذر فيها من المخاطر الافتراضية للذكاء الاصطناعي، خاصةً برامج معالجة اللغة والتي يُطلق عليها نماذج اللغات الكبيرة (LLMs)، وتعتمد على كميات كبيرة من النصوص لصياغة حوار ووثائق مقنعة وغيرها.
وسبق أن أظهر باحثون في مجال الأمن السيبراني عددًا من الاستخدامات الضارة المحتملة، وأوضح البعض أنهم بدأوا في رؤية محتوى يشتبه في أنّه أنشئ بواسطة الذكاء الاصطناعي، بهدف استخدامه في أساليب ضارة.
انتحال شخصيات بطريقة واقعية
ونشرت منظمة الشرطة الأوروبية Europol تقريرًا في مارس/آذار الفائت، يفيد بأن نماذج مثل شات جي بي تي، جعلت من الممكن “انتحال شخصية منظمة أو فرد بطريقة واقعية للغاية”. وفي الشهر ذاته قال المركز الوطني للأمن الإلكتروني في بريطانيا إن هناك خطرًا من أن المجرمين "قد يستخدمون LLMs للمساعدة في الهجمات الإلكترونية التي تتجاوز قدراتهم الحالية".
ويُذكر أن مجلس الأمن التابع للأمم المتحدة عقد جلسة يوم الثلاثاء 17 يوليو/تموز الجاري، تحدث فيها للمرة الأولى عن التهديد الذي يشكله الذكاء الاصطناعي حاليًا على السلام والاستقرار الدولي. ودعا الأمين العام أنطونيو غوتيريش إلى وجود هيئة رقابة عالمية للإشراف على التكنولوجيا الجديدة.
المصادر:
اقرأ/ي أيضًا
الأمم المتحدة تدعو لتنظيم الذكاء الاصطناعي بسبب مخاطره المحتملة
دراسة: الذكاء الاصطناعي ينتج معلومات مضللة قد تكون أكثر إقناعًا من التي يكتبها البشر
