أفاد تقرير نشره موقع فوكس نيوز، أن شركات التكنولوجيا العملاقة غير مهيئة لمواجهة "الهلوسة" الناتجة عن منصات الذكاء الاصطناعي، في حين أن الشركات نفسها تقول إنّها تتخذ خطوات لضمان الدقة داخل المنصات.
وأشار التقرير إلى أن روبوتات الذكاء الاصطناعي مثل ChatGPT (شات جي بي تي) وGoogle's Bard (غوغل بارد)، يمكنها أحيانًا نشر معلومات خاطئة وغير دقيقة أو نصوص لا معنى لها، يشار إليها باسم "الهلوسة".
وقال خبير الذكاء الاصطناعي ستيفن وو، رئيس المعهد الوطني للذكاء الاصطناعي التابع لرابطة المحامين الأميركية، إن "الشركات والمؤسسات ليست مستعدة للتغييرات القادمة أو التحديات المقبلة".
عيوب الذكاء الاصطناعي
وغالبًا ما تكون "الهلوسة" أخطاء ترتكبها التكنولوجيا لوجود عيوب بها، وقالت مديرة برنامج أخلاقيات الإنترنت في مركز ماركولا للأخلاقيات التطبيقية في جامعة سانتا كلارا في كاليفورنيا، إيرينا رايكو، إنه كان يجب على الشركات أن تكون صريحة مع المستهلكين بشأن هذه العيوب.
وأضافت في تصريحات لفوكس نيوك "لا ينبغي أن يكون هذا شيئًا يتعين على المستخدمين اكتشافه بأنفسهم. يجب عليهم فعل المزيد لتثقيف الجمهور حول الآثار المترتبة على ذلك".
في حين أوضح آندي جاسي، الرئيس التنفيذي لشركة أمازون، إن نماذج اللغات الكبيرة، مثل تلك التي كانت وراء شات جي بي تي، تستغرق مليارات الدولارات وسنوات للتدريب.
ادعاءات زائفة
وفي غضون ذلك، تم العثور على منصات رئيسية أخرى للذكاء الاصطناعي مثل شات جي بي تي و غوغل بارد، تقدم إجابات غير صحيحة لما يبدو أنها أسئلة بسيطة عن الحقيقة.
وفي أحد الأمثلة المنشورة على غوغل بارد، ادّعى البرنامج بالخطأ أن تلسكوب جيمس ويب الفضائي "التقط الصور الأولى لكوكب خارج المجموعة الشمسية".
في مثال آخر، ذكر شات جي بي تي أن السناتور الأميركي الراحل آل غور الأب كان "مؤيدًا صريحًا لتشريعات الحقوق المدنية". وفي الواقع، عارض السناتور قانون الحقوق المدنية لعام 1964 وصوت ضده.
تضليل المعلومات
يمكن أن تشكل "الهلوسات" الناتجة عن شركات الذكاء الاصطناعي، مخاطر سياسية وفكرية ومؤسسيّة على الرغم من الخطوات التي اتخذتها شركات التكنولوجيا لوقف المعلومات المضللة والزائفة، وكان الخبراء قلقين بشأن القدرة على منعها تمامًا.
وقال كريس وينفيلد، مؤسس النشرة الإخبارية التقنية "فهم الذكاء الاصطناعي" لفوكس نيوز "تستثمر الشركات في الأبحاث لتحسين نماذج الذكاء الاصطناعي، وتحسين بيانات التدريب وإنشاء حلقات ملاحظات المستخدمين".
وأضاف أنها "ليست مثالية ولكنها تساعد في تحسين أداء الذكاء الاصطناعي وتقليل الهلوسة".
وحذر خبراء من أن هذه الهلوسة قد تسبب مشاكل قانونية لشركات التكنولوجيا في المستقبل.
وقال آري لايتمان، الأستاذ في جامعة كارنيجي ميلون، إن المسؤولية الأخلاقية لشركات التكنولوجيا عندما يتعلق الأمر بهلوسة روبوتات الدردشة هي "منطقة رمادية أخلاقية".
وعلى الرغم من ذلك، قال لايتمان إن إنشاء مسار بين مصدر روبوت المحادثة ومخرجاته أمر مهم لضمان الشفافية والدقة.
تختلف الإجابات أحيانًا حسب اللغة
وفي تقرير سابق نشرته جريدة وول ستريت جورنال، عن هلوسة الذكاء الاصطناعي لروبوتات المحادثة، قالت الصحفية ومحررة الذكاء الاصطناعي كارين هاو، إن هناك فكرة خاطئة شائعة مفادها أنه عندما يتم الدردشة مع شات جي بي تي، فإنه يمسح الإنترنت بحثًا عن المعلومات ثم يصنع الإجابة، وهذا غير صحيح. موضحة أنه في الواقع يحاول تجميع جمل تبدو معقولة بناءً على احتمالية استخدام كلمات وعبارات معينة بشكل متكرر معًا.
وأضافت كارين هاو، أن برنامج الذكاء الاصطناعي يأخذ الكلمات ثم يجمعها بناءً على التردد الذي يراه داخل نص الإنترنت، ومن الصعب تحديد عدد المرات التي ينتج عنها شيء مثل الهلوسة، ولكن القاعدة العامة الجيدة هي التفكير عندما يتم السؤال عن شيء ما، وإذا كان بالفعل معروف بشكل واسع، فمن المحتمل الحصول على معلومات صحيحة لأنه يُقال في كثير من الأحيان على الإنترنت. لكن إذا كان السؤال عن شيء هامشي ويوجد حوله الكثير من المعلومات الزائفة على الإنترنت، حينها تظهر إجابات غير منطقية وزائفة.
وأكدت كارين هاو، أن اللغة التي يتم التعامل بها مع البرامج تفرق أحيانًا في الرد على أسئلة معينة، وإذا كان الشخص يتحدث اللغة الإنجليزية مثلًا، وتوجد الكثير من بيانات اللغة الإنجليزية على الإنترنت بجودة أكثر، فسيحصل على المزيد من الإجابات عالية الجودة. وإذا كان الحديث بلغة مختلفة، وخاصةً لغات الأقليات التي لا تُستخدم بشكل شائع على الإنترنت، فإن جودة الإجابات ستنخفض بسرعة.
المصادر:
اقرأ/ي أيضًا
هل ستسبب الصور المولّدة بالذكاء الاصطناعي أزمة لمدققي المعلومات؟
إلى أي حد يجب التخوف من تشات جي بي تي وهل هنالك مبالغة في تقدير المخاطر؟
