هذه المدونة ترجمة بتصرّف لمقال من موقع Forbes.
كشفت دراسة جديدة أن ثلث ملخصات الدراسات العلمية المزيفة، والأوراق البحثية المفبركة التي أنشأها تطبيق الدردشة الاصطناعي ChatGPT الذي أنتجته شركة OpenAI، خدعت العلماء واعتقدوا بأنها تقارير حقيقية.
ChatGPT يخدع العلماء بأوراق علمية مزيّفة
أصدر باحثون في جامعة نورث وسترن وجامعة شيكاغو أوامر إلى تطبيق شات جي بي تي ChatGPT لإنشاء ملخصات بحثية مزيفة، استنادًا إلى التعلّم من 10 ملخصات حقيقية منشورة في مجلات طبية، وزودوه بالملخصات المزيفة عن طريق برنامجين وظيفتهما التمييز بين التقارير الحقيقية والمفبركة.
من جهة أخرى، قدّم الباحثون الأوراق العلمية الزائفة والحقيقية إلى مراجعين علميين، وطلبوا منهم التمييز بينهما في تجربة عمياء. تمكن المراجعون من تمييز الملخصات المفبركة من قبل التطبيق بنسبة 68%، بينما حددوا ما نسبته 14% من الملخصات الحقيقية على أنها مزيفة.
شات جي بي تي والبحث العلمي
وعلى الرغم من أن الأوراق المزيفة التي صنعها التطبيق، كان محتواها فريد ويخلو من الاقتباس بنسبة 100%، إلا أن 8% منها فقط اتبعت متطلبات التنسيق التي توجبها المجلات العلمية، ووفقًا للمراجعين، فإن الأوراق المزيفة كانت "أكثر غموضًا وتتبّع طريقة نموذجية في الكتابة"، لكنّهم أوضحوا أيضًا أنه كان "من الصعب بصورة كبيرة" تحديد أي منها حقيقي وأيها مزيف.
نتيجة لذلك، حثّ الباحثون المجلات والمؤتمرات الطبية التي تعتمد على الدراسات العلمية، أن تحافظ على "معايير علمية صارمة" وأن تطبّق أجهزة الكشف عن مخرجات الذكاء الاصطناعي عند مراجعة الأوراق العلمية.
وفي هذا الصدد، قالت الباحثة في جامعة نورث وسترن، كاثرين جاو، "إن حقيقة أن المراجعين العلميين لم يميزوا 32% من الأوراق العلمية المفبركة من قبل الذكاء الاصطناعي تعني أن هذه الأوراق مزيفة بطريقة مبهرة".
ما هو شات جي بي تي
تطبيق المحادثة الاصطناعي ChatGPT هو صندوق دردشة مدعوم بتقنية الذكاء الاصطناعي من إنتاج شركة OpenAI، وهو برنامج مصمم لتقليد المحادثة البشرية ويُعتبر صندوق الدردشة الأكثر تقدمًا.
أثار التطبيق دهشة بين مستخدميه منذ إصداره في نوفمبر/تشرين الثاني الفائت، إذ يكتب القصائد ويروي القصص بطريقة تشبه البشر بصورة كبيرة، كما يكتب نصوصًا برمجية بلغة بايثون، ومقالات أدبية على مستوى عالٍ.
ما مميزات شات جي بي تي
تمكّن تطبيق ChatGPT من تمييز ومنع انتشار الخطاب العنصري والكاره للنساء، على عكس تطبيقات الدردشة التي طرحتها شركتي مايكروسوفت وميتا، ولكن حذّر بعض النقاد من إمكانية استخدامه من قبل الطلاب للغش في المدرسة، أو من قبل الموظفين بالشركات من خلال إنجاز بعض المهام التي يمكن تأديتها بالذكاء الاصطناعي، بما في ذلك عمل المبرمجين والصحفيين، واستجابة لهذه المخاوف، حُظر البرنامج في بداية يناير/كانون الثاني الجاري في المدارس العامة في مدينة نيويورك بسبب مخاوف من الغش.
وفي السياق ذاته حذّر الخبراء من مساهمة هذه التطبيقات في انتشار المعلومات المضللة، نظرًا لقدرتها الهائلة على إنتاج نصوص بشرية، وقد تحدّثنا في “مسبار” عن هذا الموضوع في مقال منفرد حول أنظمة المحادثة الاصطناعية وعلاقتها بانتشار المعلومات المضللة.
المصادر
اقرأ/ي أيضًا
حول أنظمة المحادثة الاصطناعية وعلاقتها بانتشار المعلومات المضللة
تأثير الموافقة الاجتماعية على تصديق المستخدمين للمحتوى المنشور على تويتر
