فتحت لجنة التجارة الفيدرالية تحقيقًا ضد شركة الذكاء الاصطناعي أوبن إيه آي، التي طورت روبوت المحادثة شات جي بي تي، حول ما إذا كان الروبوت قد أضر بالمستخدمين من خلال جمعه للبيانات ونشره لمعلومات كاذبة عن الأفراد.
ويمثل التحرك ضد أوبن إيه آي ومقرها سان فرانسيسكو، أقوى تهديد تنظيمي حتى الآن للشركة التي أثارت تحركات كبيرة في الذكاء الاصطناعي التوليدي مؤخرًا، وسببت المخاوف بشأن مخاطرها المحتملة، وفقًا للتقرير التي نشرته صحيفة ذات واشنطن بوست عن تفاصيل التحقيق.
كيفية معالجة أوبن إيه آي للمخاطر
وأرسلت لجنة التجارة الفيدرالية خطابًا من 20 صفحة إلى الشركة، يضم عشرات الأسئلة حول كيفية معالجة أوبن إيه آي للمخاطر الُمتعلقة بنماذج الذكاء الاصطناعي الخاصة بها. كما تُحقق الوكالة فيما إذا كانت الشركة قد تورطت في ممارسات غير عادلة أو خادعة أدت إلى الإضرار بسمعة المستهلكين.
وتتعلق بعض الأسئلة بالخطوات التي اتخذتها أوبن إيه آي، للتصدي لإمكانية قيام منتجاتها "بتوليد بيانات زائفة أو مضللة أو مهينة عن أفراد حقيقيين".
مصادر بيانات الذكاء الاصطناعي
وطلبت اللجنة من الشركة الكشف عن البيانات التي استخدمتها لتدريب نماذج اللغات الكبيرة التي تدعم منتجات مثل شات جي بي تي.
وطالبت لجنة التجارة الفيدرالية بمعرفة ما إذا كانت الشركة قد حصلت على البيانات من الإنترنت مباشرةً - عبر عملية تُعرف باسم "الكشط" - أو عن طريق شرائها من أطراف ثالثة. كما استفسرت عن أسماء المصادر التي تم أخذ البيانات منها، وكذلك أي خطوات يتم اتخاذها لمنع تضمين المعلومات الشخصية في بيانات التدريب.
مؤسس أوبن إيه آي يرد على نشر التحقيق
وبعد نشر نتائج التحقيق غرد مؤسس شركة أوبن إيه آي، سام ألتمان، بخيبة أمل من الكشف عن التحقيق، مشيرًا إلى أن هذه الخطوة "لن تساعد في بناء الثقة" ، لكنه أضاف أن الشركة ستعمل مع لجنة التجارة الفيدرالية.
وكتب سام ألتمان في حسابه على تويتر "من المهم جدًا بالنسبة لنا أن تكون التكنولوجيا الخارجية آمنة ومؤيدة للمستهلك، ونحن على ثقة من أننا نتبع القانون"، مضيفًا "نحن نحمي خصوصية المستخدم ونصمم أنظمتنا للتعرف على العالم، وليس الأفراد".
وأكمل "لقد أنشأنا شات جي بي تي بعد سنوات من أبحاث السلامة وقضينا أكثر من 6 أشهر بعد الانتهاء من التدريب الأولي، مما يجعله أكثر أمانًا وتوافقًا قبل إطلاقه. نحن نحمي خصوصية المستخدم ونصمم أنظمتنا للتعرف على العالم، وليس الأفراد".
وأوضح "نحن نتحلى بالشفافية بشأن قيود تقنيتنا، خاصةً عندما نقصر. وهيكلتنا للأرباح ذات الحد الأقصى يعني أننا لسنا محفزين لتحقيق عوائد غير محدودة".
تحركات قضائية ضد أوبن إيه آي
وتأتي هذه الخطوة مع تحركات قضايا أخرى ضد أوبن إيه آي، من قبل مشاهير أشاروا إلى أن شركة الذكاء الاصطناعي تروج لمزاعم مضللة وزائفة عنهم.
وكانت الممثلة الكوميدية الأميركية سارة سيلفرمان انضمت إلى دعوى قضائية جماعية ضد شركة أوبن إيه آي مع المؤلفين كريستوفر جولدن وريتشارد كادري، بسبب انتهاك حقوق النشر.
وفي أحد الأمثلة سيئة السمعة، اتهم شات جي بي تي أستاذ قانون أميركي زورًا بالتحرش الجنسي، واستشهد بمقال غير موجود في صحيفة ذا واشنطن بوست في هذه العملية. كما أنتجت تشات جي بي تي ادّعاءات زائفة بشأن رئيس بلدية أسترالي، زُعم أنه ذهب إلى السجن بتهمة الرشوة، حسب صحيفة ذا نيويورك تايمز.
تنظيم الذكاء الاصطناعي
مع تسارع الأحداث والمطالبة بتطوير خدمات الذكاء الاصطناعي، يتزايد التدقيق التنظيمي للتكنولوجيا التي يمكن أن تقلب الطريقة التي تعمل بها المجتمعات والشركات.
وتهدف الجهات التنظيمية العالمية إلى تطبيق القواعد الحالية التي تغطي كل شيء بدءًا من حقوق النشر وخصوصية البيانات إلى مسألتين رئيسيتين وهما: البيانات التي يتم إدخالها في النماذج والمحتوى الذي تنتجه.
وسبق ودعا رئيس الوزراء بريطانيا ريشي سوناك، إلى عقد قمة عالمية حول السلامة في مجال الذكاء الاصطناعي في الخريف.
ودعا زعيم الأغلبية في مجلس الشيوخ الأميركي، تشاك شومر، إلى تشريع شامل للنهوض بالضمانات المتعلقة بالذكاء الاصطناعي وضمانها، وسيعقد سلسلة من المنتديات في وقت لاحق من هذا العام بخصوص الأمر.
وكانت شركة أوبن إيه آي تعرضت بالفعل لضغوط تنظيمية على المستوى الدولي، وفي مارس/آذار الفائت، حظرت هيئة حماية البيانات الإيطالية شات جي بي تي، قائلة إن أوبن إيه آي قامت بجمع بيانات شخصية بشكل غير قانوني من المستخدمين ولم يكن لديها نظام للتحقق من العمر لمنع تعرض القاصرين لمواد غير مشروعة. وأعادت شركة أوبن إيه آي الوصول إلى النظام في الشهر التالي، قائلة إنها أجرت التغييرات التي طلبتها السلطة الإيطالية.
المصادر:
اقرأ/ي أيضًا
باحثون من كامبريدج يطورون اختبارًا لقياس قابلية تصديق المعلومات المضللة
دراسة: الذكاء الاصطناعي ينتج معلومات مضللة قد تكون أكثر إقناعًا من التي يكتبها البشر
