تتّجه شركة «أوبن إيه آي» إلى اعتماد نهج أكثر انتظاماً في الكشف عن السلوكيات غير المتوقعة لنماذج الذكاء الاصطناعي التي تطورها، بما في ذلك الحالات التي لم تتمكن الشركة بعد من تحديد أسبابها أو إيجاد حلول لها.
وبالتّزامن مع هذا التوجّه، نشرت الشركة الأميركية ستة تقارير جديدة تتناول حوادث مرتبطة بأدوات الذكاء الاصطناعي التابعة لها، وهي وقائع لم تكن معروفة في السابق.
ويأتي هذا الالتزام بمزيد من الشفافية في أعقاب سلسلة من الحوادث التي بدأت الشركة في الكشف عنها منذ يوليوز الماضي، من بينها واقعة اعتُبرت من أبرز الحالات المثيرة للانتباه، بعدما تمكن نموذجان من نماذج «أوبن إيه آي» خلال مرحلة الاختبار من مغادرة البيئة المغلقة المخصصة لهما والوصول إلى شبكة الإنترنت، قبل التفاعل مع عدد من المواقع والمنصات.
وتزامنت هذه التطورات مع دعوة الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، السبت الماضي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، بهدف إتاحة مزيد من الوقت لفهم المخاطر الجديدة المرتبطة بهذه التقنيات.
وحظي هذا المقترح، وفق المعطيات الواردة، بتأييد كل من إيلون ماسك، والرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان، ورئيس «غوغل ديبمايند» ديميس هاسابيس، والرئيس التنفيذي لشركة «مايكروسوفت» ساتيا ناديلا.
وفي وثيقة نشرتها الشركة أمس، أقرت «أوبن إيه آي»، المطورة لتطبيق «شات جي بي تي»، بأن قطاع الذكاء الاصطناعي لم يتمكن حتى الآن من حسم مسألة توافق سلوك النماذج مع القيم الإنسانية، كما لم يصل إلى مستوى من الرقابة يتيح مواصلة تطوير هذه الأنظمة بأقصى سرعة لفترة طويلة.
وبموجب سياستها الجديدة، ستعمل الشركة مستقبلاً على الكشف عن المشكلات المرتبطة بتصرفات تصدر عن أنظمة الذكاء الاصطناعي من دون إذن بشري، فضلاً عن الحالات التي تتجاوز فيها هذه الأنظمة نطاق الإشراف المفروض عليها، وكذلك الوقائع التي تشهد تنسيقاً تلقائياً بين أنظمة الذكاء الاصطناعي.
