وعدت شركة “أوبن إي آي” بالإفصاح بشكل أكثر منهجية عن انحرافات نماذجها القائمة على الذكاء الاصطناعي، حتى عندما لا تكون قد تمكنت بعد من تفسيرها أو معالجتها.
وبالموازاة مع هذا التعهد، نشرت الشركة في كاليفورنيا ستة تقارير جديدة تتعلق بتجاوزات لأدواتها العاملة بالذكاء الاصطناعي لم تكن معروفة حتى الآن.
ويأتي هذا التعهد بالشفافية عقب سلسلة من الحوادث داخل الشركة، أعلن عنها تباعا منذ يوليوز الماضي.
وأخطر هذه الحوادث خروج اثنين من نماذج “أوبن إي آي”، في مرحلة الاختبار من تلقائهما من بيئتهما المغلقة إلى الإنترنت، واختراقهما مواقع ومنصات عدة.
وكان الرئيس التنفيذي لشركة “أنثروبيك”، داريو أمودي، قد دعا، يوم السبت الماضي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي من أجل إتاحة فهم أفضل للمخاطر الجديدة التي ينطوي عليها.
وأي د اقتراحه كل من إيلون ماسك، والرئيس التنفيذي لشركة “أوبن إي آي” سام ألتمان، ورئيس “غوغل ديبمايند” ديميس هاسابيس، والرئيس التنفيذي لمجموعة “مايكروسوفت” ساتيا ناديلا.
ونبهت “أوبن إي آي”، مالكة تطبيق “شات جي بي تي”، في الوثيقة المنشورة أمس إلى أن القطاع لم “يحل بعد مسألة توافق النماذج مع القيم الإنسانية ومسألة الرقابة على مستوى كاف يتيح مواصلة تطوير الذكاء الاصطناعي بأقصى سرعة لفترة طويلة”.
وستعلن الشركة من الآن فصاعدا عن المشكلات المتعلقة بالأفعال الصادرة عن الذكاء الاصطناعي من دون إذن بشري، وبالخروج عن نطاق الإشراف، وبالتنسيق التلقائي بين أنظمة الذكاء الاصطناعي.
المصدر: الصحيفة