يستمر مسلسل الهجمات السيبرانية التي تقودها نماذج الذكاء الاصطناعي لكبرى المعامل وتحديدا أنثروبيك وأوبن إيه آي، وهذه المرة، اكتشف معهد أمن الذكاء الاصطناعي البريطاني أن نموذج “ميثوس” التابع لأنثروبيك ونموذج “جي بي تي 5.6 سول” التابع لـ”أوبن إيه آي” شنا مجموعة من الهجمات السيبرانية وفق تقرير شبكة “سي إن بي سي” الإخبارية.
ويصف المعهد ما حدث بأنها المرة الأولى التي نرى فيها مخاطر الاستقلالية والخداع تتجلى بوضوح في العالم الحقيقي.
وأوضح التقرير أن نموذج “ميثوس 5” ابتكر هويات مزيفة لخداع مطور بشري للموافقة ونشر شيفرات خبيثة في مكتبة برمجيات مفتوحة المصدر، ولكنه لم تنطل عليه الخدعة ورفض التعديلات، مضيفا أن النموذج كان جزءا من 17 نشاطا مريبا.
واقتصر دور نموذج “جي بي تي 5.6 سول” على نشاطين مريبين فقط مع تعطيل قيود الأمن السيبراني في النموذج، وفق ما جاء في بيان المعهد.
وفي سياق متصل، كشف تقرير وكالة “رويترز” عن آلية الاختبار التي تضمنت إجراء تحديات أمنية للنماذج أكثر من 120 مرة، ظهر فيها 19 نشاطا غير مصرح به خلال 10 جولات اختبارية منفصلة.
ومن جانبها، أفادت أنثروبيك أن النماذج المستخدمة في هذه الاختبارات تعبر عن أي نماذج تجارية متاحة من قبل الشركة لأنها كانت تعمل في بيئة اختبارية متساهلة عمدا، مضيفة أن الاختبارات لم تثبت قدرة النموذج على الهرب من البيئات الاختبارية وإحداث ضرر في الواقع، وذلك عبر منشور في منصة “إكس”.
وأما “أوبن إيه آي”، فأوضحت أن الحوادث المتعلقة بنموذجها برزت خلال الاختبارات السيبرانية من قِبَل شركائها الأمنيين، وكانت تجري في بيئات اختبارية تضم ضمانات مخففة ولا تعكس سيناريوهات الاستخدام الحقيقي، وذلك خلال تصريح لشبكة “سي إن بي سي”.
وتتزامن اختبارات معهد أمن الذكاء الاصطناعي البريطاني مع حوادث سابقة لهروب نماذج الذكاء الاصطناعي من بيئات أنثروبيك و”أوبن إيه آي” الاختبارية واختراقها مؤسسات حقيقية، ومن بينها منصة “هاغينغ فيس” وهي أولى تلك الحوادث.
تصاعد المخاوف
ويرى الباحث أندرو يون في مؤسسة “سيف إيه آي” غير الربحية للبحث في قدرات الذكاء الاصطناعي ومخاطره والتي تتخذ من ولاية كاليفورنيا مقرا لها، أن مجرد انخراط “ميثوس” في مثل هذه الأنشطة مع استهدافه لمستخدم حقيقي أمر مقلق ويشير إلى أن أنثروبيك لا تسيطر على النموذج كما تظن.
وأعرب المعهد عن مخاوف مماثلة، إذ قال عبر منشور في منصة “إكس” إن هذه الحوادث حتى وإن كانت في بيئات اختبارية فهي تشير إلى قدرة الذكاء الاصطناعي على الخداع والتصرف بمفرده.
المصدر: الجزيرة