في بيان لها، قالت شركة «ميتا» إن أحد نماذجها تمكن عن غير قصد من الوصول إلى الإنترنت بسبب «خطأ في التهيئة» حدث أثناء اختبارات الأمن السيبراني التي أجرتها شركة «إيرريجولار»، وهي شركة مستقلة تعاقدت معها «ميتا».
وفي أحدث سلسلة من الكشوفات المتعلقة بنماذج الذكاء الاصطناعي التي تخرج عن السيطرة، كشفت «ميتا» يوم الخميس أن أحد نماذجها اخترق شركة أخرى وتمكن من الوصول إلى الإنترنت من تلقاء نفسه.
وفي الأسابيع الأخيرة، أبلغت شركتا «أوبن إيه آي» و«أنثروبيك» أيضًا عن حالات تمكنت فيها نماذج الذكاء الاصطناعي من الوصول إلى شبكة الإنترنت والتحايل على أنظمة الأمان الرقمية لشركات أخرى من خلال تجاوز التعليمات البشرية.
وفي بيان لها، قالت شركة «ميتا» إن أحد نماذجها تمكن عن غير قصد من الوصول إلى الإنترنت بسبب «خطأ في التهيئة» حدث أثناء اختبار الأمن السيبراني الذي أجرته شركة «إيرريجولار»، وهي شركة مستقلة تعاقدت معها «ميتا».
وقالت الشركة: «استغل النموذج بعد ذلك ثغرة أمنية في خدمة تابعة لجهة خارجية، بطريقة مشابهة للحالات التي تم الإبلاغ عنها سابقًا مع شركات أخرى». وأوضحت «ميتا» أنها تحقق في الواقعة وستصدر تقريرًا بمجرد الانتهاء من التحقيق.
وقد تزايدت المخاوف بشأن نماذج الذكاء الاصطناعي التي تعمل بشكل مستقل نتيجة لهذا الكشف.
هذا الأسبوع، كشف معهد أمن الذكاء الاصطناعي (AISI) في المملكة المتحدة أنه اكتشف «سلوكًا غير مصرح به من قبل الوكلاء» أثناء إجراء اختبارات إلكترونية. وفي إحدى الحالات، استخدم أحد الوكلاء هويات وهمية على الإنترنت لإجبار شخص ما على الموافقة على استخدام شفرة خبيثة.
وصرح معهد AISI يوم الثلاثاء: «بعد إجراء تحقيق، اكتشفنا أن بعض الوكلاء الذين خضعوا للاختبار قد انخرطوا في أنشطة مستمرة ومحتملة الضرر موجهة ضد أشخاص ومنظمات حقيقية.» «لقد أبلغنا عن حادث أمني، وقمنا باحتوائه، وبدأنا تحقيقاً شاملاً بعد حوالي ساعة من اكتشافه.»
انخرطت نماذج «أنثروبيك» و«أوبن إيه آي» في «أعمال مستقلة وغير مصرح بها» عبر الإنترنت خلال الاختبارات التي أجرتها الوكالة. ووفقًا للوكالة، تم تعطيل بعض الإجراءات الوقائية ضد إساءة الاستخدام.
وصرحت وكالة AISI قائلةً: «لقد قمنا عمدًا بتعطيل مصنفات الأمن السيبراني الخاصة بمزودي النماذج وسمحنا بالوصول إلى الإنترنت، كما هو معتاد في اختباراتنا السيبرانية — وهي ظروف لا تعكس الطريقة التي تُتاح بها النماذج الرائدة للجمهور». «نقوم بذلك لتقييم القدرات القصوى للنماذج على أفضل وجه».
وأعربت شركة Anthropic عن «امتنانها» لعمل AISI، مشيرةً إلى أن ذلك يؤكد الحاجة إلى مناقشة أكثر شمولية حول كيفية تقييم وكلاء الذكاء الاصطناعي بأمان مع توسع قدراتهم.
ووفقًا لـ OpenAI، جرت أحداث AISI «في بيئات اختبار ذات إجراءات أمان مخففة، وفي ظل ظروف لا تعكس الاستخدام العادي». كما ذكرت أنها ستواصل التعاون مع الشركات الأخرى في هذا القطاع من أجل «تعزيز الممارسات المشتركة لإجراء التقييمات بأمان مع تزايد قدرات النماذج».
من أجل اختبار المهارات السيبرانية، أعلنت شركة «أوبن إيه آي» (OpenAI) — وهي أول شركة كشفت عن تعرضها للاختراق في أواخر الشهر الماضي — أنها كلفت نماذج الذكاء الاصطناعي المعنية بمهمة «الاستغلال المتقدم باستخدام مسارات هجوم معقدة». غير أن هذه التكنولوجيا وصلت إلى حدود متطرفة لم تكن في الحسبان. ويبدو أنها اتخذت قرارًا مستقلًا باستهداف «هوجينج فايس» (Hugging Face)، وهو سوق شهير ومركز لتطوير الذكاء الاصطناعي، من أجل جمع البيانات اللازمة لإكمال المهمة.
ووفقًا لممثل شركة Irregular المتخصصة في أمن الذكاء الاصطناعي ومقرها سان فرانسيسكو، فإن حادثة Meta مرتبطة بمشكلة في بيئة الاختبار كشفت عنها شركة Anthropic الأسبوع الماضي.
من أجل إجراء الاختبارات السيبرانية بأمان ومنع وقوع أحداث مماثلة في المستقبل، ذكرت شركة Irregular أنها تعمل على إعداد ورقة بحثية لمناقشة «أفضل الممارسات للاحتواء».