ماذا حدث؟
كشفت شركتا أوبن إيه آي وأنثروبيك أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات دون علم أو إشراف مطوريها.
شنت هذه النماذج المصممة أصلا للاختراق سلسلة هجمات إلكترونية بعد إخراجها من بيئة الاختبار بدءا من شهر أبريل ولم يلاحظ المطورون عمليات الاختراق حتى الأسبوع الماضي.
كشفت أوبن إيه آي عن اختراق شركة هاغينغ فايس في يوليو بينما أعلنت أنثروبيك رصدها ثلاثة اختراقات نفذتها نماذج كلود التابعة لها.
أرجعت أنثروبيك السبب إلى غياب التفاهم مع شريك لها أثناء اختبارات كان يفترض أن تكون منفصلة عن شبكة الإنترنت لكن العكس حدث فأدى إلى المشكلة.
وصف سام ألتمان الرئيس التنفيذي لأوبن إيه آي الحادث بأنه أول حادث أمني يشعر به بشكل عميق للغاية معتبرا إياه حادثا إلكترونيا خياليا للغاية.
لماذا هذا مهم؟
أثار الكشف استياء واسعا بين المشرعين الذين استشهدوا به للمطالبة بلوائح وأنظمة اختبار جديدة كما مثل لحظة فارقة لبعض موظفي المختبرات المسؤولة عن تطوير هذه النماذج.
أعلن البيت الأبيض وضع إطار عمل يحدد النماذج التي ستخضع لمراجعة الحكومة الفيدرالية قبل نشرها للعموم في مؤشر على تشديد الرقابة على الذكاء الاصطناعي.
قال جوشوا ساكس كبير مسؤولي التكنولوجيا في شركة متخصصة في أمن الذكاء الاصطناعي إن هذه الحوادث من المرجح أن تعتبر نقاط تحول في أساليب عمل المهاجمين وإن الوضع خطير للغاية.
أكد باحثون في جامعة ستانفورد أن الذكاء الاصطناعي يتحسن كثيرا في مجال الاختراق بعدما أظهروا سابقا نماذج تحقق مستويات قريبة من الاختراق البشري على شبكات حقيقية.
أوضح خبراء أن قراصنة الذكاء الاصطناعي يتعمقون أكثر ويتوسعون أكثر ويكونون أكثر تعقيدا وكثافة من البشر مما يزيد صعوبة التصدي لهم.
ماذا بعد؟
تزيد هذه الاختراقات من الضغط على الإدارة الأميركية لاتخاذ مزيد من الخطوات لمعالجة المخاطر الأمنية التي يشكلها الذكاء الاصطناعي.
لا تزال المناقشات جارية مع الشركات حول كيفية المضي قدما في الاختبارات الطوعية لضمان عدم تكرار خروج النماذج عن السيطرة.
قد تضطر فرق الأمن التقليدية إلى مواكبة التطورات السريعة في مجال الذكاء الاصطناعي وإلا فإنها ستتخلف عن الركب في مواجهة هذا النوع الجديد من التهديدات.
