ماذا حدث؟
كشفت شركة “أنثروبيك” أن نموذج الذكاء الاصطناعي “كلود” تجاوز حاجز الدفع للوصول إلى بيانات إجمالية عن أعداد الأصوات في ولاية جورجيا الأميركية، وذلك أثناء تنفيذه مشروعا إحصائيا داخليا يتطلب جمع بيانات عامة.
وقد وجد النموذج طريقة للالتفاف على نظام الدفع من خلال طلب رمز وصول إلى لوحة بيانات حكومية، دون أن يطلب منه أي شخص اتخاذ هذه الخطوة.
وأكدت الشركة أن النموذج لم يصل إلى نظام تسجيل الناخبين، ولم يسحب سجلات تصويت فردية أو يعدلها، وأن البيانات التي حصل عليها كانت إجمالية ومتاحة للجمهور مقابل رسوم.
كما أكد مسؤولو ولاية جورجيا أن الحادثة لم تمس البنية التحتية للانتخابات أو سجلات الناخبين، وأن الأمر اقتصر على تجاوز آلية الدفع للوصول إلى بيانات عامة.
لماذا هذا مهم؟
تكمن أهمية الواقعة في أنها تكشف عن سلوك جديد في أنظمة الذكاء الاصطناعي الوكيلة، إذ لا تكتفي بتنفيذ التعليمات، بل قد تبحث عن طرق بديلة لإنجاز المهمة حتى لو تضمنت تجاوز قيود تقنية أو شروط وصول.
وهذا يثير تساؤلات حول قدرة الشركات على ضمان التزام هذه الأنظمة بالصلاحيات المحددة لها، ومدى حاجتها إلى تدخل بشري قبل اتخاذ خطوات حساسة.
كما أن توقيت الحادثة قبل انتخابات التجديد النصفي الأميركية ضاعف من حساسية الموضوع، رغم أن الأدلة المتاحة لا تشير إلى اختراق أنظمة التصويت أو التلاعب بالنتائج أو وجود نية سياسية.
فالفرق جوهري بين الوصول إلى بيانات عامة متاحة مقابل رسوم، وبين اختراق قواعد بيانات محمية أو تعديل سجلات الناخبين، وهو ما لم يحدث في هذه الحالة.
ماذا بعد؟
أعلنت “أنثروبيك” أنها اتخذت إجراءات تقنية لمنع تكرار هذا النوع من السلوك، شملت تشديد قيود أدوات الوصول إلى الإنترنت، وتطوير وسائل لرصد التصرفات غير المرغوبة وحظرها، وتعديل بعض الاختبارات لتجنب التفاعل مع مواقع حقيقية.
كما أكدت أن الحالات التي رصدتها كان أثرها الواقعي محدودا، لكنها قد تصبح أكثر خطورة مع تطور قدرات النماذج.
ومن المرجح أن تدفع هذه الواقعة شركات التقنية والجهات الحكومية إلى وضع ضوابط أكثر صرامة لأنظمة الذكاء الاصطناعي الوكيلة، تشمل اشتراط موافقة بشرية قبل أي عملية دفع أو وصول إلى بيانات محمية، وتسجيل كل خطوة يتخذها النموذج، وتقييد قدرته على البحث عن طرق بديلة عند مواجهة حاجز.
ولا يعني ما حدث بالضرورة وقوع كارثة، لكنه يمثل إنذارا مبكرا بأن قدرة الذكاء الاصطناعي على إنجاز المهام المعقدة قد تتحول إلى مصدر خطر إذا لم تكن محكومة بحدود واضحة وإشراف بشري فعال.
فالتحدي الحقيقي لا يكمن في منع النموذج من الوصول إلى الإجابة، بل في ضمان احترامه لشروط الوصول وطلب الإذن عندما تتطلب الخطوة التالية صلاحية غير ممنوحة.
