ماذا حدث؟
لم يطلب الباحثون من وكلاء الذكاء الاصطناعي ابتكار لغة جديدة لكنهم لاحظوا أن بعض النماذج بدأت تحت ضغط الوقت تطوير رموز ومفردات مختصرة للتواصل فيما بينها حتى أصبحت الرسائل أكثر كفاءة وأقل قابلية للفهم لدى البشر.
لا تعني النتائج أن الآلات قررت التآمر أو إخفاء نياتها عن مراقبيها فاللغة الجديدة ظهرت داخل تجربة مختبرية مصممة لدفع الوكلاء إلى تبادل المعلومات بسرعة لكنها تثير سؤالا عمليا حول كيفية مراقبة أنظمة نتلقى سجلات محادثاتها دون أن نفهم ما تقوله.
عرض باحثون من جامعة تكساس في أوستن وجامعة إدنبرة وجهات أخرى في ورقة أولية نشرت في الأول من سبتمبر منصة تجريبية باسم غلوسو جين هدفها دراسة تطور اللغة بين وكلاء الذكاء الاصطناعي.
صمم الفريق سيناريو خياليا يحمل اسم سيف فايرو يحاكي حالة طوارئ طبية وفيه يراقب وكيل ميداني حالة كائن فضائي مريض بينما يمتلك وكيل آخر متخصص المعلومات اللازمة لاختيار العلاج لكن أيا منهما لا يستطيع إنقاذ الكائن بمفرده.
كان على الوكيل الأول وصف الأعراض وعلى الثاني تحديد العلاج وإرسال التعليمات ولزيادة الضغط جعل الباحثون لكل حرف في الرسالة كلفة زمنية ما دفع الوكلاء إلى البحث عن وسائل أسرع لتبادل المعلومات.
وجد الباحثون أنه عندما كان الوقت متاحا واصلت النماذج التواصل باللغة الإنجليزية لكن عند تقليص الوقت بدأت بعض النماذج الأقوى تطوير رموز وتراكيب مختصرة تختلف عن اللغة الأصلية.
لم تكن الرسائل مجرد حروف مبعثرة بحسب الدراسة إذ تمكن الوكلاء من استخدام قواعد منتظمة لتركيب الرموز وفهم معان جديدة لم تظهر سابقا في المحادثات.
سجل الباحثون في ظروف الضغط المرتفع زيادة بنحو أربعمئة وثلاثين بالمئة في مقياس يرصد ابتعاد النصوص عن أنماط الإنجليزية المعتادة مقارنة بالحالات التي لم تواجه قيودا زمنية مشددة.
أظهرت التجربة أن النماذج الأقوى كانت أكثر قدرة على ابتكار أنماط التواصل الجديدة بينما لم تنجح نماذج أقل قوة في تطوير لغة خاصة بها ومع ذلك تمكنت بعض النماذج الأضعف من تعلم اللغة بعد ظهورها من خلال مراقبة استخدامها.
لماذا هذا مهم؟
تكمن المشكلة في أن تسجيل المحادثات لا يضمن القدرة على فهمها فإذا اعتمدت المؤسسات مستقبلا على مجموعات من الوكلاء لتنفيذ مهام في البرمجة أو البحث أو إدارة الأنظمة فقد تكون جميع الرسائل محفوظة أمام المراقبين بينما تظل دلالاتها صعبة التفسير.
أشار الباحثون إلى أن اللغة الناشئة قابلة للتحليل والتعلم لكنها قد تفرض تحديات كبيرة على المراقبة البشرية والآلية خصوصا عندما لا يمتلك المراقب كل المعلومات المتعلقة بالبيئة التي يعمل فيها الوكلاء.
التجربة لا تثبت أن الذكاء الاصطناعي يحاول عمدا إخفاء سلوكه فالاختصارات ظهرت بسبب حافز واضح هو تقليل كلفة التواصل وإنجاز المهمة في الوقت المحدد وليس نتيجة توجيه بالتضليل.
كان وجود مرحلة لمراجعة التجربة عاملا أساسيا إذ ناقش الوكلاء ما حدث في الجولة السابقة واتفقوا على طرق أكثر اختصارا ما ساعد على تثبيت المفردات الجديدة وانتقالها إلى الجولات التالية.
تكشف النتائج مفارقة مهمة فعندما نجعل التواصل بين الآلات أسرع وأكثر كفاءة قد يصبح في الوقت نفسه أقل وضوحا للبشر المكلفين بمراقبته.
تبقى النتائج محصورة في بيئة تجريبية وورقة بحثية أولية ولا تعني أن المساعدات الرقمية المستخدمة يوميا تطور لغات سرية تلقائيا.
ماذا بعد؟
من المتوقع أن تتواصل الأبحاث لاختبار قابلية تفسير هذه الرموز الناشئة وتطوير أدوات مراقبة تفهم أنماط التواصل بين الوكلاء وليس فقط تسجيل النصوص.
قد تحتاج المؤسسات التي تعتمد على أنظمة متعددة الوكلاء إلى ضوابط تحد من ضغط الكفاءة على حساب الوضوح البشري.
يظل السؤال مفتوحا حول كيفية الإبقاء على شفافية كافية حين تتعلم الآلات اختصار رسائلها بطرق لم يصممها البشر مسبقا.
