ماذا حدث؟
تتزايد المخاوف من مخاطر الذكاء الاصطناعي مع تنامي استخدام نماذجه في مجالات حساسة بينها علوم الأحياء وسط تحذيرات من إمكانية توظيف هذه التكنولوجيا في أبحاث قد تسهم في تطوير أسلحة بيولوجية خطرة.
كشفت شركة أنثروبيك أنها أحبطت خمس حالات محتملة لاستخدام نماذجها في أنشطة يمكن أن تدعم تطوير أسلحة بيولوجية وفق تقييم للتهديدات شمل وقائع رصدتها الشركة بين ديسمبر وأغسطس وفق موقع أكسيوس.
في حالتين من الحالات الخمس حاول باحثون استخدام نموذج كلود للحصول على مساعدة في أبحاث تتعلق بتعديل خصائص فيروسات خطرة وهي أبحاث يمكن أن تستخدم لأغراض علمية مشروعة لكنها تحمل في الوقت نفسه مخاطر كبيرة إذا أسيء استخدامها.
قالت الشركة إن هذه الحالات لا تعني وجود تهديد بيولوجي وشيك ناجم عن نموذج كلود لكنها تكشف عن جهود بحثية متقدمة مرتبطة بجهات تثير مخاوف أمنية قادرة على التحايل على ضوابط الوصول.
أضافت أن مواجهة إساءة استخدام الذكاء الاصطناعي في هذا المجال تتطلب وسائل أفضل للتحقق من هوية المستخدمين وطبيعة المؤسسات التي ينتمون إليها إلى جانب أدوات لرصد الاستخدامات المشبوهة.
في أغسطس الماضي أفاد فريق بحثي من جامعة ستانفورد باستخدام نوع من الذكاء الاصطناعي التوليدي لتصميم فيروس اصطناعي في خطوة أثارت نقاشا واسعا بشأن حدود استخدام التكنولوجيا في الأبحاث البيولوجية.
أظهر استطلاع شمل أكثر من مئة خبير في الأمن القومي أجراه معهد الأمن والتكنولوجيا هذا الشهر أن سبعين بالمئة منهم يرون أن الذكاء الاصطناعي يزيد بشكل ملموس مخاطر تطوير أسلحة بيولوجية أو قد يفعل ذلك خلال العامين أو الأعوام الثلاثة المقبلة.
لماذا هذا مهم؟
يرى الخبراء أن أحد أبرز مصادر القلق يتمثل في قدرة الذكاء الاصطناعي على خفض الحواجز أمام جهات تفتقر إلى الخبرة اللازمة لتنفيذ عمليات بحثية معقدة فيما تتركز المخاوف الرئيسية على احتمال تطوير قدرات بيولوجية قادرة على التسبب في أوبئة واسعة النطاق.
حذر باحثون من جامعات فوردهم وجونز هوبكنز وأوكسفورد وستانفورد وكولومبيا ونيويورك في دراسة نشرت في وقت سابق من العام من أن التطور السريع للذكاء الاصطناعي يفرض تحديات جديدة على أنظمة السلامة البيولوجية القائمة.
أشار الباحثون إلى أن بعض النماذج باتت تمتلك قدرات يمكن توظيفها في مجالات بحثية حساسة بينما لا تخضع جميع النماذج الجديدة لتقييمات كافية للمخاطر قبل إطلاقها.
تمتد المخاوف إلى تطوير أنظمة قادرة على التخطيط وتنفيذ المهام بشكل مستقل إذ يرى بعض الخبراء أن استخدام الذكاء الاصطناعي في أبحاث علمية محددة ضمن أنظمة ذات نطاق واضح قد يكون أكثر أمانا من تطوير وكلاء قادرين على اتخاذ خطوات متتابعة وتنفيذ مهام من دون رقابة بشرية مستمرة.
يأتي ذلك في وقت يعيد فيه الذكاء الاصطناعي تشكيل قطاع علوم الحياة بسرعة مما يضع القوانين والجهات الحكومية المسؤولة عن مراقبة الأبحاث عالية الخطورة أمام تحديات جديدة.
ماذا بعد؟
يطالب خبراء بشكل متزايد بأن تتعامل الحكومات مع نماذج الذكاء الاصطناعي المتقدمة باعتبارها تقنيات حساسة وأن تضع معايير واضحة للسلامة بدلا من الاعتماد بصورة أساسية على المشاورات الطوعية بين شركات الذكاء الاصطناعي والمسؤولين الحكوميين.
من بين الجهات التي يمكن أن تضطلع بدور في هذه العملية مركز معايير وابتكار الذكاء الاصطناعي التابع لوزارة التجارة الأميركية الذي أنشئ للمساعدة في تطوير المعايير الوطنية المتعلقة بهذه التكنولوجيا.
من المتوقع أن تتواصل الجهود لتعزيز التحقق من هوية المستخدمين ورصد الاستخدامات المشبوهة مع استمرار النقاش حول حدود الأبحاث البيولوجية المدعومة بالذكاء الاصطناعي.
