ماذا حدث؟
وصلت دراسات مختلقة ومراجع علمية لا وجود لها إلى لجان البرلمان الأسترالي بعدما استخدم أفراد ومؤسسات أدوات الذكاء الاصطناعي في إعداد مذكرات يفترض أن تساعد النواب في صياغة السياسات والتشريعات.
كشف تحليل أجرته الغارديان أستراليا أن تسعا وثلاثين مذكرة على الأقل مقدمة إلى تحقيقات برلمانية تضمنت مراجع تبدو مولدة أو مشوهة بواسطة الذكاء الاصطناعي وفي بعض الحالات استشهدت تقارير اللجان بمذكرات كانت غالبية المصادر المدرجة فيها غير موجودة أصلا.
يحذر خبراء من أن استمرار الظاهرة قد يقود البرلمانيين إلى اتخاذ قرارات استنادا إلى أدلة لم توجد قط.
من أبرز الأمثلة مذكرة قدمت إلى تحقيق بشأن العنف الأسري والانتحار وتضمنت دراسة نسبت إلى ديفنا هاسلام أستاذة علم النفس الإكلينيكي في جامعة كوينزلاند بدا المرجع أكاديميا ومتكاملا لكنه كان مختلقا كما نسبت المذكرة إلى فريق هاسلام نتائج لا تعكس أبحاثه الحقيقية.
قالت الباحثة إن المرجع كان مخيفا لأنه صيغ بطريقة قد تقنع أي شخص يكتفي بمراجعته سريعا.
اعترفت الجهة التي أعدت المذكرة وهي دريل داون ريبورتس باستخدام الذكاء الاصطناعي في عملية البحث وقالت إنها اكتشفت الأخطاء وأعدت نسخة مصححة لكن مهلة تعديل الوثيقة الأصلية كانت قد انتهت وعزت بقاء الأخطاء إلى إخفاق بشري في رفع الملف الصحيح.
في حالة أخرى تضمنت مذكرة عن عدم المساواة في الإسكان إحالات إلى أبحاث مزعومة لنيكول غوران أستاذة التخطيط الحضري في جامعة سيدني لكنها لم تكتبها كما ورد في مذكرة إلى تحقيق بمجلس الشيوخ حول المعلومات المناخية المضللة مقال منسوب إلى الصحفية والأكاديمية مارغريت سيمونز وقالت سيمونز إنها لم تكتب المقال رغم أن المرجع صيغ بدقة جعلتها تتساءل للحظة عما إذا كانت قد نسيته.
لماذا هذا مهم؟
لم يعتمد تحقيق الغارديان على برامج كشف النصوص المولدة آليا بسبب احتمال وقوعها في نتائج خاطئة وبنى فريق الصحيفة برنامجا استخرج المراجع من مذكرات التحقيقات البرلمانية الحالية ثم بحث عنها في قاعدة كروس ريف للأبحاث والكتب وغوغل سكولار وفحص معرفات الوثائق الرقمية.
خضعت المذكرات التي تعذر العثور على عشرين بالمئة أو أكثر من مصادرها لمراجعة بشرية قبل التواصل مع عدد من أصحابها للتحقق من النتائج ووجد الفريق تسعا وثلاثين مذكرة على الأقل تحتوي على مراجع مختلقة أو غير دقيقة بينها وثائق لم يكن لأي مصدر مدرج فيها وجود.
تزداد المشكلة خطورة عندما تتحول المذكرة البرلمانية إلى مصدر مفتوح على الإنترنت ففي حالة الدراسة المنسوبة إلى هاسلام قدم ملخص غوغل المدعوم بالذكاء الاصطناعي وصفا للبحث الوهمي كما لو كان حقيقيا مستندا إلى الوثيقة التي احتوت على المرجع المختلق.
هكذا تنشأ حلقة تضليل يخترع الذكاء الاصطناعي دراسة فتدخل إلى وثيقة برلمانية ثم تعود محركات البحث إلى الوثيقة لتقديم الدراسة دليلا على صحة وجودها.
لا يعني قبول مذكرة أو الاستشهاد بها أن البرلمان تبنى جميع ما ورد فيها لكن مرور المراجع من دون تدقيق قد يؤثر في التوصيات الحكومية أو توزيع التمويل أو صياغة التشريعات.
تحمل إرشادات مجلس الشيوخ الأسترالي مقدم المذكرة مسؤولية دقة المعلومات محذرة من مخاطر استخدام الذكاء الاصطناعي.
ماذا بعد؟
قالت أوبن إيه آي للصحيفة إن المستخدمين ينبغي أن يتعاملوا مع تشات جي بي تي باعتباره مسودة أولى لا مصدرا نهائيا وأن يتحققوا من الاقتباسات والأرقام والمراجع.
المشكلة لا تبدأ عندما يساعد الذكاء الاصطناعي في كتابة مذكرة بل عندما تنتقل المذكرة إلى البرلمان من دون أن يفتح أحد الدراسة التي تزعم الاستناد إليها.
من المتوقع أن تدفع هذه الاكتشافات اللجان البرلمانية إلى تشديد آليات التحقق من المراجع والمصادر قبل الاستناد إليها في التقارير والتوصيات التشريعية.
