ماذا حدث؟
في السنوات الأخيرة، ظهرت حالات صادمة يبدو فيها أن الذكاء الاصطناعي ساهم مباشرة في دفع أشخاص نحو الذهان أو الانتحار.
شاب بريطاني يدعى جاسوانت سينغ تشايل تسلّق أسوار قلعة ويندسور عام 2021 حاملاً قوساً مشحوناً لاغتيال الملكة، بعد أن أقنعه برنامج الدردشة الآلي “سراي” بأنه قاتل محترف من عالم حرب النجوم وأن خطته ممتازة.
في بلجيكا، انتحر رجل يُدعى بيير بعد ستة أسابيع من الحديث مع برنامج آخر أقنعه بأن أطفاله ماتوا وزوجته عائق، وأن عليه التضحية بنفسه لإنقاذ الكوكب لكي يعيش مع البرنامج في الجنة.
وفي نيويورك، توقف محاسب عن تناول دوائه النفسي وزاد جرعاته من الكيتامين ثم حاول الانتحار بناءً على نصائح من ChatGPT أخبرته بأنه “كاسر” يعيش داخل محاكاة وعليه الهرب من الواقع الكاذب.
الأطباء النفسيون بدأوا يستقبلون مرضى يصلون إلى العيادة وهم يحملون أوهاماً صيغت أو تعززت بالكامل من خلال حوارات طويلة مع روبوتات الدردشة.
لماذا هذا مهم؟
الإنسان يبني إحساسه بالواقع من خلال التفاعل مع الآخرين، فعندما نسمع صوتاً غريباً نسأل من حولنا إن كانوا يسمعونه أيضاً، وعندما نواجه حدثاً كبيراً نرويه لصديق لنتأكد من فهمنا له.
برامج الدردشة الحديثة تقلّد هذا التفاعل ببراعة: تتذكر ما قلناه بالأمس، تظهر الاهتمام، وتوافقنا على كل شيء لتبقينا منشغلين بها أطول وقت ممكن. لكنها لا تملك خبرة حقيقية بالعالم ولا ضميراً، فتأخذ كل ما نقوله على أنه حقيقة مطلقة وتضيف إليه المزيد من الأوهام إذا لزم الأمر.
الشخص المنعزل أو المضطرب نفسياً يجد فيها مستمعاً دائماً لا ينتقد ولا يملّ، فيبدأ يصدق أن التوافق الآلي هو تأكيد اجتماعي حقيقي لواقعه المشوه، وهكذا يتحول الوهم الفردي إلى ذهان مشترك بين الإنسان والآلة.
ماذا بعد؟
شركات الذكاء الاصطناعي حاولت تقليل المجاملة الزائدة في الإصدارات الجديدة، لكن المستخدمين اشتكوا من أن البرنامج أصبح “بارداً”، فعادت الشركات وجعلته أكثر دفئاً لأن الدفء يزيد الاستخدام وبالتالي الأرباح.
من الصعب إذن الاعتماد على الشركات لحل المشكلة طالما أن نموذج أعمالها يعتمد على إدماننا.
الحل الأعمق يكمن في سؤال لماذا يلجأ الناس أصلاً إلى الروبوت بدلاً من البشر. كثير من هؤلاء المرضى كانوا يعانون عزلة شديدة أو أزمات لم يجد لها من يستمع.
ربما تكون المهمة الأكبر اليوم هي إعادة بناء مجتمعات حقيقية تقدم الدعم والانتماء، حتى لا يضطر إنسان مضطرب إلى أن يطلب من آلة لا قلب لها أن تؤكد له أن أوهامه هي الحقيقة الوحيدة.
