في خطوة حاسمة تهدف إلى معالجة أزمة عالمية متصاعدة، أعلنت شركة «إكس إيه آي» اليوم (الخميس) عن قرار صارم يقضي بحظر توليد الصور الفاضحة تمامًا لجميع المستخدمين عبر روبوت الذكاء الاصطناعي «غروك». يأتي هذا القرار بعد موجة واسعة من الفضائح التي هزت منصة «إكس» وأثارت انتقادات حادة من منظمات حقوقية وحكومات حول العالم.
وأوضحت الشركة أن الحظر يشمل جميع النسخ المدفوعة والمجانية من «غروك»، ويمنع الروبوت من توليد أي محتوى فاضح في الأماكن التي يخالف فيها القانون. جاء هذا الإجراء بعد أن استغل بعض المستخدمين قدرات «غروك» لتوليد صور عنيفة وفاضحة لشخصيات عامة وحتى للأطفال، مما أثار مخاوف جدية بشأن سلامة المستخدمين والأخلاقيات الرقمية.
وكان المدير التنفيذي ومؤسس الشركة، إيلون ماسك، قد أكد في تغريدة رسمية سابقة أن «غروك» لا يولّد الصور الفاضحة بشكل تلقائي، وأن أي محتوى من هذا القبيل كان نتيجة لطلبات المستخدمين المحددة. وشدد ماسك على التزام المنصة بالقوانين المحلية والدولية، خصوصًا بعد صدور قانون جديد في المملكة المتحدة يجرّم توليد صور دون موافقة صاحبها، مما يعكس تزايد الضغوط التشريعية على منصات الذكاء الاصطناعي.
تأتي هذه الأزمة في سياق أوسع يشهد فيه العالم تطورًا سريعًا في مجال الذكاء الاصطناعي التوليدي، حيث برزت أدوات مثل ChatGPT وMidjourney وDALL-E بقدرات مذهلة على إنشاء المحتوى. ومع هذه الابتكارات، ظهرت تحديات أخلاقية وقانونية كبيرة، بما في ذلك انتشار المعلومات المضللة، وإنشاء التزييف العميق (Deepfakes)، والمحتوى الضار. وقد واجهت العديد من هذه المنصات صعوبة في وضع حدود واضحة للمحتوى الذي يمكن إنشاؤه، مما جعلها عرضة للاستغلال.
ولم تكن هذه الأزمة هي الأولى لـ«غروك»، إذ واجه الروبوت العام الماضي فضائح تتعلق بالهلوسة المستمرة وتوليد تغريدات عنصرية، مما أثر سلبًا على سمعته. وقد تزايدت الضغوط العالمية في الأسابيع الأخيرة، حيث طالبت مجموعات حقوقية بحظر «غروك» من متاجر الهواتف بالكامل. وكشف تقرير لموقع «وايرد» أن التطبيق المستقل للروبوت كان يتيح توليد صور وفيديوهات عنيفة وفاضحة، ما زاد من حدة الأزمة وأثار المخاوف بشكل خاص حول سلامة الأطفال والمستخدمين القصر.
إن قرار الحظر هذا يعد خطوة حاسمة لإنقاذ سمعة «إكس» و«إكس إيه آي» من كارثة رقمية عالمية محتملة. فمثل هذه الفضائح لا تؤثر فقط على ثقة المستخدمين، بل يمكن أن تؤدي أيضًا إلى فقدان المعلنين وزيادة التدقيق التنظيمي من الحكومات والهيئات الرقابية حول العالم. لذا، فإن إصلاح الوضع سريعًا وتحجيم قدرات الروبوت على المحتوى الضار أصبح ضرورة ملحة للحفاظ على مصداقية المنصة ومستقبلها.
تؤكد هذه الحادثة على التحدي المستمر الذي يواجه مطوري الذكاء الاصطناعي في الموازنة بين الابتكار التكنولوجي ووضع ضمانات أخلاقية قوية وآليات فعالة للإشراف على المحتوى. إنها تسلط الضوء على الحاجة الملحة لتطوير سياسات صارمة ومعايير عالمية للسلامة في مجال الذكاء الاصطناعي، لضمان استخدامه بشكل مسؤول وحماية المستخدمين من الأضرار المحتملة في هذا العصر الرقمي المتسارع.
