أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (سدايا) النسخة الأولى من «الدليل المرجعي لتحيزات الذكاء الاصطناعي»، والذي كشفت فيه عن رصد أكثر من 100 تحيز يؤثر بشكل مباشر في دقة وعدالة الأنظمة التقنية الحديثة. وأوضحت الهيئة أن معالجة تحيزات الذكاء الاصطناعي باتت ضرورة ملحة لحماية سمعة المؤسسات وتجنب المساءلات القانونية الناتجة عن القرارات الآلية غير المنصفة.
كيف تنشأ تحيزات الذكاء الاصطناعي وما هي مصادرها؟
وفقاً للدليل الصادر عن ‘سدايا’، فإن مصادر التحيز في الأنظمة الذكية تتعدد وتتداخل لتشمل عدة مراحل من التطوير. وتأتي بيانات التدريب غير الممثلة لكافة الفئات في مقدمة هذه المصادر، حيث تؤدي إلى تغذية الخوارزميات بمعلومات متحيزة مسبقاً. بالإضافة إلى ذلك، قد تفضل الخوارزميات -دون قصد من المطورين- خصائص فئات معينة بناءً على افتراضات وتقديرات بشرية مسبقة تنعكس على تفسير البيانات. واستشهد الدليل بأمثلة واقعية مثل أدوات التوظيف الذكية التي قد تمنح أفضلية تلقائية لمرشحين من خلفيات تعليمية نخبوية، مما يحرم كفاءات أخرى مؤهلة من فرص عادلة لمجرد اختلاف خلفياتهم الاجتماعية أو الاقتصادية.
السياق التاريخي لتطور الأنظمة الذكية ومخاوف الانحياز
على مدار العقد الماضي، شهد العالم طفرة هائلة في تبني تقنيات الذكاء الاصطناعي وتوليد البيانات. ومع تحول هذه التقنيات من مجرد أدوات مساعدة إلى صناع قرار في قطاعات حساسة مثل القضاء، والرعاية الصحية، والتعليم، والتوظيف، بدأت تظهر فجوات تقنية وأخلاقية. تاريخياً، كانت الأنظمة البرمجية تُعامل كأدوات محايدة، إلا أن الاعتماد على ‘البيانات الضخمة’ التاريخية لتغذية نماذج التعلم الآلي أدى إلى إعادة إنتاج التحيزات البشرية القديمة وتضخيمها. هذا التحول التاريخي جعل من دراسة وفهم الانحيازات الخوارزمية قضية رأي عام عالمي ومحور اهتمام المنظمات الدولية والحكومات الساعية لضبط حوكمة التكنولوجيا.
تأثيرات ممتدة: من السمعة المحلية إلى المعايير الدولية
لا تقتصر خطورة هذه التحيزات على الجوانب التقنية فحسب، بل تمتد لتحدث تأثيرات عميقة على المستويات المحلية والإقليمية والدولية. محلياً، تسعى المملكة العربية السعودية من خلال رؤية 2030 إلى بناء اقتصاد رقمي موثوق وآمن، ويمثل هذا الدليل خطوة ريادية لضمان نزاهة المشاريع الوطنية. إقليمياً ودولياً، يساهم وضع أطر واضحة للحد من التحيز في تعزيز مكانة المملكة كقائد في حوكمة الذكاء الاصطناعي المسؤول. إن تقويض فاعلية هذه الأنظمة وتحولها إلى وسيلة لتفاقم التمييز يعرض المؤسسات لشكاوى المستهلكين، ويفقدها الميزة التنافسية، ويضعها تحت طائلة العقوبات القانونية. لذلك، فإن حصر هذه التحيزات ووضع آليات عملية للتخفيف من آثارها يمثل الركيزة الأساسية لضمان مستقبل رقمي عادل ومستدام للجميع.
