▪︎ مجلس نيوز
.
حذّرت الهيئة السعودية للذكاء الاصطناعي (سدايا) من تأثير التحيز المعرفي في خوارزميات وتطبيقات الذكاء الاصطناعي، موضحة أن تصورات المطورين المسبقة قد تقود لقرارات غير عادلة. ودعت ضمن حملة “إنسان تِك” إلى توعية المعنيين ودمج فرق متنوعة لضمان أنظمة عادلة وموثوقة.
سلّطت الهيئة السعودية للذكاء الاصطناعي «سدايا» الضوء على خطورة «التحيز المعرفي» وأثره التراكمي على خوارزميات الذكاء الاصطناعي وتطبيقاته، محذّرةً من أن أخطاء التفكير البشري قد تنعكس مباشرةً في القرارات البرمجية وأنظمة معالجة البيانات.
وأوضحت «سدايا» في منشور توعوي ضمن حملتها «إنسان تِك»، أن التحيز المعرفي ينشأ حين يعتمد الدماغ البشري على أنماط تفكير مبسّطة لمعالجة المعلومات عبر تصفيتها وفق التجارب والتفضيلات الشخصية، مما يُفضي إلى أخطاء في التفسير واتخاذ القرار.
التأثير على أنظمة الذكاء الاصطناعي
بيّنت الهيئة أن هذا التأثير يظهر جليّاً حين تنعكس التصورات الذاتية للمطورين أو محللي البيانات في تصميم الأنظمة وتفسير مخرجاتها، مما يقود إلى استنتاجات متحيزة أو غير دقيقة.
وضربت «سدايا» مثالاً على ذلك بتأثير الاعتقاد المسبق لدى المطورين في الجدارة الائتمانية لمجموعات سكانية بعينها، إذ ينعكس هذا الاعتقاد على اختيار بيانات التدريب وتصميم الخوارزمية، مما يترتب عليه صدور قرارات غير عادلة من النظام.
آليات المعالجة
وعن سُبل الحدّ من هذه الظاهرة، أكدت الهيئة أن المعالجة تبدأ بتوعية المطورين وأصحاب المصلحة بالتحيزات المعرفية، ودمج فرق عمل متنوعة تُقدّم وجهات نظر متعددة، وذلك منذ مراحل اختيار البيانات وحتى تصميم الخوارزميات وتفسير النتائج النهائية.
ويأتي هذا التوضيح ضمن سلسلة إصدارات «سدايا» المخصصة للتوعية بـ«تحيز الذكاء الاصطناعي»، بهدف ضمان بناء تقنيات عادلة وموثوقة تخدم المجتمع بكفاءة عالية.