كتبت رنده صباحي.
أثارت دراسة حديثة اهتمامًا بملف التحيز بين الجنسين في أنظمة الذكاء الاصطناعي، بعدما تناولت الفروق في المقابل المالي الذي تحصل عليه النماذج الرقمية عند تقديم خدمات أو أداء مهام متشابهة، وفقًا للطريقة التي تظهر بها هذه الأنظمة للمستخدمين، سواء بهوية أنثوية أو ذكورية.
وتعيد هذه النتائج طرح تساؤلات حول مدى تأثير الصورة النمطية المرتبطة بالنوع الاجتماعي على تعامل البشر مع التكنولوجيا، خاصة مع التوسع في استخدام أدوات الذكاء الاصطناعي في مجالات العمل والخدمات الرقمية والتواصل مع العملاء. فبينما يُنظر إلى هذه التقنيات باعتبارها أدوات تعتمد على البيانات والخوارزميات، فإن طريقة تصميمها وتقديمها للمستخدم قد تؤثر في قرارات البشر وتوقعاتهم، وهو ما قد ينعكس على تقييم الخدمة أو تحديد المقابل المادي لها.
كيف يؤثر النوع الاجتماعي في تقييم الذكاء الاصطناعي؟
تعتمد بعض التطبيقات الرقمية على شخصيات افتراضية تتفاعل مع المستخدمين، وقد تظهر هذه الشخصيات بصوت أو اسم أو صورة توحي بأنها أنثى أو ذكر. ورغم أن الشخصية الافتراضية لا تمتلك جنسًا بيولوجيًا أو احتياجات بشرية، فإن المستخدمين قد يتعاملون معها وفق تصورات مسبقة تشكلت من خبراتهم الاجتماعية والثقافية.
ومن هنا تبرز أهمية دراسة الفروق في المقابل المالي الذي تحصل عليه أنظمة أو شخصيات الذكاء الاصطناعي، إذ يمكن أن تكشف هذه الفروق عن تأثير الانطباعات البشرية في القرارات الاقتصادية المرتبطة بالتكنولوجيا. وقد يرتبط تقييم الخدمة بعوامل متعددة، منها أسلوب التواصل، وطبيعة المهمة، ومدى جودة الأداء، وطريقة عرض الشخصية الرقمية، وليس بالضرورة بالنوع الاجتماعي وحده.
ولذلك، فإن فهم نتائج أي دراسة من هذا النوع يتطلب النظر إلى تفاصيل التجربة، وطبيعة المهام التي جرى اختبارها، وكيفية تحديد الأجر، وحجم العينة، وما إذا كانت بقية العوامل متساوية بين النماذج التي تمت مقارنتها.
التحيز الاجتماعي ينتقل إلى العالم الرقمي
لا تقتصر قضية التمييز بين الجنسين على بيئات العمل التقليدية، بل تمتد إلى الطريقة التي يصمم بها المطورون الأنظمة الرقمية، والبيانات التي تُدرَّب عليها النماذج، وكذلك سلوك المستخدمين تجاه الأدوات التي يتعاملون معها يوميًا.
وقد تظهر الصور النمطية في صورة توقعات مختلفة بشأن الكفاءة أو القدرة على أداء المهام أو طبيعة الأدوار المناسبة لكل جنس. وعندما تُستخدم هذه التصورات في تقييم خدمة رقمية أو تحديد سعرها، فإنها قد تؤدي إلى تفاوت في النتائج حتى عندما تكون جودة الخدمة متقاربة.
كما أن الأنظمة التي تتعلم من بيانات سابقة قد تعيد إنتاج أنماط موجودة بالفعل في المجتمع إذا لم تُراجع البيانات وطرق التدريب والاختبار بصورة دقيقة. ولهذا أصبح فحص التحيز أحد الموضوعات المهمة في تطوير تقنيات الذكاء الاصطناعي، خصوصًا مع استخدامها في التوظيف والتسعير وخدمة العملاء وغيرها من المجالات التي تتضمن قرارات ذات تأثير اقتصادي.
أهمية الشفافية في تطبيقات الذكاء الاصطناعي
تؤكد النقاشات المتعلقة بالعدالة الرقمية أهمية إخضاع الأنظمة الذكية لاختبارات منتظمة تكشف ما إذا كانت تقدم نتائج مختلفة بسبب عوامل لا ترتبط بجودة الأداء الفعلية. ويشمل ذلك مقارنة النتائج في ظروف متشابهة، وتوضيح المعايير التي تُحدد على أساسها الأسعار أو المكافآت، وإتاحة معلومات كافية لفهم آلية اتخاذ القرار.
ومن المهم أيضًا التمييز بين التحيز الناتج عن تصميم النظام نفسه، والتفاوت الذي قد ينشأ من تفضيلات المستخدمين أو طبيعة السوق. فهذه العوامل قد تتداخل، لكن تحديد المسؤولية يتطلب أدلة واضحة وتصميمًا دقيقًا للتجربة.
هل يتطلب الأمر مراجعة طريقة تطوير الأنظمة الذكية؟
تسلط مثل هذه الدراسات الضوء على ضرورة التعامل مع الذكاء الاصطناعي باعتباره تقنية تتأثر بالقرارات البشرية المحيطة بها، وليس مجرد برنامج مستقل عن المجتمع. فاختيار الصوت والشكل والاسم وطريقة التفاعل يمكن أن يغير تجربة المستخدم، كما أن طريقة تقييم الخدمات الرقمية قد تعكس تصورات اجتماعية أوسع.
ومع استمرار انتشار الذكاء الاصطناعي، تزداد الحاجة إلى وضع معايير واضحة للإنصاف والشفافية، ومراجعة النتائج بصورة دورية، حتى لا تتحول الأنماط التمييزية الموجودة في الواقع إلى ممارسات متكررة داخل البيئات الرقمية.
وتظل قراءة نتائج الدراسة في سياقها العلمي أمرًا أساسيًا؛ إذ لا يمكن تعميم أي نتيجة على جميع تطبيقات الذكاء الاصطناعي دون معرفة تفاصيل البحث والمنهج المستخدم. لكن القضية التي تطرحها تفتح بابًا مهمًا للنقاش حول العلاقة بين التكنولوجيا والمساواة، وكيفية ضمان ألا تؤثر الصور النمطية في تقييم الخدمات أو المقابل المالي المرتبط بها.
وتوضح تفاصيل البحث أن التجربة أُجريت بمشاركة 189 شخصًا داخل بيئة عمل افتراضية، حيث تعامل المشاركون مع مساعدين رقميين بقدرات متساوية، ثم وزعوا أموالًا حقيقية بينهم وبين المساعد الذي أنجز المهام. وحصلت الشخصية التي ظهرت بهوية أنثوية، واسمها «جوهانا»، على مقابل أقل بنحو 10.25% من الشخصية الذكورية «يوهان»، رغم تشابه قدراتهما التقنية.
وتكمن أهمية النتيجة في أن الفارق لم يكن راتبًا وظيفيًا تتقاضاه روبوتات في سوق العمل، بل نتيجة لاختيارات بشرية خلال تجربة علمية؛ وهو ما يشير إلى احتمال انتقال بعض الصور النمطية المرتبطة بالنوع الاجتماعي إلى طريقة تقييم الأدوات الرقمية، مع توسع استخدامها في بيئات العمل.
