ذكورية الخوارزميات.. كيف يعيد الذكاء الاصطناعي إنتاج التمييز ضد النساء؟

بقلم: بيان صالح

نعيش اليوم وسط خوارزميات تقترح ما نشاهده، وتختار الإعلانات التي تصل إلينا، وتساعد في فرز طلبات العمل، وتقيس أداء العاملات والعاملين. وغالبًا ما نتعامل معها باعتبارها أدوات محايدة، غير أن الخوارزمية لا تأتي من فراغ؛ فهي نتاج عمل بشري، وتتعلم من بيانات صنعها مجتمع يحمل تاريخًا من التفاوت والصراع الطبقي والجندري.

لذلك لا تحتاج الخوارزمية إلى أن تكون منحازة صراحةً للرجال حتى تعيد إنتاج التمييز. يكفي أن تتعلم من واقع غير متساوٍ، ومن نظام اقتصادي واجتماعي تحكمه علاقات القوة والربح، حتى تتحول إلى وسيلة جديدة لإعادة إنتاج التفاوت وتوسيعه.

أولًا: التوظيف والإعلانات.. حين يتحول الماضي إلى معيار للمستقبل

يظهر التحيز الخوارزمي بوضوح في التوظيف. فإذا تعلم نظام آلي من تاريخ شركة كان الرجال يشغلون فيه معظم المناصب القيادية، فقد يتعلم أن السير الذاتية التي تشبه مسارات الرجال المهنية هي الأقرب إلى النجاح.

قد لا تحتوي الخوارزمية على كلمة «رجل»، لكنها تستطيع إعادة إنتاج النتيجة نفسها. وهكذا يتحول سوق العمل الذي همّش النساء تاريخيًا إلى قاعدة بيانات تعيد إنتاج هذا التهميش آليًا، ويصبح ما كان نتيجة لتفاوت اجتماعي معيارًا يبدو موضوعيًا للجدارة.

ولا يختلف الأمر كثيرًا في الإعلانات الرقمية. فقد تظهر للنساء إعلانات أكثر ارتباطًا بالجمال والأطفال والمنزل والرعاية والأعمال الخدمية منخفضة الأجر، بينما تظهر للرجال إعلانات عن السيارات والاستثمار والتكنولوجيا والمناصب المهنية.

الخوارزمية لا تخترع هذه الصورة من تلقاء نفسها؛ إنها تتعلم من السلوك السابق ومن النظام الاجتماعي السائد، وتحكمها في النهاية حسابات الربح. فهي تختار الجمهور الأقل كلفة والأكثر ربحًا، وقد يصبح التمييز نتيجة مقبولة ما دام لا يتعارض مع الأهداف التجارية للمنصة.

لكن حين تستمر الخوارزمية في عرض الصور النمطية نفسها، فإنها تتجاوز عكس الواقع إلى المساعدة على تثبيته.

وتعكس نتائج دراسات دولية حجم المشكلة، إذ أظهر تحليل شمل 133 نظامًا للذكاء الاصطناعي أن نحو 44% منها أبدت تحيزًا جندريًا، وأن نحو 26% أظهرت تحيزًا جندريًا وعرقيًا معًا، بما يؤكد أن التمييز قد ينتقل من الممارسات الاجتماعية إلى أنظمة رقمية تستخدم في توزيع الفرص والموارد.

ثانيًا: العمل غير المرئي.. والإنسان بوصفه مصدرًا للبيانات

من الإعلانات ننتقل إلى العمل، حيث تصبح الخوارزميات أكثر تأثيرًا في حياة الناس. فهناك أنظمة تقيس عدد المهام وسرعة الإنجاز وساعات العمل وعدد الطلبات، وتبدو محايدة لأنها تطبق المعايير نفسها على الجميع.

لكن هذه الأنظمة قد لا ترى الظروف التي يعمل فيها كل شخص؛ فالموظفة أو الموظف الذي يعود إلى المنزل للاعتناء بطفل أو بشخص مسن أو مريض قد يحتاج إلى مرونة في ساعات العمل، دون أن يعني ذلك انخفاضًا في الكفاءة أو الالتزام.

فالعمل المنزلي والرعاية لا يظهران غالبًا في جداول الإنتاج، رغم أنهما يمثلان أساسًا لاستمرار الحياة اليومية. ومن منظور نسوي وطبقي، يعتمد النظام الرأسمالي على هذا العمل غير المأجور، الذي تتحمل النساء جانبًا كبيرًا منه، لإنتاج قوة العمل وإعادة إنتاجها دون الاعتراف الكافي بقيمته.

وعندما تدخل الخوارزميات إلى مكان العمل، فإنها قد تعيد إنتاج هذا الاختفاء بلغة الأرقام ومؤشرات الأداء.

من يصنع الذكاء الذي ننسبه إلى الآلة؟

تمتد هذه العملية إلى العمل الذي يصنع التكنولوجيا نفسها. فخلف أنظمة الذكاء الاصطناعي عاملات وعاملون يجمعون البيانات ويصنفونها ويراجعون المحتوى ويقيّمون المخرجات.

ويعمل بعض هؤلاء في بلدان الجنوب العالمي بأجور منخفضة، بينما تتراكم الأرباح في مراكز الشركات التكنولوجية الكبرى. وكلما بدت التكنولوجيا أكثر استقلالًا، اختفى العمل البشري الذي يجعلها ممكنة.

وحتى المستخدمون أنفسهم يصبحون جزءًا من هذه العملية؛ فكل ما نشاهده ونشتريه ونبحث عنه يمكن أن يتحول إلى بيانات تستخدمها الشركات للتنبؤ بسلوكنا وتوجيهه.

لقد أصبحت البيانات موردًا اقتصاديًا رئيسيًا للرأسمالية الرقمية، وصار الإنسان يساهم في إنتاج القيمة لصالح المنصة، غالبًا دون مقابل مباشر أو إدراك كامل لكيفية استثمار بياناته.

غير أن الخوارزمية لا ترى الإنسان إلا من خلال ما اختير قياسه. فالعاملة التي ترفض رحلة في وقت متأخر لأسباب تتعلق بالأمان، أو العامل الذي يغير ساعات عمله بسبب مسؤوليات أسرية، قد يظهران في النظام أقل التزامًا أو إنتاجية.

ثالثًا: من يصمم الخوارزميات؟ هيمنة الرجال على صناعة التكنولوجيا

هنا نصل إلى السؤال الأهم: هل المشكلة في الخوارزمية نفسها؟

ليس تمامًا. خلف كل خوارزمية شركة أو مؤسسة أو جهة تحدد ما الذي ينبغي قياسه، وما الذي يعتبر نجاحًا، وكيف تستخدم النتائج.

هذه في جوهرها أسئلة طبقية تتعلق بالملكية والسلطة. فمن يملك وسائل الإنتاج الرقمية يمتلك تأثيرًا واسعًا في تعريف الجدارة والإنتاجية والقيمة.

حين تصبح تجربة الرجل هي الوضع الافتراضي

لا يمكن فصل هذه الأسئلة عن سؤال آخر: من يصمم الخوارزميات أصلًا؟

ما تزال صناعة التكنولوجيا تعاني اختلالات في التمثيل الجندري، لا سيما في بعض مجالات البحث والتطوير والمناصب القيادية. وعندما تفتقر فرق التصميم إلى التنوع، قد تصبح تجربة الرجل هي النموذج الافتراضي، بينما تُعامل تجارب النساء باعتبارها حالات استثنائية أو هامشية.

ومن الأمثلة التي أثارت انتقادات نسوية تصميم بعض المساعدات الصوتية الرقمية بأسماء وأصوات نسائية، وبرمجتها على الاستجابة المهذبة حتى للإهانات، بما يعيد إنتاج صورة المرأة المرتبطة بالخدمة والطاعة.

العنف الرقمي وجه آخر للتمييز

يظهر أثر اختلال علاقات القوة أيضًا في العنف الرقمي الذي تتعرض له النساء، ولا سيما الصحفيات والناشطات والمدافعات عن حقوق الإنسان.

وقد أتاحت تقنيات الذكاء الاصطناعي إمكانات جديدة لإنتاج الصور والمقاطع المزيفة والمحتوى المسيء، ما يضاعف الحاجة إلى حماية النساء ومساءلة الجهات التي تطور هذه التقنيات أو تسمح بإساءة استخدامها.

فقد تجعل التكنولوجيا حياة شخص أكثر راحة، بينما تجعل عمل شخص آخر أكثر سرعة ومراقبة وضغطًا. ولهذا فإن التقدم التقني لا يعني تلقائيًا تقدمًا اجتماعيًا؛ فالنتيجة تتحدد أيضًا بعلاقات القوة التي تحكم إنتاج التكنولوجيا واستخدامها.

رابعًا: نحو خوارزميات قائمة على المساواة

إن بناء تكنولوجيا أكثر عدلًا يتجاوز تعديل الشيفرة البرمجية وحدها. ونقطة الانطلاق هي الأسئلة المتعلقة بحياة النساء والعمل والملكية والسلطة: من تعمل ولا يُحسب عملها؟ ومن يملك ويقرر؟ ومن تدفع ثمن قرارات الآلة؟

ومن هنا يبدأ بناء خوارزميات قائمة على المساواة، من خلال كسر الاحتكار الرجولي لفرق البحث والتصميم وصنع القرار، وتعزيز مشاركة النساء والعاملات والفئات المهمشة، بما يتجاوز التمثيل الشكلي لنساء النخبة.

إن التقدم نحو المساواة لا يتحقق بمجرد تحسين أداء الأنظمة، بل بإعادة النظر في الأهداف التي صُممت لتحقيقها، وفي علاقات الملكية والعمل التي تحدد من يستفيد من نتائجها.

التحرر من التمييز يبدأ بتغيير العلاقات التي تصنع الآلة

إن نقد ذكورية الخوارزميات هو نقد للطريقة التي تنتقل بها علاقات القوة الاجتماعية والبنية الاقتصادية من المجتمع إلى التكنولوجيا.

فالخوارزمية لا تخلق هذه العلاقات من العدم، لكنها تستطيع إعادة تنظيمها وتوسيعها ومنحها لغة جديدة. وقد يتحول التفاوت القديم إلى نتيجة رقمية تبدو طبيعية ومحايدة، رغم أنها تعكس شروطًا اجتماعية واقتصادية غير متساوية.

والخطر الحقيقي لا يكمن فقط في أن تصبح الآلة شبيهة بالإنسان، بل في أن نبدأ نحن بتنظيم حياتنا وفق ما تستطيع الآلة قياسه. عندها يصبح العمل غير المرئي أكثر اختفاءً، وتتحول التفاوتات القديمة إلى نتائج يصعب اكتشاف جذورها.

ومن هذا المنطلق، يبقى النضال من أجل خوارزميات عادلة جزءًا من النضال النسوي والطبقي الأوسع، لأن تحرير النساء لا ينفصل عن تحرير العمل من الاستغلال، ولا عن مواجهة تحويل الجسد والوقت والبيانات إلى سلع ومصادر للربح.

فالتحرر النسوي يتجاوز وصول مزيد من النساء إلى مواقع السلطة داخل التكنولوجيا، ليطال تغيير طبيعة السلطة نفسها: من يملك التكنولوجيا؟ ومن يقرر أهدافها؟ ومن يحدد ما يعتبر عملًا وقيمة وإنتاجية؟ ومن يستفيد من ثمارها؟

مقال رأي وتحليل: يعبر عن رؤية الكاتبة بيان صالح في العلاقة بين الذكاء الاصطناعي والتمييز الجندري والبنية الاقتصادية والاجتماعية.