تحيز الذكاء الاصطناعي هو الظل الهادئ الذي يلاحق كل آلة ذكية، وهو يبدأ قبل أن تنطق الآلة بزمن طويل. يبدأ في البيانات، وفي اختيارات من جمعوها، وفي العادات القديمة للمجتمعات التي أنتجتها.
لقد دخل الذكاء الاصطناعي العالم بقوة، وهو يلامس الآن تقريبًا كل مجال، من التوظيف والمصارف إلى الصحة والتعليم والتصميم. وحين تمتد أداة إلى هذا الحد، تمتد عيوبها معها. يسأل هذا المقال كيف يتسلل التحيز إلى الشيفرة، ومن يدفع ثمنه، وماذا نستطيع أن نفعل حياله.
المحتويات
كيف يبدأ تحيز الذكاء الاصطناعي في البيانات
يبدأ تحيز الذكاء الاصطناعي من حيث يبدأ كل تعلّم. فالآلة تتعلم كما يتعلم الطفل لغته: بالإصغاء إلى ما يحيط بها. وإذا كانت الأصوات التي تسمعها ضيقة، فسيكون فهمها ضيقًا أيضًا. إنها لا تعرف أن المكتبة التي درستها كانت تنقصها رفوف كاملة.
تخيّل نظامًا تدرّب على عقود من سجلات التوظيف في شركة نادرًا ما رقّت النساء. سيلاحظ النظام النمط ويعامله بهدوء كأنه حكمة. لم يكتب أحد قاعدة تقول «فضّل الرجال»، ومع ذلك فإن تحيز الذكاء الاصطناعي موجود كاملًا. لقد علّمه الماضي ذلك ببساطة.
الأبواب الكثيرة التي يدخل منها التحيز
البيانات ليست إلا الباب الأول، ولتحيز الذكاء الاصطناعي أبواب كثيرة غيره. فقد يتسلل التحيز أيضًا عبر طريقة صياغة المشكلة، والتسميات التي يضعها البشر على الأمثلة، والمقاييس المختارة لتعريف النجاح. كل خطوة قرار بشري، وكل قرار يحمل وجهة نظر.
يصف الباحثون في كثير من الأحيان بضعة مسارات شائعة:
- فجوات العينات، حيث تكاد بعض الفئات لا تُمثَّل.
- الأنماط التاريخية، حيث يُنسخ الظلم القديم كأنه حقيقة.
- التسميات المهملة، حيث تتحول الأحكام الذاتية إلى وقائع ثابتة.
- حلقات التغذية الراجعة، حيث تشكّل مخرجات النظام الجولة التالية من البيانات.
ويُوثَّق هذا الميدان الأوسع تحت اسم التحيز الخوارزمي، وهو جدير بالقراءة لكل من يبني هذه الأدوات أو يشتريها.
تحيز الذكاء الاصطناعي سيف ذو حدين
من السهل أن نعامل هذا الموضوع كأنه كآبة خالصة. وهو ليس كذلك. فكما في كل تقنية قوية تقريبًا، الذكاء الاصطناعي سيف ذو حدين. المستخدم الذكي يستفيد كثيرًا، بينما المستخدم المتهاون أو الخبيث يضر المستخدم والمجتمع معًا.
والتحيز يقع تمامًا على هذا الحد. فحين تُستخدم بحكمة، تستطيع الأنظمة نفسها التي ترث أحكامنا المسبقة أن تكشفها أيضًا، لأن الأرقام لا ترتجف حين يُطلب منها أن تُظهر نمطًا نفضّل تجاهله.
الحد الذي يساعد
يستطيع فريق متأمل أن يشغّل أداة فحص على آلاف القرارات السابقة فيكتشف، لأول مرة، أن أشخاصًا مؤهلين جرى تجاهلهم سنوات. ويستطيع مصرف أن يدقق في إقراضه هو. وتستطيع مدرسة أن تلاحظ أن مساعد التصحيح يعامل بعض اللهجات بظلم فتصحح ذلك. تصبح الآلة مرآة، والمرآة هدية حين تكون مستعدًا للنظر.
الحد الذي يؤذي
الحد الآخر أشد. فقد تنشر شركة متهاونة مرشِّحًا للسير الذاتية أو مقيِّمًا للقروض أو أداة للتعرف على الوجوه دون اختبارها على من ستحكم عليهم. وقد تضبط جهة خبيثة نظامًا عمدًا ليستبعد أو يستهدف أو يخدع. والشخص الواقع عليه القرار نادرًا ما يرى الآلة، بل لا يرى إلا الباب المغلق. ويدفع المجتمع الثمن أيضًا، إذ تتصلب مظالم صغيرة لتصير نظامًا مستقرًا.
من يتضرر أكثر من تحيز الذكاء الاصطناعي
التحيز البشري له وجه على الأقل. نستطيع أن نجادل شخصًا يحكم علينا بظلم. أما تحيز الذكاء الاصطناعي فيختبئ خلف الواجهات والاحتمالات، وكثيرًا ما لا يعلم المتضرر أصلًا أن آلة كانت طرفًا.
ويختبئ كذلك في المتوسطات. فقد يبدو النظام ممتازًا في مجمله بينما يخفق إخفاقًا شديدًا مع مجموعة صغيرة، لأن الأغلبية الكبيرة ترفع الدرجة. ولهذا فإن رقم دقة واحدًا لا يروي أبدًا القصة كاملة عن تحيز الذكاء الاصطناعي.
ويختبئ في الثقة أيضًا. فلوحة متابعة نظيفة وصوت سلس يجعلان الإجابة الخاطئة تبدو محسومة. والناس يثقون بما يبدو يقينيًا، وهذا يمنح تحيز الذكاء الاصطناعي لمعانًا لا يملكه التحيز البشري عادة.
وتكلفة تحيز الذكاء الاصطناعي لا تتوزع بالتساوي. فهي تقع عادة على من يقفون أصلًا عند حافة الصورة: الأقليات والنساء والمتحدثون بلغات أقل شيوعًا والفقراء وذوو الإعاقة وكبار السن. هم الأقل تمثيلًا في البيانات والأقل قدرة على الاعتراض على قرار.
قرض مرفوض، ومقابلة عمل فائتة، ووجه تفشل الكاميرا في التعرف عليه، وأداة طبية مضبوطة على نوع واحد من الأجسام: كل منها إصابة صغيرة. وحين تجتمع تجعل تحيز الذكاء الاصطناعي تآكلًا هادئًا لا فضيحة واحدة. تصبح تآكلًا هادئًا للعدالة لا يستطيع شخص واحد أن يراه.
الآلة لا تخترع التحيز. إنها ترث تحيزنا، وتصقله، وتعيده إلينا بسلطة رقم.
كيف تختبر تحيز الذكاء الاصطناعي قبل أن يختبرك
اكتشاف تحيز الذكاء الاصطناعي ليس شعورًا، بل ممارسة، والممارسة يمكن قياسها. والعادة الأنفع بسيطة: اختبر النظام على التنوع الحقيقي للناس الذين سيخدمهم، وقارن النتائج بين الفئات قبل الإطلاق لا بعد الشكوى.
روتين معقول يبدو هكذا:
- اكتب من يتأثر بالنظام ومن قد يُغفَل.
- تحقق هل تعكس بيانات التدريب هؤلاء الناس.
- قارن معدلات الخطأ والنتائج بين الفئات المختلفة.
- أبقِ مراجعًا بشريًا للقرارات عالية الأهمية.
- كرر التدقيق بانتظام، فالبيانات والعالم كلاهما يتغير.
لا شيء من هذا يتطلب مختبرًا. تستطيع شركة صغيرة أن تبدأ بجدول بيانات وسؤال صادق: من يحصل على إجابة مختلفة، ولماذا؟
اطرح على المورّد أسئلة صعبة
إذا كنت تشتري أداة بدلًا من أن تبنيها، فاسأل من أين جاءت بياناتها، وكيف اختُبرت، وماذا تفعل حين لا تكون متأكدة. فالمورّد الذي لا يستطيع الإجابة يخبرك بشيء. ويقدم لك استعراضنا لـأدوات الذكاء الاصطناعي للأعمال الصغيرة نصائح عملية للاختيار بعينين مفتوحتين.
العدالة مقايضة وليست مفتاحًا
لا يوجد زر واحد مكتوب عليه «عادل». فالتعريفات المختلفة للعدالة قد يتعارض بعضها مع بعض، وتقليل نوع من تحيز الذكاء الاصطناعي قد يزيد نوعًا آخر. فأداة تساوي معدلات الخطأ قد تغير من يُقبل، وأداة تساوي نسب القبول قد تغير من يُوسَم خطأً.
ولهذا يجب أن يضم النقاش الناس، لا المهندسين وحدهم. حدّد بكلمات واضحة ما تعنيه العدالة في هذا القرار، واكتبه، وقِس عليه. فالوعد الواضح أسهل في الوفاء من أمل غامض.
إصلاح البيانات يساعد، وكذلك التواضع. أخبر المستخدمين بما يستطيع النظام وما لا يستطيع، وامنحهم طريقة للاعتراض على نتيجة، وعامل كل شكوى بوصفها رقابة جودة مجانية.
أماكن يومية يختبئ فيها تحيز الذكاء الاصطناعي
لا يلزمك أن تعمل في مصرف لتلتقي بهذه المشكلة. إنها تعيش في نتائج البحث، والمحتوى الموصى به، واقتراحات الإكمال التلقائي، والمساعدات الصوتية التي تفهم بعض اللهجات أفضل من غيرها، ومولّدات الصور التي تميل افتراضيًا إلى فكرة ضيقة عن الجمال.
ولهذا فهي مشكلة تصميم أيضًا. فالصور والكلمات والواجهات التي ننشرها تعلّم الآلات، والآلات تعلّم الجمهور بدورها. وقد تطرقنا إلى هذا المشهد الأوسع في الذكاء الاصطناعي في حياتنا اليومية، حيث يسهل ألا ننتبه إلى الحضور الهادئ لهذه الأنظمة.
الصور والكلمات والقصص التي نكررها
يحمل المصممون والمسوّقون مسؤولية خاصة. فكل حملة لا تُظهر إلا نوعًا واحدًا من الناس، وكل تعليق يفترض قارئًا من نوع واحد، يصبح مادة خام للجيل القادم من الأدوات. والصور الشاملة ليست زينة. إنها مساهمة هادئة في بيانات أفضل، وهي نقطة نعود إليها في ملاحظاتنا عن نصائح تصميم وسائل التواصل الاجتماعي.
ما يمكن للمطوّرين والمستخدمين المسؤولين فعله حيال تحيز الذكاء الاصطناعي
المسؤولية مشتركة. على المطوّرين أن يوثقوا بياناتهم، وينشروا حدودهم، ويدعوا إلى النقد. وعلى الشركات أن تقاوم إغراء تسليم قرارات مصيرية إلى صندوق أسود. وعلى المستخدمين أن يُبقوا حكمهم يقظًا، فيعاملوا إجابة الآلة بوصفها رأيًا لا حكمًا نهائيًا.
وللجهات التنظيمية والمجتمعات دور كذلك، بالمطالبة بالشفافية وبمسار للاعتراض. وحين يُرفض شخص بواسطة نظام آلي، فمن حقه أن يعلم أن إنسانًا يستطيع أن ينظر من جديد.
في ميديا خمس نجوم، وبعد أكثر من عشرين عامًا من تشكيل العلامات التجارية والمواقع والقصص لجماهير في العالم العربي وأوروبا والولايات المتحدة، تعلمنا أن الشمول والجودة يسيران معًا. فالرسالة التي تناسب قلة من الناس رسالة أضعف.
الخلاصة
تحيز الذكاء الاصطناعي ليس سببًا لأن نخاف التقنية، وليس مشكلة نستطيع أن نلوّح بها بعيدًا. إنه تذكير بأن كل أداة تحمل بصمات صانعيها، وأن العدالة يجب أن تُبنى وتُقاس ويُدافع عنها مرة بعد أخرى.
فأمسك السيف بعناية. اسأل من الغائب، واختبر تحيز الذكاء الاصطناعي قبل أن تثق، وأبقِ إنسانًا في الحلقة حيث تكون الأرواح وأرزاق الناس على المحك. وإن كنت تشكّل علامة تجارية أو موقعًا أو حملة وتريدها أن تخاطب بإنصاف كل من تلتقيهم، فاستكشف خدماتنا ودعنا نساعدك على إنجاز ذلك بإتقان.
