سلطة التقنية: هل «الذكاء الاصطناعي» ذكوري ومحافظ؟/ محمد سامي الكيال
طرح كثير من الناشطين والسياسيين، بل حتى المبرمجين في الدول الغربية، أسئلة صعبة حول مفهوم «الذكاء الاصطناعي» واستخداماته وأخلاقياته، والجوانب القانونية لتنظيمه. أحد أهم تلك الأسئلة قد يبدو غريباً: «هل الذكاء الاصطناعي متحيّز، ويمارس التمييز؟» بمعنى أن هذا «الذكاء» قد يقوم بتقديم معلومات وبيانات وخطط معينة، ويخلص إلى نتائج، متأثراً بالانحيازات الذكورية والعنصرية والمعادية للمثليين. السؤال ليس مجرّد مبالغة يمكن نسبها لـ«الصواب السياسي» الدارج حالياً، بل طُرح بناءً على تجارب مقلقة، كان من أهمها ما حدث عام 2018 في الولايات المتحدة، بخصوص برنامج Rekognition المطوّر من شركة أمازون، الذي سعت الشرطة الأمريكية لاستعماله للتعرّف على وجوه المشتبه فيهم، المؤرشفة في سجلاتها. قام ناشطون من «اتحاد الحريات المدنية الأمريكي» باختبار البرنامج على صور أعضاء الكونغرس الأمريكي المعروفين، والنتيجة أنه حدد 28 عضواً بوصفهم مشتبهاً فيهم. الصادم أكثر أن 40% من هؤلاء «المشتبه فيهم» من النوّاب السود، ومن الصعب أن تكون تلك النتيجة عشوائية، أو مجرد مصادفة، إذ أنها غير متماثلة مع نسبة السود في الكونغرس، التي لا تتجاوز 20%. هل الذكاء الاصطناعي مبرمج على الاشتباه بالسود أكثر من غيرهم؟
الأمر لا يتعلق فقط بأخطاء كبيرة يرتكبها «الذكاء الاصطناعي» قد تكون لها نتائج مأساوية، خاصة ضمن ما يسمى «رأسمالية المراقبة» أي النموذج السياسي/الربحي المؤتمت، القائم على رصد وتجميع بيانات ضخمة عن السكّان، وتداولها وبيعها لأغراض متعددة، اقتصادية وأمنية وإدارية، بل أيضاً لأن هذه الأخطاء قد لا تكون مجرّدة عن الانحياز، بل «مقصودة» تعكس كل المظالم الموجودة في العالم المعاصر. إحدى المحاولات لتفسير «التحيّز» المحتمل لـ«الذكاء الاصطناعي» هو أن عدد المبرمجين الذكور البيض في مجالاته طاغٍ، فيما لا تلعب المبرمجات الإناث والتقنيون الملوّنون دوراً كبيراً، بمعنى أن الروح التمييزية المتأصلة لدى الرجال البيض انتقلت تلقائياً إلى «الذكاء» الذي ينتجونه، والحل «تمكين» عدد أكبر ممن يُعتَبرون «مهمشين» تقليدياً، لجعل هذا الحقل المستقبلي المهم أكثر «تنوّعاً» إلا أن هذا التفسير لا يلاحظ أن «الذكاء الاصطناعي» قائم على مبدأ «التعلّم الذاتي» أي يلجأ إلى البيانات المتاحة لتطوير قدراته والتوصّل إلى نتائجه، باستخدام الأساليب الإحصائية، ولا يتّبع مبرمجيه الأولين على طول الخط، ما يجعل المشكلة ليست في ذوات المبرمجين الفردية، نوعهم الجنسي وألوان بشرتهم، بل في مسألتين أساسيتين: أولاهما البيانات المتوفرة، والصراع على استخلاصها وتوفيرها وجمعها؛ وثانيهما النموذج الفكري الذي يقوم عليه مبدأ «الذكاء الاصطناعي» أساساً. أي أن الخطأ قد يكون في «النظام» نفسه. ما ذاك الخطأ؟ وهل يمكن أن يعيد إنتاج كل المعادلات السلطوية القائمة، لكن بشكل أكثر «ذكاءً»؟ وهل هو مسار حتمي للعلم والتطوّر البشري، لا رادّ له؟
الغسيل «الذكي»
أدلى المبرمج البولندي – الأمريكي المعروف ماسيج سيجلوسكي بتصريحات مثيرة للاهتمام في مؤتمر «الاقتصاد الأخلاقي للتقنية» المُقام في الولايات المتحدة عام 2016، إذ أكد أن «الذكاء الاصطناعي هو أقرب لغسيل الأموال، لكن في ما يتعلّق بالتحيّز» ويعني أن المبرمجين عموماً حاولوا إقامة نماذج قادرة على السيطرة والتحكّم في مختلف مجالات الحياة، ضمن نزوع إلى نمذجة إحصائية لكل الميادين، إلا أنهم اتُهموا بالتلاعب بالخوارزميات لمصالح وطموحات وانحيازات شخصية، فكان «الذكاء الاصطناعي» حجة لتبرئة الذمة، فهو تقنية محايدة وباردة، لا يمكن نسبتها إلى أي مصلحة فئوية، تقوم بمعالجة البيانات والتعلّم منها والأداء على أساسها. إلا أن التحيّز موجود في البيانات نفسها، وفي آليات اشتغال مؤسسات العالم الواقعي، وهكذا فإن ذلك «الذكاء» محاولة لغسل ما تنتجه البنى الاجتماعية والسياسية من استغلال وتمييز، عبر اعتباره علماً مجرّداً؛ وفي الوقت نفسه لم يتخل المبرمجون عن طموحهم بتخديم البنى المسيطرة تقنياً، كي يصبحوا الفئة الأكثر أهمية فيها. العالم الذي يبنونه عبر التقنية مماثل للعالم «القديم» لكن بمجموعة كاميرات ومايكروفونات وشاشات مسطّحة، وقد أورثهم التعامل مع الواقع، بوصفه مشكلة تقنية يمكن نمذجتها إحصائياً، كثيراً من العادات الذهنية السيئة والسطحية والتسلّطية. يخشى المبرمج البولندي أن تستخدم كل تلك التقنيات «المحايدة» من قبل السلطات القمعية.
لفهم رأي سيجلوسكي أكثر يمكن القول إن نماذج «الذكاء الاصطناعي» قائمة على افتراض فلسفي إشكالي جداً، وهو أنه توجد مجموعة من البيانات المكتملة تصوّر العالم الواقعي بشكل صحيح ومحايد، والمسألة هي التوصّل لهذه البيانات، وتلقيم برامج «ذكي» فيها، كي ينتج حقائق وأساليب عمل وإدارة، هي بدورها الحقيقة ذاتها، ما دامت مستندة إلى «صورة العالم الصحيحة». بالطبع، سيجادل كثيرون بأن البيانات لا توجد وحدها في «الطبيعة» بل تُنتج وتُصاغ بناءً على منهجيات ومنظورات اجتماعية وتصوّرات فكرية، تلعب فيها معادلات القوة والمصلحة والسياسة دوراً أساسياً، وعندما يُلقم «الذكاء الاصطناعي» بتلك البيانات، فهو سيعيد إنتاج المعادلات نفسها، بما أنها من أعطاه «صورة العالم» وسيمنحها إمكانيات هائلة للترسّخ والهيمنة. كما أن «الذكاء الاصطناعي» محافظ بنيوياً، لأنه يعتمد على المعلومات و«الحقائق» المتوافرة سلفاً، أي بيانات الماضي، وبالتالي فإنه سيربط أي فعل في الحاضر والمستقبل بقيم وتصورات الماضي، بكل ما فيه من بنى هرمية مستقرة. إلا أن إشكالية الافتراض الفلسفي الكامن في «الذكاء الاصطناعي» تتجاوز هذا، فهو يعتبر أن الشكل الكمي لإنتاج المعارف، عبر تحويل الظواهر إلى نماذج وأنماط يمكن التعبير عنها رياضياً، هو الأسلوب الأكثر صحة لفهم العالم، ما يُنتج في النهاية «واقعاً» لكنه واقع فقير، يستبعد كثيراً من الظواهر التي لا يمكن اختزالها ضمن نماذج رياضية، ولن يأخذ بعين الاعتبار إلا ما يمكن التحكّم به وتطويعه وإحصاؤه بناءً على وحدات متساوية. ويمكن اعتبار هذا التجسيد الأكثر تطوراً وتجريداً لمفهوم «العقلانية الأداتية» العائد لفلاسفة مدرسة فرانكفورت، الذين اعتبروا تلك «العقلانية» سبباً أساسياً لكل مآسي الحداثة، وعلى رأسها الهولوكوست. قد يكون اعتبار مآسي القرون الماضية مجرد مشكلة في «العقلانية» موضع انتقاد كبير، إلا أن فقر مفاهيم «الذكاء الاصطناعي» يهدد بالفعل بانحدار على المستوى الثقافي والحضاري، لا يتفق مع التصورات التقليدية عن «التقدّم».
اللغة الفقيرة
يعمل «الذكاء الاصطناعي» على صياغة معادلات/جُمَل يفترض أنها صحيحة وذات معنى، بناء على نموذج معين للتحقّق وإنتاج الدلالة، وإذا كان هذا مفيداً في المجال الرياضي البحت، فإن ما يمكن تسميته «رقمنة اللغة» يُفقر «اللغات الطبيعية» إلى حد كبير، لأن اللغات لا تنبني فقط على صيغ «صحيحة» للمعنى، بل على أساس تداول رمزي وألعاب لغوية وأفعال كلامية، متعلّقة ببنى ثقافية واجتماعية شديدة التعقيد. في «العالم الواقعي» لا تعني كل جملة بالضرورة ما تُصرّح به، وقد يلجأ المتكلّمون إلى أنماط من التورية والإظهار والإخفاء والتحوير وقلب المعنى، كما يلعب لديهم المرغوب والمكبوت والاستيهامات عن الذات والآخر دوراً محورياً، وهو ما بيّنه الألسنيون وعلماء النفس والأنثروبولوجيون. قد يمكن «حساب» بعض من ألعاب اللغة والأفعال الكلامية، لكن ضمن نموذج محافظ جداً، يركّز على مدخلات معيّنة دون غيرها، ولا يهتم بفعل الرغبة الإنسانية، والتركيبات التي يبتكرها البشر بين عناصر ثقافية وحياتية ولغوية شديدة التنافر وعدم الاتساق، كما أنه لا يُقدّر دور الخطأ والوهم والانفعال في تغيير «الصحيح» في زمن ما، وفتح أفق آخر لإنتاج ما هو جديد.
الثقافة واللغة الإنسانية، دون كل تلك العوامل المركّبة ستغدو أكثر «تخلّفاً» بمعنى أنها ستفقد جانباً كبيراً من الحيوية المحرّكة للتطور والإبداع، وبالتالي من الصعب تصوّر أي «تطوّر» يمكن أن يقدمه «الذكاء الاصطناعي» إلا بوصفه «ماكينة» تُستعمل في مجالات علمية محدودة، ولا علاقة لها بـ»لغات طبيعية».
التاريخانية «العلمية»
ينبي الاقتناع بحتمية الاتجاه التقني المعاصر، وربما الانبهار به، على منظور بات عتيقاً، هو التاريخانية، أي أن التاريخ البشري يمضي بمسيرة «إلى الأمام» نحو غاية معينة تجسّد الحقيقة أو الاكتمال، وكل ما في المسيرة فصول متتالية ومترابطة، توصل إلى النتيجة النهائية. بيّن كثير من مؤرخي العلم والتقنية، ومنهم المفكر الإيطالي رومانو أليكواتي والفرنسي ميشيل فوكو، أن التقنية لم تكن يوماً تسير في اتجاه تاريخي حتمي، أو أنها تعبّر بالضرورة عن «تطوّر» و»حقيقة» أكثر، بل لعب الصراع الاجتماعي ومعادلات القوة والهيمنة والظروف التاريخية المتعددة الدور الأساسي في تحديد مساراتها، واتخاذها اتجاهاً دون غيره، ويبدو أن العوامل نفسها هي ما يلعب حالياً الدور الأساسي في تحديد اتجاهات «الذكاء الاصطناعي» بعد ربطه بأيديولوجيا عتيقة عن «التطور» تدّعي الحداثة والجدّة الفائقة. بالعودة لسيجلوسكي فلا جدوى برأيه من إخضاع ما سماه «جهاز المراقبة» المرتبط بـ»الذكاء الاصطناعي» للسلطات الديمقراطية، بل يجب تفكيكه من الأساس، لأن تقنية قائمة على استخلاص البيانات وجمعها والتعاطي معها بهذه الطريقة، لا يمكن أن تنتج «تقدماً» إلا في هيمنة القوى المالكة لـ«الجهاز».
كاتب سوري
القدس العربي
