في عام 2020، نشرت موظفة سابقة في "قوقل" ورقة أكاديمية حول سياسات تدريب الذكاء الاصطناعي التي تنتهجها الشركات التقنية اليوم، مشيرةً إلى أن البرمجة العصبية للآلة تمكنها من الاستجابة الطبيعية للأوامر بشكل ذكي انطلاقًا من قراءة الوثائق وعمليات الإدخال التي ينتجها البشر. هذه الورقة التي شخصت بشكل مفصل النهج الذي تتطور به هذه التقنية كانت منطلقًا لسؤال طرحه معهد الدراسات التابع لمبادرة مستقبل الاستثمار، وهو "بناءً على أخلاق من تتم تربية الذكاء الاصطناعي؟".
وجدير بالذكر أن المبادرة أطلقت نسختها السابعة تحت عنوان "البوصلة الجديدة"، والتي تسلط الضوء من خلالها على الأطر الجديدة التي تبلور مستقبل الاستثمار القائم على التقنية، والتي يقع الذكاء الاصطناعي في قلب تحولاتها.
وتقول الدراسة التي نشرها المركز قبل انطلاق أعمال المنتدى إن "عملية برمجة اللغويات العصبية لهذه التقنية الصاعدة تتطلب موارد هائلة قد تتضمن شكلاً من أشكال التحيز"، نقلاً عن سامي بنجيو، المدير السابق لشركة قوقل للذكاء الاصطناعي.
وتستشهد الدراسة بتجارب شركات كبرى وقعت ضحية خوارزميات متحيزة، كحال شركة "أمازون" التي اختبرت لفترة وجيزة أداة لتوظيف الذكاء الاصطناعي في عملية التوظيف وترشيح الموظفين ومستحقي العلاوات، وانتهت التجربة بأن الخوارزميات مالت إلى عدم اختيار النساء للمناصب العليا، وهو سلوك ينتمي للممارسة البشرية التقليدية في فترة اختبار الأداة.
وتثير مبادرة مستقبل الاستثمار التي تضع "الذكاء الاصطناعي" في رأس قائمة التركيز الخاصة بها، تساؤلًا لتداوله في المنتدى الأكبر من نوعه في العالم، وهو أن الخوارزميات المدخلة قائمة على أخلاق من؟ ومن أين أتت؟ ولأي زمن تنتمي؟
وتظل هذه المشكلة صعبة الحل في ظل احتياج هذه التقنية إلى إدخال مسبق للأوامر، غالبًا ما تكون من صنع البشر، لذا تشير الدراسة المنشورة إلى رأي الباحث في أخلاقيات الذكاء الاصطناعي فان وينسبرغ، الذي يرى الحل في أن "تكون المدخلات وثيقة بالمجتمعات التي ستتفاعل معها في نهاية المطاف".
وأضاف "في تجربة لأكثر تقنيات ذكاء الآلة تطورًا على عينة دراسة من أوروبا، وجدنا أن 13 من أصل 20 من عينة الدراسة لم يجدوا أن الذكاء قد لبى متطلبات عدم التحيز المعمول بها في الاتحاد الأوروبي"، مفسرًا ذلك بالقول إن "أغلبية، إن لم يكن كل تلك الآلات، قد تمت تربيتها وتنشأتها في أمريكا الشمالية، وبناء على افتراضات الثقافة والقيم هناك"، مما جعلها متحيزة بالنسبة لمجتمعات أوروبا الغربية.