كيف يتمكن المجتمع من إخضاع الخوارزميات للمساءلة؟

تُساعد الخوارزميات في اتخاذ القرارات في المؤسسات العامة والخاصة، وفي مجالات متنوعة كالتعليم والتوظيف والعدالة الجنائية. لكن فوائدها في تعزيز الكفاءة لا تنفي أخطارها على المجتمعات بارتكابها أخطاء قد تحرم البعض من حقوقهم.

ويتزايد اهتمام شركات التكنولوجيا ومطوري الخوارزميات والمنتجات بأخلاقيات استخدام الخوارزميات وأهمية إخضاعها للمساءلة العامة. ومن بين الحالات التي تستدعي إطلاع المجتمع على آلية عمل الخوارزميات ومراجعتها نظام درجات تقييم الخطر الذي يُسهِم في الكثير من قرارات العدالة الجنائية في الولايات المتحدة الأمريكية مثل الاحتجاز السابق للمحاكمة والخضوع للمراقبة وحتى إصدار الأحكام القضائية، وجميعها قرارات تُؤثر مباشرةً وبدرجة كبيرة على حياة الأشخاص.

وتُحتسب الدرجات من خلال إجابات المتهم على أسئلة حول السن والتاريخ الإجرامي وسمات أخرى. ويعتمد تدريب الخوارزميات على بيانات تعود إلى متهمين سابقين وتقنية تعلم الآلة. وأظهرت تحقيقات حديثة احتمال التحيز العرقي لهذه الخوارزميات وتصنيفها المتهمين السود باعتبارهم أشد خطرًا من غيرهم، الأمر الذي أثار جدلًا واسعًا.

ولا يُمكن إرجاع أخطاء الخوارزميات إليها فقط؛ إذ يتولى البشر تصميمها وتقديم البيانات، وحتى في خوارزميات تعلم الآلة يُحدد البشر البيانات المستخدمة في تدريبها وتصميم النماذج. وينطوي إخضاع الخوارزميات للمساءلة على تفسير طريقة عملها والتخفيف من آثارها السلبية المحتملة، ويستند على خمسة مبادئ رئيسية على النحو التالي:

أولًا: المسؤولية:

من المهم أن يتمتع شخصٌ محدد بسلطة التعامل مع الآثار السلبية على الأفراد والمجتمع في الوقت الملائم، ولا يعني ذلك تحديد المسؤولية القانونية، وإنما يرتبط بإيجاد سُبل للإصلاح والحوار العام والقدرة على التغيير من الداخل. وربما يتحقق ذلك بمنح المسؤول السلطة والموارد اللازمة للتغيير وإتاحة بيانات الاتصال به للجميع.

ثانيًا: القابلية للشرح:

ينبغي أن يسهل شرح قرارات الخوارزميات للأشخاص المعنيين بها، وأن يتمكنوا من الحصول بسهولة على شرحٍ ملائم لهم يختلف عن الوصف التقني لعملها. ومثلًا سيؤدي فهم المتهمين ومستشاريهم القانونيين لنظام درجات تقييم الخطر إلى اكتشاف الأخطاء.

ثالثًا: الدقة:

ترجع الآثار السلبية للخوارزميات إلى أخطاء في المدخلات الأولية أي البيانات أو شكوك إحصائية في المخرجات أي النتائج. ويُشير مبدأ الدقة إلى ضرورة تحديد مصادر الأخطاء والشكوك وقياسها وفهم طبيعتها للتخفيف من آثارها.

رابعًا: قابلية المراجعة:

يعني هذا المبدأ تمكين الأطراف الخارجية من التحقق من الخوارزميات ومتابعتها ونقدها بما يُسهِم في تصميم أكثر وعيًا ومسارات واضحة للتصويب حال وقوع أخطاء. وتُوفر المراجعات الخاصة بعض الضمانات، وأحيانًا يصعب إجراء مراجعات عامة بسبب قيود المعلومات الخاصة، لكنها مهمة حتى إن تيسرت على نطاقٍ محدود، وحينها ستُقدم فرصة ثمينة للتدقيق في خوارزميات مهمة للمجتمع.

خامسًا: الإنصاف:

مع تنامي دور الخوارزميات في اتخاذ القرار استنادًا إلى بيانات تاريخية، ترتفع مخاطر تحول التحيزات الحالية والسابقة إلى جزءٍ من الطرق الآلية لاتخاذ القرار، ما يُشير لأهمية تقييم جميع قرارت الخوارزميات المُتعلقة بالأفراد وفقًا لدرجة التمييز فيها، كما ينبغي نشر معايير التقييم ونتيجته للجمهور.

المصدر

الصورة