هل نحتاج إلى القوانين للحماية من الخوارزميات؟

تستخدم الخوارزميات بيانات الماضي كمؤشر على المستقبل، لكن ذلك لا يضمن حياديتها دائمًا، وأحيانًا ما يشوب البيانات الأصلية تحيزات مقصودة أو غير مقصودة الأمر الذي يُؤثر سلبًا على قراراتها. وتُؤدي الخوارزميات مهامًا متنوعة تتراوح من اقتراح الكتب والسلع التي ستروق للمستهلكين وكلمات البحث على الإنترنت إلى اختيار الموظفين وقرارات المحاكم. ودفع ذلك ساسة وأحزاب للمطالبة بالتنظيم القانوني لعملها دون الاكتفاء بقواعد تحكم شركات التكنولوجيا.

وتستعين الحكومات والشركات على حدٍ سواء بالخوارزميات في محاولة للتنبؤ بالمستقبل واتخاذ قرارات أكثر استنارة. ومثلًا تستخدم “جوجل” الخوارزميات في الإكمال التلقائي للكلمات التي يبحث عنها مستخدمو محركها البحثي على الإنترنت، وكذلك في ترتيب نتائج البحث.

وتُحدد الخوارزميات خيارات السيارات ذاتية القيادة بشأن السرعة والمسار، وربما تتخذ قرارات أكثر تعقيدًا لتقليل الأضرار في حالات الطوارئ. وتُقيّم الخوارزميات التي تستخدمها شركات الخدمات المالية استحقاق الفرد للحصول على قرض أو بطاقة ائتمانية. وكذلك يستعين أصحاب الأعمال بالخوارزميات لمساعدتهم على اختيار أفضل المتقدمين للوظائف وتقييم إنتاجية الموظفين وقدراتهم.

وترى الكثير من الحكومات في الخوارزميات أداةً قيمة متعددة التطبيقات، وتُتيح للشرطة التنبؤ بالمناطق التي يُرجح أن تشهد معدلات أعلى من الجرائم لتُوجه إليها نصيبًا أوفر من الاهتمام والموارد. وقريبًا سيتمكن القضاة من توظيف الخوارزميات للتوصل للأحكام الأكثر ملائمة وتحديد أي الجناة يُرجح إقدامه على ارتكاب مخالفات بعد إطلاق سراحه.

وفي ظل تنامي حضور الخوارزميات في عالم اليوم، ليس من الغريب سعي الساسة إلى تنظيم عملها، وهي مهمة ليست سهلة بالنظر إلى أهميتها التجارية ورغبة الشركات والمؤسسات الحكومية في الاحتفاظ بطريقة عملها سرًا ضمن القوانين المنظمة لحقوق الملكية الفكرية مثل براءات الاختراع وسرية الاتفاقات.

وربما تفرض القوانين إعلان المؤسسات استعانتها بالخوارزميات في اتخاذ قرارات تُؤثر على الأفراد، لكن ذلك لن يُضيف سوى توفير بعض الشفافية، وتحتاج مساعي التنظيم القانوني للخوارزميات إلى التركيز على المدخلات والمخرجات، أي البيانات والقرارات النهائية.

وفي المملكة المتحدة يُغطي القانون الحالي للمراجعة القضائية البيانات التي تستخدمها المؤسسات الحكومية لتدريب البيانات، ويخول للقضاء تقييم مدى التزام قرارات هذه المؤسسات بالقانون، وبالتالي سيُقيّم مدى صحة البيانات التي اعتمدت عليها الخوارزميات وصلتها بموضوع القرار ومنطقيتها. وكذلك سيتولى القضاء مراجعة القرارات النهائية التي اعتمدت على نتائج الخوارزميات للتأكد من توافقها مع القانون.

ويختلف الحال بالنسبة للشركات الخاصة، وتتباين حاجة الخوارزميات إلى تنظيم قانوني بحسب تأثيرها على الأفراد؛ فغالبًا ستتطلب الخوارزميات التي تُقدم مقترحات حول البرامج والأفلام المفضلة للمستخدمين قدرًا محدودًا من التنظيم أو ربما تستغني عنه كليةً، بينما توجد حاجة ملحة لتنظيم عمل الخوارزميات التي تُحدد أسعارًا مختلفة للمنتجات أو تتحكم في تقديم الخدمات بحسب مستوى الدخل والوظيفة والوضع الاجتماعي.

ولا يعني التدخل القانوني المراقبة التفصيلية للخوارزميات في الوقت الحقيقي؛ وهو خيار غير عملي في المقام الأول، وإنما يعني استخدام الشركات والمؤسسات الخوارزميات على النحو الذي يروق لها، ومحاسبتها لاحقًا على إساءة الاستعمال. كما أن إدارة الخوارزميات ترتبط مُباشرةً بقوانين حماية البيانات.

وفي المملكة المتحدة تُتيح القوانين الحالية للمواطنين رفض اتخاذ القرارات التي تُؤثر عليهم آليًا، ويُمكنهم طلب تولي متخصصين من البشر إعادة التقييم. ومن الممكن الاستعانة بقوانين حماية المستهلك وتنظيم المنافسة للتحكم في الخوارزميات المستخدمة في التسعير.

ويبقى هذا كله رهن بزيادة وعي الجمهور بالأساليب القانونية لمراقبة أنشطة الشركات. وبينما ستكتسب الخوارزميات أهمية ودورًا أكبر، تضمن الشفافية والوعي العام وتبسيط قوانين حماية البيانات والمستهلكين تسخيرها لصالح المجتمعات.

المصدر

الصورة