منظمة العفو الدولية تدعو إلى فرض حظر على أنظمة تحديد المخاطر الخاصة بالذكاء الاصطناعي
تقول منظمة العفو الدولية إن استخدام الذكاء الاصطناعي في التنميط التنبؤي أو تقييم المخاطر يجب حظره في مجموعة من “السياقات عالية المخاطر”، مثل الشرطة والهجرة والرعاية الاجتماعية، على أساس أنه لا يمكن إلا أن يؤدي إلى ترسيخ أنماط التمييز القائمة.
ووفقًا لتقرير نشرته المجموعة في 11 يونيو 2026، فإن أنظمة تحديد المخاطر الآلية التي تعمل بالذكاء الاصطناعي تؤدي إلى اتهامات جنائية كاذبة ضد الفئات المهمشة، وتتعارض مع القانون الدولي لحقوق الإنسان.
ويسلط التقرير الضوء على كيف أن تحليل مخاطر الذكاء الاصطناعي – الذي تستخدمه السلطات العامة في مجال إنفاذ القانون والضمان الاجتماعي والهجرة لتحديد المجرمين المحتملين وتقييم ما إذا كان من المحتمل أن ينتهك شخص أو مجموعة القانون، قبل ارتكاب الجريمة – يؤدي إلى التمييز على أساس العرق والانتماء العرقي والوضع الاجتماعي والاقتصادي والإعاقة، مما ينتهك الحق في المساواة وعدم التمييز.
وقال ألكسندر لوفر، الباحث في منظمة العفو الدولية في هولندا في مجال التكنولوجيا وحقوق الإنسان: “إن الطريقة التي يتم بها نشر هذه الأدوات يمكن أن تكون نتيجة لقوالب نمطية وأحكام مسبقة موجودة مسبقاً والتي تعتبر المجموعات المهمشة إجرامية أو خطرة بطبيعتها”. “يتحول الأفراد أو الجماعات من مشتبه بهم إحصائيين وافتراضيين إلى مشتبه بهم فعليين، مما يؤدي إلى ترسيخ التحيزات الموجودة مسبقًا أو توليد تحيزات جديدة. وهذا نتيجة للتمييز المنهجي القائم”.
أنظمة تحديد المخاطر القائمة على الذكاء الاصطناعي المدربة على البيانات التمييزية
وحتى الآن، تم نشر هذه التكنولوجيا في جميع أنحاء السويد والدنمارك وفرنسا وهولندا وأستراليا، في التحقيقات المتعلقة بالاحتيال الاجتماعي وخطط استرداد الديون.
تم تعليق استخدام أحد أنظمة الذكاء الاصطناعي في السويد في نوفمبر 2025، بعد أن وجدت التحقيقات أن التكنولوجيا حددت بشكل غير متناسب وبشكل غير صحيح المجموعات المهمشة للتحقيق بشأن الاحتيال في المزايا الاجتماعية.
وقبل تعليق هذا النظام، وصفت منظمة العفو الدولية استخدام نظام التصنيف هذا بأنه “أشبه بمطاردة الساحرات”.
البيانات المستندة إلى التمييز المنهجي الحالي تعني أنه يمكن استهداف المجموعات المهمشة مع زيادة خطر تصنيفها على أنها “مشبوهة”. وأشارت منظمة العفو الدولية إلى أن ذلك يشمل “الأشخاص العنصريين، والمسلمين، والأشخاص المتنقلين، والأشخاص ذوي الإعاقة أو الأمراض المزمنة، وذوي الدخل المنخفض”.
وقال لوفر إن تحديد مخاطر الذكاء الاصطناعي يمكن أن يؤدي إلى اتهامات جنائية كاذبة، والسجن، والتشرد، والترحيل، والحرمان من المزايا الاجتماعية، في حين أن الافتقار إلى الشفافية في التكنولوجيا يمكن أن يترك الأفراد “غير قادرين على تحدي هذه الأنظمة والقرارات التي تؤثر على حقوقهم”.
وأضاف: “كما أنها تشكل مخاطر على حقوق الإنسان الأخرى، مثل الحق في محاكمة عادلة، وافتراض البراءة، والحق في الخصوصية وحماية البيانات، والضمان الاجتماعي ومستوى معيشي لائق، والإعمال الكامل للكرامة الإنسانية”.
هل تستطيع خوارزميات الذكاء الاصطناعي التنبؤ بالسلوك الإجرامي المحتمل؟
على الرغم من المخاوف التي أثارتها منظمة العفو الدولية وغيرها من أن التكنولوجيا غير دقيقة باستمرار ومشكوك فيها من الناحية العلمية، تواصل الحكومات تكثيف استخدامها لتصنيف المخاطر المدعوم بالذكاء الاصطناعي باعتباره “وسيلة فعالة من حيث التكلفة لمكافحة الجريمة والاحتيال في الضمان الاجتماعي والهجرة غير النظامية”.
ومع ذلك، من وجهة نظر لوفر، “من المستحيل تصميم خوارزمية موضوعية أو محايدة لتحديد المخاطر – فالبيانات المتعلقة بالأشخاص ليست موضوعية أبدًا”.
وأضاف التقرير أن البيانات المطلوبة للتنبؤ بما إذا كان الفرد سيرتكب جريمة لا وجود لها ولا يمكن أن توجد، مما يعني أنه يتم استخدام بيانات غير موثوقة ومتحيزة كمؤشرات للتنبؤ بالسلوك الإجرامي المحتمل.
كما أشارت الدراسة إلى أنه نظرًا لأن السلوك البشري “غير قابل للتحديد بطبيعته” و”قابل للتكيف”، فمن المستحيل التنبؤ بالسلوك المستقبلي بدقة.
وقالت: “في بعض الحالات، لا توجد علاقة معقولة بين البيانات التي يمكن ملاحظتها والسلوك المقترح المتوقع، مثل العلاقة بين العرق أو الإثنية والإجرام – أي التنميط العنصري”.
“في حالات أخرى، بغض النظر عن كمية البيانات، لا توجد بيانات أو بيانات وكيلة جيدة بما فيه الكفاية أو موضوعية بما يكفي لوضع نموذج مناسب للظاهرة الأساسية. وتشمل هذه الأنظمة تحديد المخاطر الذي يحاول التنبؤ بالإجرام أو مسار الحياة أو الميل إلى ارتكاب الاحتيال في الضمان الاجتماعي على المستوى الفردي أو موقع محدد. وقد تم فضح هذه الأنظمة التنبؤية واستنكارها باعتبارها سوء ممارسة علمية. “
إن المراقبة المستهدفة تغذي التحيزات القائمة
وأضاف لوفر أن استخدام البيانات الاجتماعية للتنبؤ بما إذا كان شخص ما سيرتكب جريمة ما يستهدف حتماً الأفراد الذين ينتمون إلى مجموعات مضطهدة تاريخياً أو مهمشة وممثلة بشكل زائد في مجموعات البيانات الأساسية، مما يؤدي إلى تفاقم مظالم الماضي.
وقال: “إن محاولات التنبؤ بالاحتيال أو الإجرام غالبًا ما تؤدي إلى تحويل المجتمعات والأفراد المهمشين تلقائيًا إلى مشتبه بهم بدلاً من اتخاذ القرارات القائمة على الأدلة”.
وقد سبق لمنظمة العفو الدولية أن اعتبرت الأدوات التي تعمل بالذكاء الاصطناعي أدوات تمييزية، حيث تم استخدام أدوات المراقبة لتعقب وترحيل المهاجرين في الولايات المتحدة.
صرحت بيترا مولنار، محامية الهجرة وحقوق الإنسان ومديرة مختبر قانون اللاجئين في جامعة يورك، لموقع كمبيوتر ويكلي سابقًا أن الأدوات التي تعمل بالذكاء الاصطناعي يمكن أن تحاكي التحيزات القائمة: “الخوارزميات مبنية اجتماعيًا، وعالمنا مبني على العنصرية المنهجية والتمييز التاريخي”.
وفي المملكة المتحدة، كشفت منظمة Statewatch سابقًا أن وزارة العدل في المملكة المتحدة كانت تعمل على تطوير أدوات تحليل البيانات القائمة على البيانات للتنبؤ بالجرائم، بما في ذلك أداة تهدف إلى التنبؤ بالقتلة المحتملين. وقال المنتقدون إن هذه الأنظمة تؤدي إلى تفاقم ردود الفعل من خلال زيادة مراقبة المجتمعات الفقيرة والعنصرية، مع تحذير منظمة العفو الدولية بشكل منفصل من أن الشرطة التنبؤية تخاطر بـ “زيادة العنصرية”.
في يناير 2026، أعلنت وزارة الداخلية عن استثمار بقيمة 140 مليون جنيه إسترليني في PoliceAI – بما في ذلك تمويل 40 وحدة جديدة للتعرف على الوجه المباشر – مما يشير إلى توسيع نطاق الذكاء الاصطناعي بشكل كبير في أعمال الشرطة، ومن المقرر طرحه على مدى السنوات الثلاث المقبلة.
رئيس تحرير يمني وصحفي محترف حاصل على درجة في الإعلام. عمل في عدة صحف ومواقع إخبارية وتدرّج من محرر إلى رئيس تحرير. يشرف على المحتوى الإخباري ويقود فريقًا صحفيًا مع الالتزام بالمصداقية والمهنية.
