الذكاء الاصطناعي في إدارة الهجرة: قرارات تمس حياة البشر
الذكاء الاصطناعي في إدارة الهجرة: قرارات تمس حياة البشر
أسرع، أفضل، وأكثر أمانًا – هذا ما تأمله الحكومة الألمانية من قانونها المقترح لاستخدام الذكاء الاصطناعي في إدارة الهجرة. المسودة التي اتفقت عليها الحكومة في نهاية يوليو ستؤثر ليس فقط على طالبي اللجوء، بل أيضًا على الأشخاص الذين يتقدمون للحصول على تأشيرة في ألمانيا، أو الذين حصلوا على إقامة مؤقتة أو تصريح إقامة.
يُدخل القانون ثلاث تغييرات رئيسية: أولاً، يُسمح للسلطات التي تتعامل مع قوانين اللجوء والإقامة باستخدام البيانات الشخصية لتدريب أو اختبار أنظمة الذكاء الاصطناعي. ثانيًا، يمكنها إنشاء “رصد آلي للإجراءات” للحصول على إشارات حول ما إذا كان يتم رفض الطلبات ذات الخصائص المتشابهة بشكل متكرر. ثالثًا، يُسمح للمكتب الاتحادي للهجرة واللاجئين والسلطات الأجنبية بمطابقة البيانات تلقائيًا مع الإنترنت في حالة وجود شكوك حول المعلومات المقدمة.
بالمقارنة مع المسودة الأولى التي تم الكشف عنها، تضمنت النسخة النهائية للحكومة تحسينات طفيفة، مثل حظر استخدام البيانات البيومترية في المطابقات الآلية. ومع ذلك، فإن هذه التعديلات لم تكن كافية لتهدئة الانتقادات من الجمعيات والمفوضين الفيدراليين المختلفين.
لا يمكن منع التمييز من خلال القوانين فقط
وفقًا لمعلومات من netzpolitik.org، أعربت مفوضة مكافحة التمييز الفيدرالية، فردا أتمان، عن مخاوف كبيرة خلال المناقشات الحكومية. وانتقدت، من بين أمور أخرى، أن الحظر المفروض على الخوارزميات التمييزية لم يُناقش بشكل كافٍ. تنص مسودة القانون في عدة مواضع فقط على أن السلطات المعنية يجب أن تضمن عدم “تطوير أو استخدام خوارزميات تمييزية”، مع اتخاذ “الإجراءات التقنية والتنظيمية اللازمة” لتحقيق ذلك. وطالبت أتمان، وفقًا لمعلومات netzpolitik.org، بإعداد تقارير شفافية سنوية عن الأنظمة المطورة والمستخدمة.
كما انتقدت العديد من الجمعيات ضعف الحماية ضد التمييز. وحذرت نورا أوبيرمان من منظمة AlgorithmWatch غير الحكومية من تعريض الناس لأنظمة ذكاء اصطناعي غير ناضجة واستخدام مصائرهم لأبحاث غير مدعومة بالأدلة.
كتبت منظمة Pro Asyl في بيانها أن المتطلبات المتعلقة بـ “شفافية الأنظمة، وحماية البيانات الشخصية الحساسة للغاية، ومنع القرارات التمييزية” غير كافية. وحذرت فيبكه جوديث، المتحدثة باسم السياسة القانونية للمنظمة الحقوقية، في بيان صحفي: “منح الضوء الأخضر لاستخدام الذكاء الاصطناعي لعشرات السلطات، كما ينص مشروع القانون حاليًا، أمر خطير للغاية”. وأضافت جوديث: “لأن الأمر يتعلق بقرارات تمس حياة البشر”.
تطالب المنظمة البرلمان بعدم المضي قدمًا في مشروع القانون أو مراجعته بشكل جذري. ومن المقرر أن يبدأ البرلمان مناقشاته حول المشروع بعد العطلة الصيفية.
الكفاءة لا يجب أن تكون على حساب المبادئ الدستورية
تطالب مفوضة حماية البيانات وحرية المعلومات الفيدرالية، لويزا سبيخت-ريمنشنايدر (BfDI)، أيضًا بمراجعة القانون. وكتب متحدث باسم الهيئة لـ netzpolitik.org أن الهيئة ترى أن استخدام الذكاء الاصطناعي “يمكن أن يجعل الإجراءات الإدارية أكثر كفاءة” وترحب بهذا الهدف. “لكن الكفاءة لا يجب أن تكون على حساب المبادئ الدستورية”. ومن وجهة نظر BfDI، هناك حاجة إلى تحسينات في العملية البرلمانية.
وقال المتحدث: “يجب أن يحدد مشروع القانون بوضوح البيانات التي يمكن استخدامها لتطوير واستخدام أنظمة الذكاء الاصطناعي”. وأضاف: “حيثما تكفي البيانات المجهولة، لا ينبغي استخدام البيانات الشخصية. وإذا لم تكن كافية، يمكن استخدام المعلومات المجهولة الهوية. فقط إذا لم تكن هذه كافية، يمكن استخدام المعلومات الشخصية لتطوير واستخدام أنظمة الذكاء الاصطناعي”.
وأضاف أن المطابقة الآلية مع البيانات المتاحة للجمهور تمثل “تدخلاً كبيرًا في الحقوق الأساسية”. وقال المتحدث: “لذلك، لا يكفي أن يتم التحقق من نتيجة هذا المطابقة من قبل شخص. يجب التحقق مسبقًا مما إذا كانت هناك شكوك حقيقية تبرر مثل هذا المطابقة. يجب استبعاد أي آلية تلقائية خوارزمية كمحفز”.
مفوضة الاندماج ترحب بخطط الذكاء الاصطناعي
ترحب مفوضة الاندماج الفيدرالية، ناتالي باوليك، بالمشروع. وقالت متحدثة باسمها: “إن تطوير واستخدام الذكاء الاصطناعي في إدارة الهجرة لديه القدرة على تقليل الاختناقات في معالجة الطلبات وتقليل وقت الانتظار للحصول على قرار”. وأشادت، من بين أمور أخرى، بـ “الحظر الصارم للتمييز”. وأضافت: “بهذا الشكل، يتم الحفاظ على التوازن بين الابتكار التقني وحماية البيانات”.
في دول أخرى تستخدم أنظمة آلية على نطاق واسع في مجال إدارة الهجرة، ظهرت مشكلات وما يمكن أن يسوء: في عام 2023، كشفت تحقيقات صحفية عن مشكلات وتمييز في تصنيف طلبات التأشيرات في هولندا: حيث صنف النظام المستخدم رجال نيباليين غير متزوجين في فئات خطرة معينة.
في حالة حديثة من المملكة المتحدة، استندت وزارة الداخلية هناك في رفض طلب لجوء إلى وثيقة لم يتم إثبات وجودها بشكل قاطع. واتهم قاضٍ الوزارة بالاعتماد على “معلومات متخيلة من الذكاء الاصطناعي” في قرارها. ومع ذلك، يشير ذلك إلى أهمية المراجعة الفردية لجميع الطلبات.
من المقرر إدخال تقنية جديدة للتعرف على العمر في المملكة المتحدة. ويخشى النقاد أن يؤدي ذلك إلى تصنيف المزيد من اللاجئين القصر غير المصحوبين بذويهم كبالغين مقارنة بالوضع الحالي.
???? تم نقل وترجمة التقرير كاملاً بشكل حصري بواسطة قسم الدراسات في AboMatrix