الذكاء الاصطناعي ، بينما يوجد في كل جانب من جوانب حياتنا اليومية ، بعيد عن الكمال. هذا مهم خاصة عندما يؤثر تطبيقه على الحقوق المدنية.
خذ ، على سبيل المثال ، تقنية التعرف على الوجه ، وهو نوع من الذكاء الاصطناعى الذي يمكنه مسح مجموعات البيانات الضخمة من صور الوجه لتحديد ما إذا كانت صورتان تنتمي إلى نفس الشخص. حكومة الولايات المتحدة ، تدرك هذه السلطة الهائلة ، تم تبنيه ونشره وتسهيله انتشار الاعتراف بالوجه عبر إنفاذ القانون والأمن الداخلي وحتى الإسكان العام.
يوضح لنا التعرف على الوجه أنه عندما يتم نشر التكنولوجيا المعقدة والمتطورة مثل الذكاء الاصطناعى في العالم الحقيقي ، على عكس المختبر ، فإن العيوب التكنولوجية التي قد تكون نقاط بيانات مثيرة للاهتمام في المحاكاة يمكن أن تقوض الحريات الأساسية للشعب الأمريكي.
بناءً على طلبي ، أجرت لجنة الحقوق المدنية الأمريكية تحقيقًا لمدة أشهر في استخدام الحكومة الفيدرالية للاعتراف بالوجه داخل إدارات العدالة والأمن الداخلي والإسكان والتنمية الحضرية. ثم نشرنا الحزبين تقرير في الخريف الماضي ، اعترف بأداة التكنولوجيا في حل الجرائم ، ومكافحة تهديدات الإرهاب وتحديد موقع الأطفال المفقودين.
ومع ذلك ، يسلط التقرير أيضًا الضوء على المخاطر الخطيرة التي يطرحها الاعتراف بالوجه على الحقوق المدنية لجميع الأميركيين. يعد هذا التقرير مهمًا ليس فقط لمساهماته في مجال ناقص الافتراض ، ولكن أيضًا للإجماع النادر الذي حصل عليه في وكالة مقسمة بالتساوي بين المعينين الديمقراطيين والجمهوريين. هذا يدل على أن الحقوق المدنية تتعلق بمنظمة العفو الدولية ليست حزبية.
تعتبر تقنية التعرف على الوجه نظامًا للمكونات المترابطة المدربين إلى حد كبير على صور الأشخاص البيض ، مما يؤدي إلى نماذج أسوأ في التعرف بدقة على الأشخاص غير البيض في البيئات الواقعية. لا يزال بإمكان نظام التعرف على الوجه تفسير البيانات من المجموعات الممثلة تمثيلا ناقصا ، ولكن مع ارتفاع معدلات الخطأ.
قد تلتقط تقنية الكاميرا التي تعتمد عليها خوارزميات التعرف على الوجه صورًا مختلفة تمامًا عن لون بشرة الشخص نفسه اعتمادًا على جودة الكاميرا وتحديد الكاميرا وإضاءة البيئة. قد تعيد خوارزمية تقنية التعرف على الوجه بعد ذلك تطابقًا إيجابيًا كاذبًا ، مما يعني أن النظام يعتقد أن شخصين مختلفين متماثلان ، أو ضربة سلبية خاطئة ، مما يعني أن النظام يعتقد أن الشخص نفسه هو في الواقع شخص مختلفان.
وبعبارة أخرى ، فإن التعرف على الوجه له عيوب متحيزة ضد الأشخاص الملونين ويضرون بشكل غير متناسب. هذا صحيح أيضا بالنسبة للنساء وكبار السن.
من الأهمية بمكان أن نفهم تمامًا كيف تترجم هذه العيوب في التكنولوجيا إلى عواقب وخيمة. إذا كانت وكالات إنفاذ القانون تعتمد على التعرف على الوجه الذي لم يتم اختباره بشكل صحيح ، وإذا لم تدرب الوكلاء في الاستخدام السليم للتعرف على الوجه والكشف عن استخدام التعرف على الوجه للمدعى عليهم في القضايا الجنائية ، فإن مباراة إيجابية خاطئة يمكن أن تدمر أحد الأبرياء حياة.
شهد مواطن ميشيغان روبرت ويليامز هذا مباشرة عندما كان تم القبض عليه خطأ أمام عائلته لسرقة متجر Shinola في ديترويت بعد أن أصبحت صورتين للمراقبة الضبابية أساسًا لنتيجة التعرف على الوجه غير متطابقة.
قضيته تنطوي على إغفال التعرف على الوجه في أمر الاعتقال وإجراءات تشكيلة الصور غير موثوق بها. وقد أدى ذلك إلى تسوية غير مسبوقة من قبل إدارة شرطة ديترويت التي تتطلب تدريبًا على مخاطر التعرف على الوجه ، خاصة عند استخدامها على الأشخاص ذوي اللون ، وتراجع كبير في اعتماد الإدارة على التكنولوجيا.
لكن تخيل العواقب المباشرة والجانبية على وليامز وأحبائه إذا لم تظهر هذه الأدلة المفرطة أبدًا وتم إدانته وحُكم عليه – أو ، بشكل أكثر واقعية ، تم إجباره تحت وطأة النظام القانوني الإجرامي بالإقرار بالذنب.
حديث تحقيق كشفت واشنطن بوست أن أقسام الشرطة في جميع أنحاء أمريكا تتجاهل في كثير من الأحيان سياساتها الداخلية التي تهدف إلى منع هذه الهوية غير الدقيقة.
هذا أمر مثير للقلق بشكل خاص بالنظر إلى شهادة قائد الشرطة Armondo Aguilar ، الذي أخبرت اللجنة في الربيع الماضي ، فإن برنامج Clearview AI في كل مكان تستخدمه إدارة شرطة ميامي هو فقط 40 في المائة من الوقت قبل فحص الحقائق على مستوى الإنسان المطلوب بموجب إرشادات الإدارات. وحتى مع ذلك ، يمكن للمراجعين البشر الوقوع في ضحية “تحيز الأتمتة” ، والميل إلى تفضيل الاقتراحات من الأنظمة الآلية وتجنب المعلومات المتناقضة.
تقنية التعرف على الوجه ليست مجرد مشكلة في تطبيق القانون. إذا استخدمت سلطات الإسكان العامة الاعتراف بالوجه لاستقصاء مستأجريهم ، الذين لا يمنحهم دخلهم أي بديل ذي معنى لمثل هذا السكن والنتائج السلبية الخاطئة.
مثل هذه القضايا كانت أساسية في واشنطن بوست 2023 تحقيق في استخدام أنظمة المراقبة من قبل سلطات الإسكان العام ، العديد من القدرات على التعرف على الوجه.
إن اختبار تقنية التعرف على الوجه ، ودرجات التدريب والنشر ، كما هي موجودة اليوم ، ليست شمولية ولا موحدة بما يكفي لحساب السيناريوهات المعقدة في العالم الحقيقي التي تنشر فيها الحكومات على المستويات الفيدرالية والمحلية التعرف على الوجه.
لتلخيص ، عندما تنشر الحكومة الفيدرالية وتعتمد بشكل كبير على تكنولوجيا التعرف على الوجه في سيناريوهات العالم الحقيقي دون الاختبار والرقابة المناسبين ، كما هو الحال في شكل “إنسان في الحلقة” لمراجعة نتائج البحث بشكل مستقل ، يمكن أن يكون ذلك كن أساسًا للاعتقالات الخاطئة ، والإدانات غير المشروعة ، وممارسات الإسكان غير العادلة ، ليقولوا شيئًا عن مخاطر الخصوصية المتأصلة في المراقبة الجماعية.
مع انتشار الذكاء الاصطناعى بسبب فائدته ، يجب أن ندرك مخاطرها المتزايدة على الحقوق المدنية والحريات المدنية. تقدم العديد من التوصيات الرئيسية للحكومة الفيدرالية الواردة في تقرير اللجنة إطارًا لكيفية قيام الحكومات على المستويات الفيدرالية والمحلية ، وحتى الجهات الفاعلة الخاصة ، بالحماية من هذه الأضرار.
أولاً ، يجب أن يكون اختبار التعرف على الوجه وتدريبه إلزاميًا وموحدًا ويتضمن سيناريوهات في العالم الحقيقي.
ثانياً ، يجب إعطاء الأولوية للشفافية العامة في استخدام التعرف على الوجه من قبل إدارة أو وكالة ، مثل نشر سياسات الاستخدام على مواقع الويب الخاصة بهم وإبلاغ المدعى عليهم الجنائيين عند استخدام التعرف على الوجه ضدهم.
ثالثًا ، يجب أن يكون للأفراد الذين تعرضوا للأذى من سوء الاستخدام أو إساءة استخدام تكنولوجيا التعرف على الوجه آلية قانونية لتصحيح أي ضرر عانى.
تقدم هذه اللحظة في التاريخ فرصة حاسمة للحكومة الأمريكية لتلبية هذه اللحظة من الإمكانات التكنولوجية الهائلة مع الاعتبار الواجب والحماية للحقوق المدنية والحريات المدنية لكل أمريكي.
Mondaire Jones هي عضو في لجنة الحقوق المدنية الأمريكية وممثلًا ديمقراطيًا في الولايات المتحدة في منطقة الكونغرس السابعة عشر في نيويورك التي تعمل في لجان القضاء والأخلاقيات في مجلس النواب.
