خطای سیستم تشخیص چهره پلیس دیترویت آمریکا منجر به دستگیری شهروندی بیگناه شد. بهگزارش خبرگزاری دیترویت فری پرس، پلیس مردی را به اتهام ورود به اتومبیل شخصی شهروندی دیگر و پرتاب کردن گوشی او که باعث آسیب دیدن نمایشگر آن شده بود، بازداشت کرد. این سیستمِ تشخیص چهره آقای مایکل اولیور را بهعنوان مظنون احتمالی شناسایی و قربانی هم تصویر او را تایید کرده بود. با این حال، اولیور مدعی شد که مرتکب چنین جرمی نشده و شواهد از این ادعا حمایت میکرد.
سارقی که تصویر او بر روی یک گوشی تلفن همراه ضبط شده بود شباهتی به آقای اولیور نداشت. بر همین اساس وکیل مدافع او تصویری از موکلش را به قربانی و دستیار دادستان نشان داد تا آنها در نهایت پذیرفتند که بهاشتباه اولیور را دستگیر کردهاند. این پرونده توسط قاضی مختومه اعلام شد.
پلیس دیترویت پیش از اجراییشدن قوانین جدید از فناوری تشخیص چهره برای شناسایی مایکل اولیور استفاده کرده بود. آنها حالا صرفا در پروندههای مربوط به جنایات خشن اجازه استفاده از این سیستمها را دارند. داستان ارشد شهرستان وِین میگوید آنها اکنون دقت بیشتری در پروندههای مبتنی بر سیستمهای تشخیص چهره لحاظ میکنند و شرایط این پروندهها را بیشتر مورد ارزیابی قرار میدهند.
این اولین باری نیست که پلیس به خاطر اشتباه سیستم تشخیص چهره شهروندان بیگناه را دستگیر میکند. چند ماه پیش مردی به نام رابرت ویلیامز ۳۰ ساعت را به خاطر جرمی که مرتکب نشده بود در بازداشت سپری کرد.
رئیس پلیس دیترویت در اواخر ماه ژوئن گفته بود فناوری مورد استفاده توسط این سازمان همیشه قابل اتکا نیست: «اگر قرار باشد صرفا با استفاده از این فناوری افراد را شناسایی کنیم، میتوانم بگویم که در ۹۶ درصد مواقع اشتباه خواهیم کرد.» بر اساس اطلاعات منتشره از سوی اداره پلیس، سیستم تشخیص چهره آنها از ابتدای سال ۲۰۲۰ تا تاریخ ۲۲ ژوئن ۷۰ بار مورد استفاده قرار گرفته است. در همه این دفعات، بهجز دو مورد، همگی افرادی که توسط این فناوری شناسایی شدهاند سیاهپوست بودهاند. آقای اولیور و ویلیامز هم سیاهپوست هستند. مطالعاتی وجود دارد که از احتمال جهتگیریهای نژادی در سیستمهای تشخیص چهره حکایت میکند.
دن کوروبکین، دبیر حقوقی اتحادیه آزادیهای شهروندی میشیگان، میگوید: «قوانین جدید پلیس دیترویت نوع لاپوشانی است که از مردم در برابر این فناوری خطرناک و عواقب ناگوار آن، مثل آنچه بر سر رابرت ویلیامز و مایکل اولیور آمده، محافظت نمیکند. قانونگذاران باید در اقدامی فوری استفاده از این فناوری را ممنوع اعلام کنند تا مشخص شود چه سیاستهایی میتواند از بروز این حوادث ناخوشایند جلوگیری کند. در عین حال، پلیس و دادستانها باید در سراسر کشور تمامی پروندههای مربوط به استفاده از فناوری را بررسی کرده و همه کسانی را که در نتیجه اعلام این سیستمها دستگیر میشوند معرفی کنند. این فناوری در صورت عملکرد صحیح یا غلط خطرناک است.»
شهرهای مختلفی مثل بوستون و سن فرانسیسکو پیشتر استفاده از فناوریهای تشخیص چهره را ممنوع یا محدود کرده بودند. نمایندگان کنگره ماه گذشته در لایحهای از دولت فدرال خواسته بودند بدون مجوزهای صریح قانونی استفاده از سیستمهای نظارتیِ بیومتری را متوقف کنند. شرکتهای بزرگ فناوری هم فعالیت در این زمینه را مورد ارزیابی مجدد قرار دادهاند. IBM میگوید آنها به دلیل نگرانیهای حقوق بشری دیگر برای مصارف عمومی نرمافزارهای تشخیص چهره نمیسازند. آمازون امکان استفاده پلیس از سیستم Rekognition را متوقف کرده و مایکروسافت هم اظهار داشته که فناوریهای تشخیص چهره خود را به پلیس نمیفروشد تا قوانین فدرال مستحکمی با در نظر گرفتن موضوعات حقوق بشری تصویب شود.