مطالعات MIT می‌گوید که تکنولوژی چهره آمازون جنسیت و نژاد را تشخیص می‌دهد
تبلیغات
طبق یک تحقیق در دانشگاه ماساچوست که روز پنج شنبه منتشر شد، در آزمایش فناوری تشخیص چهره آمازون، زمانی نرم افزار دچار مشکل می‌شد که جنسیت زنانی با پوست تیره را تشخیص می‌داد. این نرم افزار به طور کلی اشتباهات بیشتری را در شناسایی جنسیت نسبت به فناوری رقابتی مایکروسافت و آی بی ام انجام داد. بر اساس این تحقیق، نرم افزار تشخیص چهره آمازون 19 درصد زنان را به جای مردان شناسایی نموده است. علاوه بر این، زنانی که پوست تیره‌تری دارند 31 درصد بیشتر به عنوان مرد تشخیص داده می‌شوند. در مقایسه با نرم افزار مایکروسافت، زنانی با رنگ پوست تیره‌تر 1.5 درصد بیشتر به عنوان مرد تشخیص داده شده‌اند.
مت وود مدیر کل قسمت هوش مصنوعی در قسمت وب سرویس آمازون گفت که نتایج آزمایش این تحقیق بر اساس تجزیه و تحلیل و نه تشخیص چهره است. وی گفت که تجزیه و تحلیل می‌تواند چهره را در فیلم‌ها یا تصاویر پیدا و ویژگی‌های عمومی مانند زدن عینک را تشخیص دهد. او ادامه داد که شناخت چهره فرد در تصاویر فیلم‌ها و عکس‌ها تقریبا یکسان است. اما فناوری ادراک شامل هر دو ویژگی است. وود می‌گوید: «ممکن است نتیجه گیری در مورد دقت تشخیص چهره برای سوژه بر اساس نتایج به دست آمده از تجزیه و تحلیل چهره صورت نگیرد.»وی اضافه کرد که مطالعه از آخرین نسخه نرم افزار استفاده نکرده است. وود می‌گوید که آمازون با استفاده از نسخه به روز شده ادراک و با داده‌های مشابه، مورد تحقیق قرار نگرفته است.
دبورا راجی نویسنده این تحقیق خاطر نشان کرد که او و همکارانش تمایز بین تشخیص چهره و تجزیه و تحلیل صورت را درک کرده و بر اساس آن پیش رفته‌اند. راجی در ادامه گفت: «ما در مقاله خود روشن می‌کنیم که طبق تعریف ارزیابی ما، تجزیه و تحلیل چهره از طبقه بندی جنسیتی تفکیک شده است. این بدین معنی است که با توجه به تعداد چهره‌های شناسایی شده، نرم افزار چگونه تشخیص می‌دهد؟»
بوالاموینی نیز روز جمعه در وبلاگ خود نوشت: «این نرم افزار با در نظر گرفتن معیاری به بزرگی بیش از 1 میلیون چهره برای آزمایش توانایی‌های تشخیص چهره خود عملکرد خوبی انجام داده است. در حالی که عملکرد آنها در این معیار ممکن است قابل ستایش باشد، ما ترکیب جمعیت شناختی و فنوتیپی (نوع پوست) این معیار را نمی‌دانیم. بدون این اطلاعات ما نمی‌توانیم برای نژاد، جنسیت، رنگ و سایر گونه‌ها محاسبه دقیقی داشته باشیم.»
آمازون اطلاعات خود را به سازمان‌های قانونی ارائه می‌دهد، هر چند گروه‌های آزادی مدنی، اعضای کنگره و کارکنان خود آمازون نگرانی‌هایی مربوط به حریم خصوصی را مطرح کرده‌اند. در اوایل ماه جاری، یک گروه از سهامداران آمازون این شرکت را تحت فشار قرار دادند تا فناوری ادراکی خود را در اختیار سازمان‌های دولتی قرار ندهد.
با توجه به مطالعات دانشگاه ماساچوست، بوالاموینی گفت که فروش این فناوری به سازمان‌های اجرایی قانونی ولی غیر مسئولانه ارزیابی می‌شود. او گفت که فناوری تجزیه و تحلیل چهره می‌تواند مورد سو استفاده قرار گیرد و منجر به نظارت بر اجتماع شود. علاوه بر این، با اشتباهات این فناوری ممکن است افراد بیگناه به عنوان مجرم شناسایی شده و بی گناه محکوم شوند. راجی نیز با تکرار این اظهارات گفت که اگر سیستم به دلیل اشتباه در یک نمونه آماری در قسمت خاصی از جمعیت به اشتباه یک مظنون را شناسایی کند، فرد ممکن است به طور جدی متضرر شود.
