روی خط خبر

موضوع: تکنولوژی و فناوری اطلاعات منبع: دیجی مگ
امتیاز: 5 5

مطلب با عنوان سیستم تشخیص چهره آمازون اعضای کنگره را جنایتکار تشخیص داد از وب سایت دیجی مگ digimag با درج لینک اصلی خبر نمایش داده شده است.

سیستم تشخیص چهره آمازون اعضای کنگره را جنایتکار تشخیص داد

دیجی کالا مگ - منبع جامع اخبار و مقالات تخصصی در حوزه ی تکنولوژی، بازی های کامپیوتری، فرهنگ و هنر، سلامت و زیبایی و سبک زندگی

اتحادیه آزادی های مدنی آمریکا (ACLU) سیستم تشخیص چهره آمازون را آزمایش کرد و به نتایج خوبی دست نیافت. ACLU برای آزمون خود چهره ۵۳۵ عضو کنگره آمریکا را در برابر ۲۵۰۰۰ عکس بازداشت (عکسی که از جنایتکاران هنگام بازداشت کردن آن ها گرفته می شود) قرار داد و از سیستم تشخیص چهره آمازون خواست تا این عکس ها […]

The post جنایتکار یا عضو کنگره؟ سیستم تشخیص چهره آمازون اشتباه کرد! appeared first on دیجی کالا مگ.

اتحادیه آزادی های مدنی آمریکا (ACLU) سیستم تشخیص چهره آمازون را آزمایش کرد و به نتایج خوبی دست نیافت. ACLU برای آزمون خود چهره ۵۳۵ عضو کنگره آمریکا را در برابر ۲۵۰۰۰ عکس بازداشت (عکسی که از جنایتکاران هنگام بازداشت کردن آن ها گرفته می شود) قرار داد و از سیستم تشخیص چهره آمازون خواست تا این عکس ها را اسکن کند و بگوید آیا هر یک از اعضای کنگره جزو لیست بازداشت شدگان بوده اند یا خیر؟ با وجود این که هیچ یک از اعضای کنگره هیچ سابقه بازداشتی نداشتند، اما سیستم تشخیص چهره آمازون ۲۸ نفر از این افراد را به اشتباه به عنوان جنایتکاران تشخیص داد.نتایج این آزمون نگرانی هایی در خصوص استفاده پلیس از این سیستم ایجاد کرد. چندی پیش سیستم تشخیص چهره به عنوان بخشی از خدمات ابری شرکت آمازون در اختیار پلیس اورلاندو قرار گرفت و گروهی از سازمان های اجرای قانون از این سیستم برای تشخیص چهره فوری افراد استفاده کردند. نتایج آزمون ACLU نشان داد که این سیستم هنوز چندان دقیق نیست و اگر ارگان های قضایی از این سیستم استفاده کنند ممکن است شهروندان بی گناه را دچار دردسر کند.هرچند تشخیص با اطمینان ۸۰٪ برای عکس هایی مانند غذا، ابزار، حیوانات، خودروها و غیره می تواند قابل قبول باشد اما تشخیص چهره انسان با این ضریب اطمینان اصلا منطقی نیست. هنگامی که احراز هویت توسط انسان صورت می گیرد، پیش از دستگیری مدارک شناسایی بررسی می شود؛ اما اگر این تشخیص هویت توسط هوش مصنوعی انجام شود می تواند عواقب جبران ناپذیری داشته باشد. تصور کنید یک افسر پلیس به دنبال فردی مجهز به اسلحه باشد. اگر این سیستم، اطلاعات نادرستی به افسر پلیس بدهد ممکن است این افسر برای پیشگیری از اقدام مجرم فرضی به او شلیک کند و در این صورت تصور عواقب این اقدام چندان دشوار نیست.از ۲۸ تشخیص نادرستی که این سیستم داشت ۱۱ نفر (تقریبا ۳۹ درصد) رنگین پوست بودند.در این آزمون مشخص شد که این سیستم در تشخیص زنان و رنگین پوستان خطای بیشتری دارد. از ۲۸ تشخیص نادرستی که این سیستم داشت ۱۱ نفر (تقریبا ۳۹ درصد) رنگین پوست بودند و از این تعداد ۵ نفر عضو کانون سیاه پوستان بودند. در حال حاضر تنها ۲۰ درصد از اعضای کنگره سیاه پوست هستند و این نتیجه نشان می دهد که میزان اشتباهات در مورد سیاه پوستان به شکل قابل توجهی بیشتر است. این موضوع نگرانی هایی در مورد عواقب نژادپرستانه می تواند به دنبال داشته باشد. به همین دلیل ۵ نماینده سیاه پوست که چهره آن ها به صورت نادرست شناسایی شده بود، نامه سرگشاده ای خطاب به «جف بزوس» مالک آمازون نوشتند و از این بابت ابراز نگرانی کردند و از او خواستند تا این مورد را اصلاح کند.این آزمایش همچنین باعث نگرانی در مورد حریم خصوصی شده است. تمام داده های ACLU از منابع عمومی به دست آمده بود. دسترسی به مشخصات افراد سابقه دار با استفاده از سرویسی که تنها ۱۲ دلار هزینه دارد، نگران کننده است. همچنین اگر دولت ها از این سیستم به عنوان ابزار نظارت استفاده کنند، حریم خصوصی و حقوق مدنی افراد تحت تاثیر قرار می گیرد.سخنگوی آمازون نتایج این آزمون را به کالیبراسیون ضعیف نسبت داد اما با این حال گروه انجام دهنده آزمون نسبت به حقوق انسان ها و عواقب ناشی از استفاده ارگان های قضایی از این سیستم هشدار دادند.منبع: The VERGE

برچسب ها:

مطلب با عنوان سیستم تشخیص چهره آمازون اعضای کنگره را جنایتکار تشخیص داد از وب سایت دیجی مگ digimag با درج لینک اصلی خبر نمایش داده شده است و آپین در قبال محتوای اخبار هیچ مسئولیتی ندارد.

مطلب با عنوان سیستم تشخیص چهره آمازون اعضای کنگره را جنایتکار تشخیص داد از وب سایت دیجی مگ با درج لینک اصلی خبر نمایش داده شده است. جهت مشاهده جزئیات بیشتر به دیجی مگ digimag مراجعه نمائید.

اخبار گوناگون