چرا سیستم تشخیص چهره آمازون باید شما را نگران کند؟

چرا سیستم تشخیص چهره آمازون باید شما را نگران کند؟

آیا می‌دانید که اکثر فیلم‌های هیجان‌انگیز آینده دیستوپیایی چگونه دارای دوربین‌های تشخیص چهره هستند که دولت‌های مستبد از آن برای ردیابی و کنترل هر حرکت شهروندان خود استفاده می‌کنند؟ آمازون سخت کار می کند تا دقیقاً این نوع تشخیص چهره را به واقعیت تبدیل کند. برای اطلاعات بیشتر در ادامه مطالب سایت HiVPN همراه باشید.

بدتر از آن، اخیراً در بریتانیا فاش شده است که برخی از سیستم‌های تشخیص چهره مدرن دقت بسیار بدی دارند و در ۹۸ درصد مواقع هویت‌های اشتباه را برمی‌گردانند. من نتوانستم آماری در مورد دقت سیستم شناسایی آمازون بیابم، اما اشتیاق دولت ها برای پذیرش فناوری دقیق و مشکوک برای پروفایل شهروندانشان نگران کننده است.

شناسایی آمازون چیست و چرا باید به آن اهمیت دهید؟

Amazon Rekognition یک هوش مصنوعی یادگیری عمیق است که می تواند فیلم ها و تصاویر را برای برنامه های مختلف مختلف تجزیه و تحلیل کند. اینها شامل تشخیص متن، تجزیه و تحلیل محتوای تصویر، پرچم گذاری محتوای نامناسب … و تشخیص چهره برای دوربین های نظارتی است. در یک پست وبلاگی ، آمازون ادعا می کند که این سیستم می تواند “جستجوی چهره در زمان واقعی در برابر مجموعه هایی با ده ها میلیون چهره را انجام دهد … در برنامه های امنیتی و ایمنی، اکنون می توانید افراد مورد علاقه را در مقابل مجموعه ای از میلیون ها چهره در سایت شناسایی کنید. نزدیک به زمان واقعی، امکان استفاده از مواردی مانند پیشگیری به موقع و دقیق از جرم را فراهم می کند.

این شرکت در مورد برنامه های کاربردی دیستوپیایی بالقوه برای نرم افزار خود خجالتی نیست و شهر اورلاندو را به عنوان یکی از مشتریان آزمایشی موجود خود فهرست می کند. همانطور که ACLU اشاره کرد ، “این احتمال وجود دارد که کسانی که توسط دولت ها برچسب مشکوک می زنند . مانند مهاجران غیرقانونی یا فعالان سیاه پوست ، به عنوان یک بازی منصفانه برای نظارت شناسایی دیده شوند.”

همانطور که در رسوایی ردیابی تلفن Securus دیدیم، مطلقاً هیچ دلیلی وجود ندارد که به دولت خود در مورد جمع‌آوری داده‌های حساس و تهاجمی اعتماد کنید، زیرا این داده‌ها مورد سوء استفاده، سوء استفاده یا افشای بی‌دقتی قرار گرفته‌اند و هنوز هم می‌توانند مورد استفاده قرار گیرند. اکنون، دولت‌های محلی که در جمع‌آوری داده‌ها اعتماد عمومی را به خود جلب نکرده‌اند، تشخیص هویت شهروندان و ردیابی هر حرکت آن‌ها را آسان‌تر خواهند کرد.

با این حال صبر کنید ، آیا فناوری تشخیص چهره مدتی است که وجود ندارد؟ چرا این خبر است؟ خوب، تشخیص چهره که بسیاری از سازمان‌های مجری قانون از آن استفاده می‌کردند، فقط برای تصاویر یا فیلم‌های ضبط‌شده در دسترس بود. این بدان معناست که در صورت وقوع جرم، بازرسان فیلم یا عکس‌های مرتبط با تحقیقات خود را بازیابی می‌کنند و سپس افراد به تصویر کشیده شده را شناسایی می‌کنند. با این حال، سرویس Rekognition آمازون قول می دهد که هر دوربینی را که از آن استفاده می کند به یک دستگاه نظارت واقعی تشخیص چهره و ردیابی افراد تبدیل کند و قابلیت های نظارت دولت های محلی را به طور گسترده گسترش دهد.

نگرانی های جدی در مورد دقت تشخیص چهره

استفاده غیرفعال از تشخیص چهره در زمان واقعی برای نظارت بر اقدامات شهروندان بی گناه و مشکوک به صورت ۲۴ ساعته یک مسئله اخلاقی گسترده و نقض اعتماد و حریم خصوصی است، اما مشکل به همین جا ختم نمی شود. مشخص نیست که تشخیص آمازون چقدر دقیق است (آمازون اصرار دارد که دقیق است)، اما نتایج سایر سیستم‌های تشخیص چهره زنده کاملاً افتضاح بوده است. طبق گزارشی که توسط Big Brother Watch ، یک سازمان ناظر حفظ حریم خصوصی دیجیتال مستقر در بریتانیا، به طور متوسط، ۹۵ درصد از «بازی‌ها» به اشتباه افراد بی‌گناه را شناسایی کردند.

گزارش دیده بان برادر بزرگ در تحلیل خود از نیروی پلیس ولز جنوبی گفت که این سیستم به طور قابل توجهی بر «۳۱ نفر از اعضای بی گناه مردم که توسط سیستم به اشتباه شناسایی شده بودند و سپس از آنها خواسته شد هویت و در نتیجه بی گناهی خود را ثابت کنند، تأثیر گذاشته است».

به طور خلاصه، دولت‌های بریتانیا که قبلاً فناوری‌هایی مانند Rekognition آمازون را آزمایش کرده و استفاده می‌کنند، تقریباً به طور کامل قادر به شناسایی درست هیچ‌کس نیستند ، اما این مانع از تلاش آنها برای دستگیری افراد بر اساس این فناوری بسیار نادرست و تهاجمی نمی‌شود. در بهترین حالت، استفاده از سیستم‌هایی مانند آمازون Rekognition یک سوءاستفاده بی‌کفایت و بی‌کفایت از قدرت دولتی خواهد بود که به‌طور خودسرانه شهروندان تصادفی را به خطر می‌اندازد، داده‌های مربوط به مکان‌ها و اقدامات شهروندان را در معرض دید هکرها قرار می‌دهد و به مجرمان اجازه می‌دهد از شکاف‌ها عبور کنند. در بدترین حالت، این وضعیت به یک وضعیت تهاجمی و دیستوپیایی تبدیل خواهد شد که در آن شهروندان می توانند انتظار داشته باشند که تک تک اقدامات آنها توسط سازمان های مجری قانون مورد تجزیه و تحلیل دقیق قرار گیرد.