مایکروسافت استفاده پلیس آمریکا از هوش مصنوعی این شرکت را برای تشخیص چهره ممنوع کرد

مایکروسافت با به‌روز رسانی منشور اخلاقی قوانین خود پلیس آمریکا را از استفاده از خدمات تشخیص چهره سیستم هوش مصنوعی خود منع کرد.

در متن جدید شرایط استفاده از هوش مصنوعی سازمانی مایکروسافت که «اژر اوپن ای‌آی» (Azure OpenAI) نام دارد تاکید شده است ادارات پلیس ایالات متحده حق ندارند از این خدمات برای اهداف تشخیص چهره استفاده کنند.

مایکروسافت علاوه بر این خاطر نشان کرده سایر نهادهای مجری قانون در دیگر کشورها نیز امکان استفاده از خدمات این مجموعه را برای شناسایی برخط چهره افراد ندارند. این ممنوعیت شامل استفاده از هوش مصنوعی این شرکت در دوربین‌های متصل به لباس پلیس و یا دوربین‌های تعبیه شده روی داشبورد خودروهای پلیس نیز می‌شود.

تغییر سیاست یاد شده یک هفته پس از آن روی می‌دهد که «آکسون» (Axon)، شرکت آمریکایی تولید کننده محصولات فناوری و تسلیحاتی برای نیروهای نظامی و انتظامی محصول تازه‌ای معرفی کرد که در آن از مدل هوش مصنوعی چت جی‌پی‌تی نسخه ۴ برای خلاصه‌سازی صدای ضبط شده از دوربین‌های پلیس استفاده شده است.

کارشناسان فناوری بلافاصله نسبت به خطرات احتمالی استفاده محصول تازه آکسون هشدار دادند. به گفته منتقدان، ایراداتی نظیر توهم در مدل‌های هوش مصنوعی و یا تعصبات نژادی به واسطه داده‌های آموزشی، از جمله مشکلات احتمالی استفاده از این خدمات در تسلیحات پلیس به حساب می‌آید.

شرکت اوپن ای‌آی پیش از این به‌طور جداگانه استفاده از خدمات خود با هدف تشخیص چهره افراد را ممنوع کرده بود. مایکروسافت به عنوان شریک تجاری و سرمایه‌گذار اوپن ای‌ای، خدمات هوش مصنوعی چت‌جی‌پی‌تی را در قالب سازمانی در اختیار شرکت‌ها و نهادهای مختلف قرار می‌دهد.

هر دوی این شرکت‌ها پروژه‌های جداگانه‌ای را با نهادهای نظامی آمریکا پیش می‌برند. زمستان ۱۴۰۲ خبرگزاری بلومبرگ گزارش داد اوپن ای‌آی با پنتاگون روی پروژه‌های متعددی از جمله در حوزه امنیت سایبری همکاری می‌کند.

مایکروسافت نیز پیش از این در یک ارائه تجاری به وزارت دفاع آمریکا از امکان استفاده از ابزار تولید تصویر مبتنی بر هوش مصنوعی خود در عملیات نظامی مرتبط با این نهاد خبر داده بود.