نگرانی سازمان ملل از پیشرفت هوش مصنوعی

به گزارش عصرقائم، به نقل از آی‌ای، سازمان ملل نگران هوش مصنوعی است. بر اساس گزارش اولیه سازمان ملل، کمیسر عالی حقوق بشر سازمان ملل متحد خواستار توقف استفاده از هوش مصنوعی‌هایی نظیر سیستم‌های تشخیص چهره شده که می‌توانند افراد را در ملاء عام ردیابی کنند و می‌توانند خطری اساسی برای حقوق بشر داشته باشند.

این سازمان می‌گوید اگر کشورها در حال حاضر تدابیر حفاظتی موثری را در این راستا در پیش نگیرند، استفاده از برنامه‌های هوش مصنوعی در زندگی روزمره می‌تواند بیشتر مضر باشد تا کمک کننده.

“میشل باچله”(Michelle Bachelet) کمیسر عالی حقوق بشر سازمان ملل متحد گفت که کشورها باید صریحاً همه برنامه‌های هوش مصنوعی را که مغایر با حقوق بشر است، ممنوع کنند و با اشاره به این که این سیستم‌های پیش‌داور، بر اساس قومیت یا جنسیت افراد بین جمعیت‌های بشری جدایی می‌اندازند، تأکید کرد که برنامه‌های “نمره‌گذاری اجتماعی” نباید توسط دولت‌ها دنبال شوند.

وی در حالی بر ارزش واقعی استفاده از فناوری‌های هوش مصنوعی در بهبود وضعیت انسان صحه می‌گذارد، هشدار داد که اگر بدون توجه کافی به نحوه تأثیر آنها بر حقوق بشر، مورد استفاده قرار گیرند، می‌توانند آثار منفی و حتی فاجعه باری داشته باشند.

اظهارات “باچله” در گزارش جدید سازمان ملل متحد نشان می‌دهد که چگونه کشورها و کسب و کارها تلاش خود را در پیاده سازی سیستم‌های هوش مصنوعی که به شدت بر زندگی و معیشت شهروندان عادی تأثیر می‌گذارد، پیش از اطمینان از ایجاد پادمان‌هایی که می‌توانند به طور معناداری از تبعیض جلوگیری کنند، به کار گرفته‌اند.

“پگی هیکس” مدیر دفتر حقوق بشر سازمان ملل می‌گوید: این مسئله مربوط به نداشتنِ هوش مصنوعی نیست، بلکه در مورد تشخیص این است که اگر قرار است هوش مصنوعی در این زمینه‌های حقوق بشری مورد استفاده قرار گیرد، باید به روش صحیح باشد و ما هنوز چارچوبی را ایجاد نکرده‌ایم که این اتفاق را تضمین کند.

“باچله” نیز از ممنوعیت همه فناوری‌های تشخیص چهره دفاع نکرد، اما تاکید کرد که دولت‌ها باید اسکن ویژگی‌های افراد در لحظه را تا زمانی که ثابت کنند که این فناوری دقیق و بدون تبعیض است و حریم خصوصی و داده‌های شخصی را حفظ می‌کند، متوقف کنند. در گزارش سازمان ملل از هیچ کشوری نامی برده نشده است، اما گسترش سریع فناوری تشخیص چهره در کشور چین به ویژه برای نظارت بر منطقه “شینجیان غربی” (جایی که اقلیت اویغور در این کشور زندگی می‌کنند)، بی‌شک مدنظر بوده است.

نویسندگان گزارش سازمان ملل متحد تصمیم گرفتند که نام کشورهای ناقض حقوق بشر را ذکر نکنند، زیرا این امر می‌تواند مضر باشد و واکنش‌هایی را به دنبال داشته باشد که ممکن است خطری برای حقوق بشر ایجاد کند.

“هیکس” می‌گوید: در مورد چین نیز به اندازه سایر کشورها ما نگران شفافیت و برنامه‌های تبعیض آمیز هستیم که روی جوامع خاص متمرکز است. گزارش سازمان ملل متحد بر ابزارهایی متمرکز است که برای استنباط حالات روحی و روانی افراد با ارزیابی حالات صورت یا حرکات بدن طراحی شده است، زیرا این فناوری‌ها به شدت مستعد تعصب و تبعیض هستند و تفسیرهای نادرست فاقد هرگونه زمینه علمی دارند.

وی افزود: استفاده از سیستم‌های تشخیص احساسات توسط مقامات دولتی، به عنوان مثال برای متمایز کردن افراد برای دستگیری توسط پلیس یا ارزیابی صحت اظهارات آنها در بازجویی‌ها، تهدیدی برای حقوق بشر، حفظ حریم خصوصی، آزادی و عدالت است.

اکنون فقط زمان نشان خواهد داد که کشورهای جهان چگونه به این درخواست سازمان ملل پاسخ می‌دهند. این درحالی است که قدرت شرکت‌های بزرگ در ایالات متحده و دیگر نقاط جهان با فناوری تشخیص چهره مبتنی بر هوش مصنوعی در حال افزایش است و اگر بدون توجه به مسائل حقوق بشری و حفظ حریم خصوصی برای نظارت و ردیابی شهروندان عادی استفاده شود، نگران کننده خواهد بود.