ساخت ابزار شناخت الگوریتم های نژاد پرستانه توسط مایکروسافت

شرکت مایکروسافت در نظر دارد ابزاری برای شناسایی الگوریتم‌های هوش مصنوعی که براساس نژاد و جنسیت افراد با آنها رفتار می‌کنند، ابداع کند.

مایکروسافت، خود را شرکتی می‌داند که هوش مصنوعی را برای گرد آوردن مردم در کنار یکدیگر ایجاد کرده است و اکنون قصد دارد ابزاری را برای یافتن این مشکل هوش مصنوعی ابداع کند.

الگوریتم جدید مایکروسافت برای یافتن الگوریتم‌های نژادپرستانه، می‌تواند مشکلات موجود را پیدا کند و نشان دهد. در نتیجه، برنامه‌هایی که پیش‌داوری پلیس را در مورد افراد افزایش می‌دهند، شاید مدت زیادی تداوم نداشته باشند.

البته، ابداع هوش مصنوعی به صورت کاملا عادلانه، دقت بیشتری را نیاز دارد.

یکی از راه‌های احتمالی پوشش پایگاه داده شرکت‌ها، از طریق رسیدگی شخص ثالث است. در این روش، متخصصی بیرون از شرکت، الگوریتم‌ها را بررسی و نشانه‌های تعصب را یا در رمزها و یا در داده‌ها جستجو می‌کند.

ایده بررسی هوش مصنوعی، در بسیاری شرکت‌ها مورد توجه قرار گرفته و برخی از شرکت‌های هوش مصنوعی، استخدام بازرسانی را برای بررسی رمزهایشان آغاز کرده‌اند اما برای این کار، هوش مصنوعی باید آنقدر ساده باشد که بازرس، به راحتی به قسمت‌های مورد نظر وارد شود و مشکلات پیش آمده را پیدا کند؛ در غیر این صورت، بازرس باید رمزها را به خوبی بشناسد.

راه حل دیگر، آموزش بهتر افرادی است که هوش مصنوعی را ابداع می‌کنند تا به این شکل، عقاید و تعصبات خود را بهتر بشناسند و در نتیجه، مردم از قضاوت شدن با این الگوریتم‌ها دور بمانند.

این موضوع بدان معنا نیست که رمزگذاران، ماشین‌های نژادپرستی ابداع می‌کنند اما از آنجا که هرکس، تعصبات ضمنی دارد، شاید این پیش‌داوری‌ها، در جهان فناوری هم اثر بگذارد.

این بینش‌ها، راه حل‌های اساسی هستند که به تغییر نگرش در ابداع فناوری و حتی شرکت‌های ابداع‌کننده این نوع الگوریتم‌ها منجر می‌شوند و توجه پژوهشگران و شرکت‌ها به چنین مشکلی، نشانه خوبی است.