:: ::

 

صفحه نخست
چالش هوش مصنوعی گوگل

دوشنبه 97/09/12

چالش هوش مصنوعی گوگل

 

منبع: دنیای اقتصاد

همکاران سیستم: چندی پیش جان جیاناندریا مدیر بخش هوش مصنوعی گوگل، در جریان کنفرانسMade in AI با اظهار نگرانی نسبت به سیستم‌های هوشمندی که تعصبات انسان‌ها را یاد می‌گیرند، گفت: نیاز نیست ما نگران روبات‌های قاتل باشیم بلکه باید از تبعیض و رفتارهای جانبدارانه بترسیم.

وی افزود: اگر ما این سیستم‌ها را با اطلاعات تبعیض‌آمیز تغذیه کنیم، آنها رفتارهای جانبدارانه‌ای از خود بروز خواهند داد. این چیزی است که گوگلدر گذشته با آن درگیر بوده است. مثلا چندی پیش مشخص شد که الگوریتم نژادپرستانه هوش مصنوعی تشخیص تصویر گوگل به گونه‌ای عمل می‌کند که «گوریل» را روی تصاویر مربوط به افراد سیاهپوست برچسب می‌زند. این موضوع با انتقادات شدید روبه‌رو شد و گوگل وعده داد که برای جلوگیری از تکرار این خطا، اقدام فوری انجام دهد. در حال حاضر هر محصول جدیدی که در گوگل راه‌اندازی شود، با دقت مورد تست و بررسی خانم جنای و تیم او قرار می‌گیرد و جنبه‌های مختلف آن از قبیل مسائل فنی، حقوقی، محرمانگی و اجتماعی ارزیابی می‌شود. از جمله راهکارهای گوگل برای مقابله با چالش تبعیض می‌توان به بهبود پایگاه‌های داده و درک نحوه عملکرد الگوریتم‌های مورد استفاده اشاره کرد، هر چند با همه این تلاش‌ها، گوگلی‌ها بر این باورند که تبعیض، فرآیندی است که از خود انسان‌ها نشات می‌گیرد.