По-рано тази година Microsoft пусна нов софтуер за разпознаване на лица за разработчици, който обещаваше много, но се оказа расистки. Може би си спомняте AI Twitter ботът, който се превърна в луд нацист в рамките на 24 часа. Всъщност Face API на компанията предлагаше на разработчиците достъп до това, което тя твърди, че е усувършенствана техология за лицево разпознаване и може да бъде интегрирано в собствените им продукти, но учените от MIT откриха, че тя има сериозен проблем с расите и пола.
Според доклад, публикуван от тях, технологията за лицево разпознаване Face API на Microsoft е „забележително компетентна“ при идентифицирането на бели мъже с 0% на грешка, но този коефициент скача на 20.8%, когато става въпрос за черни жени. Microsoft очевидно трябваше да направи нещо, а в публикация в блога си тази седмица, тя потвърди, че подобренията вече са факт. Те се отнасят до опасенията, че технологията разпознава по-точно пола на хората с по-светла кожа и се представя по-добре при мъжете, от колкото при жените. С корекциите, компанията е успяла да намали процента на грешки при мъжете и жените с тъмна кожа до 20 пъти, а като цяло за жените той е спаднал до десет пъти, намалявайки по този начин разликата в точността на демографските данни.
Според Microsoft високата степен на грешки по отношеине на женските лица с по-тъмна кожа е показателен за предизвикателствата пред индустрията като цяло, тъй като изкуственият интелект се нуждае от възможно най-широк набор данни, за да бъде добре обучен. Разбира се вината за този проблем все още се крие в Microsoft, която не е успяла да му предостави достатъчно изображения на хора от други раси, за изграждането на полезен продукт. Екипът на API Face е направил три големи промени – разширил е и е преразгледал набора данни за обучение и сравнение, като е добавил нови, за до подобри резултатите, съсредоточавайки се върху цвета на кожата, пола и възрастта и е подобрил класификацията, за да постигне резултати с по-висока точност. Актуализацията на софтуера вече е налична на сайта на гиганта.
