Google Photos разучились находить горилл и шимпанзе на фотографиях. Всё из-за скандала 2015 года

В 2015 году темнокожий разработчик пожаловался в Twitter, что сервис Google Фото отметил его друзей как горилл. Компания сообщила, что ей «ужасно и искренне жаль». Тогда же Google пообещал, что подобное не повторится.

Прошло больше двух лет — и теперь метка «горилла» и названия ещё нескольких приматов исчезли из лексикона Google Фото. Затянувшееся и довольно топорное решение проблемы показывает трудности алгоритмов распознавания лиц, которые Google и другие ИТ-компании используют в своих сервисах, автономных машинах и персональных ассистентах.

Google Фото работает как веб-сервис и мобильное приложение, в которых пользователи могут сохранять свои фотографии. Встроенный алгоритм с технологией машинного обучения позволяет автоматически сортировать и искать снимки с одинаковым содержанием, например, с озёрами, едой или улыбающимися людьми.

2018

В начале января журналисты WIRED скормили Google Фото коллекцию из 40 тысяч фотографий с животными. Алгоритм обозначил большую часть зверей, в том числе панд и пуделей. Но запросы «горилла», «шимпанзе» и «обезьяна» остались без результатов. В то же время поиск бабуинов, мартышек и гиббонов сработал отлично. Программа также находила капуцинов и колобусов, пока к ним не добавлялось слово «обезьяна».

Когда репортёры загрузили на сервис только 20 фотографий с гориллами и шимпанзе — алгоритм присвоил фотографиям теги «лес», «джунгли» и «зоопарк». Но сами звери остались для программы невидимыми.

Из 10 тысяч других снимков, которые использовались в исследовании по распознаванию лиц, на запрос «афроамериканец» выдавал пасущуюся антилопу. А поиск чёрного мужчины (black man), женщины (women) или человека (man) показывал чёрно-белые фотографии людей, правильно отсортированных по полу, но не по расе. Лишь при запросах «афро» и «африканский» система выдавала фотографии темнокожих людей.

Представитель Google подтвердил, что тег gorilla исключён из алгоритмов распознавания изображений в поиске и сервисе Google Фото после инцидента 2015 года. А метки «шимпанзе» и «обезьяна» попали в чёрный список несколько позже:

«Технология сортировки изображений с помощью тегов ещё развивается и, к сожалению, далека от идеала».

Некоторые проекты Google всё же различают запретных обезьян. Облачный ИИ-сервис компании Cloud Vision API опознал гориллу на фотографии как western gorilla с точностью в 94%.

Не пропустите: приложение приложение Arts & Culture изучит ваше селфи и подберёт двойников на знаменитых картинах.

Хотите подсказать новость или поделиться экспертным мнением? Пишите: news@cossa.ru