Компания Google убрала из лексикона Google Photos слово «горилла», поскольку механизм распознавания изображений подписывал им фото афроамериканцев с очень темным цветом кожи. Этот факт был установлен два года назад, и с тех пор Google так и не смогла научить систему отличать приматов от представителей негроидной расы.
«Забытое» слово
Искусственный интеллект Google Photos больше не сможет распознавать на фотографиях горилл, а также шимпанзе и мартышек. При этом изображения всех остальных животных, включая бабуинов, гиббонов и орангутанов, система распознает по-прежнему. Дело в том, что компания Google исключила из словарного запаса Google Photos слова «горилла», «шимпанзе» и «мартышка». К такому выводу пришел журнал Wired, который протестировал более 40 тыс. изображений в этом сервисе.
По наблюдениям пользователей, возможности распознавать горилл лишилось также приложение для камеры Google Lens, однако Google Assistant и система распознавания объектов для бизнеса Google Cloud Vision по-прежнему идентифицируют всех приматов корректно.
Скандал в 2015 году
О том, что механизм распознавания изображений Google Photos путает горилл и афроамериканцев, стало известно в июле 2015 г. Афроамериканец Джеки Алсине (Jacky Alciné) отметил в соцсети Twitter, что фотография, где был изображен сам Джеки с чрезвычайно темнокожей подругой, получила автоматический тег «гориллы». «Google Photos, ты облажался по полной. Моя подруга не горилла», — написал Алсине.
Вскоре с Джеки вышел на связь Йонатан Зунгер (Yonatan Zunger), старший специалист Google по социальной инженерии. Он поблагодарил Алсине в Twitter за то, что тот помог обнаружить ошибку. По словам Зунгера, проблема заключалась в затемненности лиц на фотографии и некорректной обработке контрастов при данном тоне кожи и освещении. Зунгер отметил, что у системы также были трудности с тем, чтобы отличать собак от людей различной расовой принадлежности.
Сам сервис был запущен незадолго до этого, в мае 2015 г. После скандала и шквала обвинений в расизме Google пообещала найти решение. Два года компания пыталась научить искусственный интеллект отличать горилл от афроамериканцев, однако потерпела поражение, и в результате вынуждена была просто исключить слово «горилла» из лексикона Google Photos. В результате в настоящий момент тег «горилла» не присваивается даже тем изображением, на которых присутствуют соответствующие животные.
via
Свежие комментарии