IBM отказалась от одной из своих разработок на фоне протестов в США

Крупнейший в мире производитель программного обеспечения IBM больше не будет разрабатывать и продавать ПО для распознавания лиц. Об этом гендиректор компании Арвинд Кришна сообщил в письме к Конгрессу США.

Кришна заявил, что IBM отказывается работать с любыми технологиями, используемыми «для массового наблюдения, расового профилирования и нарушения базовых прав и свобод человека». В письме глава компании также поддержал необходимость реформы полиции, призвав начать общенациональный диалог о том, как следует применять современные технологии распознавания лиц в работе правоохранительных органов.

Ранее IBM пыталась решить проблему с предвзятостью технологий распознавании лиц. В 2018 году компания опубликовала датасет для обучения систем, в котором было равное количество изображений людей разных этнических групп, пола и возрастов. Такой набор данных должен был увеличить точность ИИ, который обычно обучается на изображениях людей одной группы. Как оказалось, что в числе материалов, которыми делится компания — 1 млн снимков с фотохостинга Flickr. Позже компания заявила, что использовала только те изображения, которые были доступны в свободном доступе и что владельцы снимков в любой момент могут отказаться от использования их фотографий.

Напомним, с 26 мая в США продолжаются протесты против полицейского насилия, которые спровоцировала смерть 46-летнего афроамериканца Джорджа Флойда. После его гибели по всей стране люди начали выходить на мирные демонстрации, которые позже, из-за столкновений с полицией, переросли в погромы и мародерства. В результате десятки крупных городов, включая Вашингтон, ввели комендантский час.

Ранее мы писали, что многие системы распознавания лиц часто ошибочно идентифицируют темнокожих людей. Такими данными в конце 2019 года поделилось правительство США, ссылаясь на результаты исследования Национального института стандартов и технологий. Для отчета NIST протестировал 189 алгоритмов от 99 разработчиков.

Исследование показало, что при сопоставлении лиц в базах данных, многие алгоритмы неверно идентифицируют афроамериканцев и азиатов. Погрешность случается в 10-100 раз чаще, чем в случае с людьми европеоидной расы.

ЧИТАЙТЕ ТАКЖЕ: Смерть Джорджа Флойда: как протесты в США повлияли на бизнес

Источник