Медиа

Робот-сексист: нейросеть от Amazon невзлюбила женщин

Amazon отказалась от своей нейросети из-за дискриминации женщин

Компания Amazon разработала секретный инструмент на базе искусственного интеллекта, который должен был отбирать соискателей на работу в компании. К сожалению, от проекта в конечном итоге пришлось отказаться — нейросеть онлайн-ритейлера отдавала предпочтение только мужчинам, а женщин подвергла дискриминации.

Нейросеть надежд не оправдала

Amazon является одной из крупнейших компаний мира, имея тысячи офисов и сотни тысяч сотрудников. Неудивительно, что онлайн-ритейлер давно решил сделать ставку на автоматизацию.

Как сообщает Reuters, в 2014 году команда инженеров в шотландском Эдинбурге начала разработку нейросети, которая помогла бы HR-департаментам подыскивать новых работников. Была создана пара сотен алгоритмов, которая просмотрела резюме предыдущих соискателей, и вывела 50 тыс. ключевых пунктов. Получив необходимую информацию, нейросеть начинала поиск подходящих кандидатов в интернете.

«Руководство хотело создать инструмент, которому бы дали 100 резюме, а оно выбрало бы топ-5, которых мы бы и наняли», — заявил один из источников, знакомый с проектом.

Год спустя в созданном искусственном интеллекте обнаружилась странная деталь.

Инженеры выяснили, что ИИ не нравятся кандидаты-женщины, если речь идет о позиции разработчика софта или инженера.

Как оказалось, нейросеть обучалась на преимущественно «мужских» резюме, так как за последние десять лет на эти должности в Amazon шли в основном мужчины. Таким образом, ИИ решил, что предпочтительнее нанимать именно мужчин, поэтому ставил низкие оценки резюме, содержащим внутри слово «женский», а также данные об образовании в колледжах, где учатся исключительно девушки.

Инженеры попытались исправить сексистские задатки своего детища, но не смогли гарантировать того, что нейросеть не найдет другие маркеры для дискриминации тех или иных резюме.

В результате в начале 2017 года команда была распущена, а работа над ИИ полностью прекратилась. Пресс-служба Amazon отказалась комментировать этот проект, заявив, что нейросеть «никогда не использовалась рекрутерами для оценки соискателей». Тем не менее, компания не опровергла информацию о том, что сотрудники отдела кадров просматривали рекомендации, подготовленные компьютером.

Согласно исследованию CareerBuilder, около 55% HR-департаментов считают, что искусственный интеллект станет неотъемлемой частью их работы в ближайшие пять лет. Тем не менее, ученые в этой сфере настроены не так оптимистично, ведь пока невозможно сделать так, чтобы нейросеть была максимально непредвзята и объективна — все-таки, ее обучают настоящие люди, имеющие свои взгляды и принципы.

«Я совершенно точно не стал бы доверять ИИ принимать решение о найме. Технология еще не готова», — заявил вице-президент по HR компании LinkedIn Джон Джерсин.

Что же касается Amazon, один из источников сообщил о том, что компания продолжает использовать нейросети при найме, но она выполняет лишь рутинные функции — например, удаляет дубликаты резюме, попавшие в базу данных дважды. Другой источник уверяет, что в Эдинбурге уже созвана новая команда, которая работает над другим проектом, который поможет сохранить разнообразие в коллективе.

Лишили бонусов

На прошлой неделе стало известно об еще одном скандале, связанном с Amazon. После многочисленных демонстраций со стороны сотрудников, глава Amazon и по совместительству самый богатый человек на планете Джефф Безос решил поднять минимальную зарплату работников складов своей компании до $15 в час.

«Мы выслушали наших критиков, подумали о том, что мы можем сделать, и решили взять на себя инициативу. Мы рады нововведениям и призываем конкурентов и других крупных работодателей присоединиться к нам», — заявил генеральный директор Amazon, говоря о повышении минимального уровня зарплаты.

После того, как инициативу Безоса поддержали даже на высшем уровне власти США, стало известно, что увеличение оклада не прошло без последствий.

Как оказалось, теперь работники Amazon работают без ежемесячных бонусов и не получают акции компании, как это было принято раньше.

Британский общий профсоюз GMB осудил главу компании, считая, что он поступил неправильно, не сказав ни слова об отмене бонусов при анонсе увеличения заработной платы.

«Это тайный налог, придуманный работодателем, наложенный на повышение оклада — все равно, что из одного кармана переложить в другой. Если Джефф Безос — самый богатый человек на Земле — действительно хотел бы повысить зарплату и помочь работникам, то он должен был сохранить бонусы и возможность получать акции», — заявил пресс-секретарь профсоюза Тим Роач.