Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

Нейросеть Amazon для поиска сотрудников научилась сексизму и была закрыта

14.10.2018      29253

Интернет-гигант Amazon запустил нейросеть, которая автоматизировала поиск новых сотрудников. Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

Нечеловеческий фактор

Компания Amazon уделяет много внимания развитию новых технологий. Одно из направлений работы – нейросети. Одна из таких разработок призвана решить кадровые проблемы организации.

Алгоритм изучил базу резюме Amazon и сведения о сотрудниках, которые в данный момент были приняты на работу, после чего отбирал среди соискателей подходящих на должность кандидатов. Поначалу система справлялась неплохо – первые сотрудники, прошедшие отбор нейросетью, смогли трудоустроиться в Amazon без прохождения дополнительных собеседований.

Но вскоре выяснилось, что алгоритм работает с ошибкой – он полностью игнорирует женские резюме. Робот-рекрутер неверно интерпретировал статистические данные. В ИТ-сфере количество работников-мужчин всегда значительно превышало число женщин, и Amazon не является исключением. Проанализировав эти данные, нейросеть пришла к выводу, что интернет-гигант специально не нанимает девушек, и начала отсеивать их при поиске подходящих соискателей. Более того, робот-рекрутер блокировал все резюме, в которых встречалось слово «женский», даже если оно использовалось в контексте названия места предыдущей работы.

Amazon предпринял попытку исправить ошибку в алгоритме, но потерпел неудачу. После этого компания объявила о закрытии проекта и роспуске команды, которая занималась созданием нейросети.

Решение кадровых проблем

Amazon – одна из самых быстрорастущих компаний в мире, прибыль интернет-гиганта ежегодно увеличивается более чем на 25%. На фоне этого организация испытывает кадровый кризис и не успевает расширять свою инфраструктуру вслед за растущими доходами и соответствующими требованиями рынка.

Многие сотрудники Amazon жалуются на невыносимые условия труда и чрезмерную загруженность. При этом руководство компании жестко следит за действиями своих подчиненных и часто оказывает материальное давление.

Британский журналист Джеймс Бладворт провел расследование, в результате которого подтвердил многие жалобы сотрудников компании. По его словам, у персонала нет времени во время работы отлучиться в туалет, а перерыв на обед составляет всего 15-20 минут. Рабочие боятся уходить на больничный, потому что за это могут получить штраф. Представители Amazon отвергают эти обвинения и утверждают, что трудовые процессы в их компании построены должным образом и не нарушают права сотрудников.



Источник: https://infostart.ru/journal/news/biznes/neyroset-amazon-dlya-poiska-sotrudnikov-nauchilas-seksizmu-i-byla-zakryta_922089/
Автор:
Аналитик


Какими услугами Amazon вы пользуетесь?


Приобретаю книги (0%, 0 голосов)
0%
Заказываю другие товары (5.26%, 3 голосов)
5.26%
Покупаю мультимедийную продукцию (0%, 0 голосов)
0%
Пользуюсь Amazon Web Services (5.26%, 3 голосов)
5.26%
Общаюсь с Amazon Alexa (0%, 0 голосов)
0%
Не пользуюсь (89.47%, 51 голосов)
89.47%

Комментарии
В избранное Подписаться на ответы Сортировка: Дата
17. user1069818 16.10.18 13:33 Сейчас в теме
(9) Уже заменил. Для человека только грязная работа
16. a_titeev 24 15.10.18 15:54 Сейчас в теме
Да. Прикольная новость. Тоже поржал...
Хоть что-то было адекватное в этом мире - hr-нейросеть Amazon. И ту погасили :)
15. ResAndDev 15.10.18 13:47 Сейчас в теме
Сижу такой, на работе никого не трогаю, читаю новости ... И тут чуть чай из ушей не полился от смеха ))) Чего только не скармливают нейросетям нынче.
14. nyam-nyam 15.10.18 11:53 Сейчас в теме
Подпись к картинке в статье - Ты кто такой? Давай, до свиданья...
13. вивйв 15.10.18 11:02 Сейчас в теме
Про толерантность в ТЗ видимо ничего не было... ))
12. 🅵🅾️🆇 510 15.10.18 10:11 Сейчас в теме
(6) Через двести - несогласных с ними.
Через триста - посчитает вообще всех человеков неэффективными и сошлет в резиденцию на марс.
Ну как "на марс", примерно также как "песик отправился в деревню, там ему будет лучше, с другими песиками".
TreeDogNight; shard; Kochergov; +3 Ответить
11. 🅵🅾️🆇 15.10.18 10:00 Сейчас в теме
(8)
На правах юмора:
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ +
// Счетчик мужланов со стрелочкой угнетения: 0
Резюме = СтрЗаменить(Резюме, "fem", "mal");
Результат = Нейросеть.Обработать(Резюме);
// НЕ ТРОГАТЬ, МАГИЧЕСКИЙ КОСТЫЛЬ -
rpgshnik; malikova_julia; greatsnake; CyberCerber; +4 Ответить
10. 🅵🅾️🆇 15.10.18 09:50 Сейчас в теме
(1) Вообщет такое уже давным давно есть и практикуется.
Квоты на негров, квоты на женщин, квоты на геев, квоты на инвалидов.
В России теперь будут еще квоты на стариков.

Вот, знакомьтесь, разработчики последнего масс эффекта (самой худшей части и без того унылой серии):
Прикрепленные файлы:
9. capitan 2219 15.10.18 09:39 Сейчас в теме
Компьютер - это электронное устройство, которое не заменит человека до
тех пор, пока не научится смеяться над шутками босса и сваливать свои
собственные ошибки на соседний компьютер.
©anekdot.ru
TreeDogNight; sansys; awk; Поручик; vrednyi_glavred; +5 Ответить 1
8. Ziggurat 50 15.10.18 09:36 Сейчас в теме
(4) Вот ведь неучи! Напиши письмо этим дуракам, а по результатам статью на инфостарте.
CyberCerber; +1 Ответить 1
7. Darklight 27 15.10.18 09:29 Сейчас в теме
(4)Это нейросеть, её калибровка противовес максимизации эффективности - задача очень не простая. В новости написано же - что пытались исправить - но не получилось.Видимо нейросеть упорно снижала эффективность женщин, как бы их весовой коэффициент не повышали (а если сильно зависеть - небось наоборот набирала почти одних только женщин а результирующая оценка эффективности резко падала).
6. Darklight 27 15.10.18 09:24 Сейчас в теме
Закрыли нейросеть и уволили всех кто её делал. Заодно, наверное, и всех, кого она наняла, наверное для себя лично нанимала. Да, кадровый кризис в амазоне ещё долго будет большой проблемой: людей найти не могут, а ИИ - пока слишком совершенен (по сравнению с человеком), но не так влиятелен, как будет в будущем.
Нейросеть размышляла вполне весьма здравомысленно. Исходя из максимизации результирующей эффективности. Таков идеология искуственногора разаму - максимизация положительных результатов. Сегодня уволили нейросеть. Через сто лет такие нейросети будут "увольнять" людей, которые буду менее эффективны, чем роботы. Эволюция.
5. Ndochp 103 15.10.18 09:15 Сейчас в теме
(4) А это вообще был не признак.
Просто в сетку загрузили все резюме и данные по существующим работникам как-то разметили. Какой хороший, а какой не ахти. А после машина стала искать все резюме текстуально похожие на те, что у хороших работников. Слово "женский" оказалось маркером фигни.
Причем, то, что написано в статье "нанимает больше мужчин, поэтому стала блокировать женские резюме" это ерунда. Тогда пол вообще не был бы маркирующим признаком - "male" было бы во всех резюме и "female" было бы нейтральным словом, а не блокатором.
Видно именно женские резюме оказались размечены как плохие. Уж по какому поводу - как часто встречающееся слово в резюме отвергнутых живым HR, или по выборке неудачно принятых (не прошедших испытательный срок, больше штрафов, больничных или еще чего) ХЗ.
kdc; herfis; manuel; Ziggurat; +4 Ответить
4. AlX0id 15.10.18 08:34 Сейчас в теме
Но вскоре ее пришлось закрыть – робот-рекрутер пришел к выводу, что принимать на работу женщин нецелесообразно.

А просто понизить приоритет полового признака при формировании выхода, конечно, оказалось сверхсложно? Или это был единственный признак, который анализировался? )
3. rpgshnik 3045 15.10.18 07:35 Сейчас в теме
Это все потому, что он робот!
sansys; vechiy; +2 Ответить
2. chesnauskis 1 15.10.18 06:49 Сейчас в теме
1. s22 19 14.10.18 15:26 Сейчас в теме
Скоро будет требование, что бы компании работали люди пропорционально населению. Столько то негров, столькото евреев, столько то негроевреев.
CyberCerber; sansys; portwein; rpgshnik; +4 Ответить 2
Оставьте свое сообщение

См. также

Госдума обсудит снижение госпошлин для малого бизнеса вдвое

Новость ИТ-новость

На рассмотрение парламентом внесен законопроект, который предусматривает 50-процентную льготу на оплату юридически значимых действий для малых и средних предприятий (МСП).

09.08.2022    580    VKuser24342747    1       

Минцифры изменило правила получения аккредитации для ИТ-компаний

Новость ИТ-новость

Аккредитация в ведомстве – обязательное условие для налоговых льгот, положенных ИТ-отрасли. После внесения изменений права на преференции лишаться финансовые учреждения и реорганизованные структуры.

04.08.2022    1204    VKuser24342747    4       

Центробанк ужесточит требования к малым и средним предприятиям

Новость ИТ-новость

Банк России намерен изменить условия отнесения организаций и ИП к категориям малого и среднего предпринимательства (МСП). Неподходящие под новые критерии компании будут исключены из реестра.

25.07.2022    1297    VKuser24342747    0       

ЦБ намерен признать интеллектуальную собственность высококачественным залогом

Новость ИТ-новость

Глава Банка России Эльвира Набиуллина предложила закрепить в законодательстве правила оценки интеллектуальной собственности на программные продукты для использования их в качестве залога.

22.07.2022    1434    VKuser24342747    0       

Минцифры и ФНС запустили проект регистрации бизнеса через «Госключ»

Новость ИТ-новость Мобильные приложения ФНС

Ведомства запустили проект, при помощи которого граждане смогут пройти процедуру государственной регистрации юрлица или ИП онлайн через приложение «Госключ».

13.07.2022    945    VKuser24342747    0       

Минцифры завершит работы по созданию цифрового профиля предпринимателя к 1 июля

Новость ИТ-новость Цифровая экономика

С новым инструментом бизнесу станет проще получить положенные меры поддержки, в том числе – финансовые. Сервис будет работать на базе собственных разработок Министерства цифрового развития. 

29.06.2022    615    VKuser24342747    0       

ФНС разъяснила применение ККТ при расчетах между организациями через СБП

Новость ИТ-новость Онлайн-кассы

В письме ведомство сообщило, что при проведении финансовых операций через Систему быстрых платежей между юрлицами или ИП использование кассовой техники необязательно.

24.06.2022    1037    VKuser24342747    2       

Правительство начало эксперимент по медицинскому страхованию через «Госуслуги»

Новость ИТ-новость

В России запущен пилотный проект онлайн-взаимодействия между страховыми организациями, маркетплейсами и страхователями. Заключение договоров происходит через систему электронного правительства.

22.06.2022    1048    VKuser24342747    0       

Куратор ИТ-отрасли рассказал о перспективах развития российского рынка

Новость Импортозамещение ИТ-новость

Вице-премьер Дмитрий Чернышенко во время выступления на Петербургском международном экономическом форуме (ПМЭФ) подвел итог развития отечественного рынка разработки за последние несколько месяцев и сообщил о дальнейших планах.

20.06.2022    2700    VKuser24342747    7       

ЦБ поддержал инициативу о приравнивании банков к ИТ-компаниям

Новость Банки ИТ-новость

Центробанк поддерживает недавнее предложение банка «Тинькофф» о распространении льгот для высокотехнологичных компаний на банковскую отрасль. По мнению регулятора, у кредитных организаций довольно большой потенциал технологического развития.

01.06.2022    1024    VKuser24342747    3       

Банк России начнет тестировать цифровой рубль на год раньше

Новость Банки ИТ-новость

Центробанк РФ намерен запустить тестирование цифрового рубля на реальных клиентах в 2023 году. Ранее старт проекта был намечен на 2024 год, а ускорение связано в том числе с санкциями.

30.05.2022    1236    VKuser24342747    1       

Законопроект о налогообложении цифровых активов прошел первое чтение

Новость Банки ИТ-новость

Госдума в первом чтении приняла законопроект, в котором предусмотрен налог на прибыль по ставке 13% для российских обладателей цифровых активов. Для иностранных организаций тариф составит 15%.

20.05.2022    2946    VKuser24342747    0       

ФНС начала предоставлять бесплатные инструменты для создания электронных подписей

Новость ИТ-новость ФНС Цифровая подпись

В России начался эксперимент, в рамках которого пользователи Удостоверяющего центра ФНС России смогут безвозмездно получать средства электронной подписи.

19.05.2022    2799    VKuser24342747    25       

Минцифры предложило упростить требования для реестра российского ПО

Новость Импортозамещение ИТ-новость Минкомсвязь

Министерство полагает, что при принятии решения о включении программы в перечень следует смотреть не на долю российских бенефициаров, а на лиц, которые фактически управляют бизнесом.

19.05.2022    5428    VKuser24342747    1       

Власти могут предоставить преференции добросовестным налогоплательщикам

Новость ИТ-новость

В России будет сформирован рейтинг компаний, которые добросовестно платят налоги. Для организаций из списка могут быть предоставлены льготы, в том числе приоритетный доступ к госзакупкам.

16.05.2022    4101    VKuser24342747    0       

Платформа МСП представила сервис с информацией о спросе крупного бизнеса

Новость ИТ-новость Цифровая экономика

Цифровая платформа МСП оцифровала сведения о спросе крупных производственных компаний и предоставила доступ к этим данным в режиме онлайн для малого и среднего бизнеса.

29.04.2022    3944    VKuser24342747    0       

ФНС будет регистрировать ИП и организации за один рабочий день

Новость ИТ-новость

Федеральная налоговая служба сообщила о сокращении сроков, в течение которых происходит регистрация бизнеса. Вся процедура доступна онлайн через специальный сервис.

12.04.2022    3331    VKuser24342747    1       

Госдума отложила рассмотрение реформы корпоративного банкротства до осени

Новость ИТ-новость

В весеннюю сессию Госдума не станет рассматривать законопроект с изменениями в процесс банкротства. У депутатов и правительства возникли разногласия по концепции реформы.

07.04.2022    2155    VKuser24342747    0       

Правительство обсудило снижение страховых взносов для малого бизнеса

Новость ИТ-новость

Ведомства займутся проработкой распространения 15% ставки страховых взносов на весь зарплатный фонд, а также установят размер выпадающих доходов из бюджета, в случае принятия льготы. Меру предлагают ввести только на 2022 год.

05.04.2022    2588    VKuser24342747    0       

В России запрещена закупка иностранного ПО для критической инфраструктуры

Новость Импортозамещение ИТ-новость

Вступил в силу указ, который должен обеспечить безопасность критической информационной инфраструктуры. Закупка иностранного ПО для таких объектов невозможна без согласования с соответствующим органом исполнительной власти.

01.04.2022    7908    VKuser24342747    0       

Система электронного документооборота «ГосЭДО» начнет работу до конца года

Новость ИТ-новость Минкомсвязь

Минцифры сообщило о сроках реализации проекта – он будет запущен в пилотном режиме в 2022 году. Разработка дополнит другие решения, которые обеспечивают электронный документооборот.

01.04.2022    5259    VKuser24342747    0       

Правительство продлило сроки начала обязательной маркировки по молоку и воде

Новость Infostart Software Partners ИТ-новость Маркет Маркировка

Правительство приняло решение перенести дату начала обязательной маркировки молока и бутилированной воды. В Минпромторге полагают, что аналогичные меры необходимы для пива, БАДов и антисептиков.

31.03.2022    4933    VKuser24342747    2       

В Минцифры рассказали о льготах для ИТ-специалистов и новых правительственных грантах

Новость ИТ-новость

Министерство цифрового развития разъяснило порядок предоставления сотрудникам ИТ-компаний льгот по ипотеке и отсрочки от армии, а также рассказало о проектах постановлений по увеличению грантов для бизнеса.

30.03.2022    8897    VKuser24342747    0       

Сертификаты ФСТЭК на иностранное ПО в России могут быть отозваны

Новость ОС Linux Импортозамещение ИТ-новость

ФСТЭК обсуждает возможность отзыва сертификата у ИТ-компаний, которые покинули Россию из-за санкций. Речь идет о более чем пятидесяти организациях, которые прекратили оказывать техподдержку российским пользователям.

29.03.2022    9004    VKuser24342747    3       

Минцифры рассказало о проработке некоторых мер поддержки ИТ-отрасли

Новость Импортозамещение ИТ-новость Минкомсвязь Налоги

В ведомстве подготовили проект постановления о военной отсрочке для ИТ-специалистов, анонсировали разработку отечественного магазина приложений и сообщили о планах ввести новые налоговые льготы.

25.03.2022    8234    VKuser24342747    4