Как и многие IT-компании, Amazon проводит эксперименты с методами машинного обучения (ML), направленные на улучшение процесса рекрутинга. Но, согласно недавнему отчету Reuters, компания несколько лет назад столкнулась с серьезной проблемой: ее алгоритмы начали предпочитать кандидатов-мужчин.

Отчет Reuters основывается на пяти анонимных источниках, которые заявили, что сервис Amazon, работа которого построена основе ML, оценивает кандидатов по шкале от одной до пяти звезд и выставляет максимальную оценку кандидатам-мужчинам. Система проанализировала все резюме за последние 10 лет и сделала вывод, что, поскольку большинство кандидатов были мужчинами, то на таких кандидатах и необходимо сфокусироваться. В результате алгоритм начал понижать резюме, если оно относилось к кандидату женского пола.

Позже логика рекрутингового сервиса была исправлена, но это не гарантировало того, что искусственный разум не придумает других способов ранжирования кандидатов, которые также могут оказаться дискриминационными. В конечном итоге, компания Amazon решила распустить команду, разрабатывавшую данный проект.

Широко известно, что машинное обучение является своего рода, популярной технологией. Количество вакансий в области машинного обучения растет по всему миру, в том числе и в России, а специалисты по машинному обучению получают довольно высокие зарплаты в IT-сфере.

Сложившаяся ситуация вокруг технологии машинного обучения заставляет многих верить в то, что ей под силу даже самые неразрешимые проблемы. Но машинное обучение и искусственный интеллект пока еще плохо работают на датасетах с большим количеством различного «мусора» и помех. Это повышает спрос на тех специалистов, которые знают, как работать с огромными объемами данных, и анализировать результаты, чтобы, в конечном итоге, получить то, что нужно компании.

Полученный опыт компании Amazon дает всем нам пищу для размышлений. Платформы для машинного обучения могут быть действительно очень умными, но иногда и они дают сбой. Всем техническим специалистам нужно проявлять некоторую осторожность при оценке моделей ML и полученных результатов.

DevsDay.ru Войти

Горячее событие

Ищите работу в IT?

Свежие вакансии

Читайте также

Последние события

Горячее событие

Вакансии

Ищите работу в IT?

Отзывы о работе

Обсуждение компаний

Блоги

Горящие события

Новости