Job Interviews with a Robot: Why A.I. is Not Ready to Take Over the Hiring Process

Summary

Хила Шельман, журналист-расследователь, исследует использование инструментов найма на основе ИИ в крупных компаниях США и на платформах, таких как LinkedIn и Indeed. Хотя эти инструменты обещают повысить эффективность найма и снизить предвзятость, Шельман выявляет их недостатки, проводя тесты на оценку квалификации. Она обнаруживает, что многие алгоритмы воссоздают существующие предвзятости, а некоторые не подходят для высоких ставок, таких как трудоустройство. Хила призывает к разработке лучших инструментов и более тщательному контролю, подчеркивая необходимость тестирования и регулирования в процессе найма.

Takeaways

• 😀 Многие крупные компании в США используют инструменты на основе ИИ для найма сотрудников.
• 🤖 Инструменты ИИ, такие как резюме-сканеры и видеопрослушивания, часто имеют предвзятости.
• 💼 Хотя ИИ может ускорить процесс найма и снизить затраты, он не всегда находит наиболее квалифицированных кандидатов.
• 🧑‍🤝‍🧑 Люди разных возрастов, женщин и людей с ограниченными возможностями часто недооценены в процессе найма.
• 📊 Некоторые инструменты оценивания зависят от данных, которые могут быть предвзятыми, например, от резюме существующих сотрудников.
• ⚖️ Использование ИИ в найме должно быть тщательно проверено, чтобы избежать укрытия предвзятостей под технологией.
• 📈 Инструмент, тестируемый автором, выдал неожиданные результаты, показывая, как ИИ может неверно интерпретировать данные.
• ⚽ Например, резюме с упоминанием 'бейсбола' получали больше баллов, чем с 'софтболом', что может свидетельствовать о гендерной дискриминации.
• 🔍 Авторы призывают HR-менеджеров протестировать инструменты ИИ перед их использованием.
• 📜 Необходимы улучшенные инструменты и регулирование для обеспечения справедливости в найме.

Q & A

Какой основной предмет обсуждения в интервью Хила Шелмана?

Основной предмет обсуждения – использование инструментов искусственного интеллекта в процессе найма, их эффективность и потенциальные предвзятости.

Почему компании предпочитают использовать AI в найме?

Компании считают, что AI снижает затраты и ускоряет процесс найма, а также помогает находить более квалифицированных кандидатов.

Какие примеры AI-инструментов упоминает Шелман?

Шелман упоминает инструменты для сканирования резюме, AI-игры для оценки личных качеств, а также автоматические видеоинтервью с предзаписанными вопросами.

Каковы результаты тестирования одного из AI-инструментов Хилой Шелман?

Шелман получила высокий балл за уровень английского языка, хотя на самом деле ответила на вопросы на немецком, что показало, что инструмент может предсказывать уровень языка без его использования.

Какой пример предвзятости в AI-инструментах приводит Шелман?

Она приводит пример, когда резюме с упоминанием 'бейсбола' оценивались выше, чем резюме с 'софтболом', что может свидетельствовать о гендерной дискриминации.

Что Шелман говорит о будущем AI в найме?

Шелман не предлагает возвращаться к чисто человеческому найму, но призывает к созданию более надежных инструментов и лучшему контролю над ними.

Почему важно тестировать AI-инструменты перед их использованием в высоких ставках?

Важно тестировать инструменты, чтобы избежать предвзятостей и гарантировать, что они действительно эффективны и справедливы для всех кандидатов.

Какую рекомендацию Шелман дает HR-менеджерам?

Шелман рекомендует HR-менеджерам активно тестировать AI-инструменты, чтобы убедиться в их работоспособности и отсутствии предвзятостей.

Каков общий вывод Шелман о состоянии AI-технологий в найме?

Шелман считает, что многие из исследованных инструментов не готовы к использованию в важнейших решениях, таких как найм.

Какую роль играют предвзятости в обучении AI-инструментов?

Предвзятости могут попасть в алгоритмы через данные, используемые для обучения, что приводит к закреплению дискриминации в процессе найма.