Современные работники все чаще обнаруживают, что компании больше не довольствуются рассмотрением их резюме, сопроводительных писем и результатов работы. Все больше и больше работодатели хотят оценить их мозг.
Предприятия проверяют потенциальных кандидатов на работу с помощью технических когнитивных и личностных тестов, внедряют носимые устройства для мониторинга активности мозга на рабочем месте и используют искусственный интеллект для принятия решений о найме, продвижении по службе и увольнении людей. Мозг становится конечной сортировочной шляпой на рабочем месте — технологической версией волшебного устройства, которое распределяет юных волшебников по факультетам Хогвартса из серии «Гарри Поттер».
Компании реклама технологических инструментов для оценки мозга соискателей обещает резко «повысить качество найма» за счет измерения «основных строительных блоков того, как мы думаем и действуем». Они утверждают, что их инструменты могут даже уменьшить предвзятость при найме, «полагаясь исключительно на когнитивные способности».
Но исследования показали, что такие оценки могут привести к расовому неравенству, которое «в три-пять раз больше чем другие предикторы производительности труда». Когда социальные и эмоциональные тесты являются частью батареи, они также могут отсеивать людей с аутизмом и другие нейроразнообразные кандидаты. И от кандидатов может потребоваться раскрыть свои мысли и эмоции с помощью игровых инструментов найма на основе искусственного интеллекта, не полностью понимая последствия собираемых данных. Недавние опросы показали, что более 40% компаний использовать оценки когнитивных способностей при приеме на работу, федеральные органы регулирования занятости справедливо начали обращать внимание.
Как только работники наняты, появляются новые носимые устройства. интеграция оценки мозга на рабочих местах во всем мире для мониторинга внимания и оценка продуктивности на работе. СмартКэп отслеживает усталость работников, Наушники Neurable’s Enten способствовать концентрации внимания и Наушники Emotiv MN8 обещают отслеживать «уровень стресса и внимания ваших сотрудников с помощью… запатентованных алгоритмов машинного обучения» — хотя, как уверяет компания, они «не умеют читать мысли или чувства».
Растущее использование носимых устройств, ориентированных на мозг, на рабочем месте, несомненно, заставит менеджеров использовать информацию, полученную от них, для обоснования решений о найме и продвижении по службе. Мы уязвимы для соблазнительное очарование нейронаучных объяснений для сложных человеческих явлений и обращается к измерению даже когда мы не знаем, что мы должны измерять.
Использование когнитивных и личностных тестов на основе ИИ может привести к упрощенным объяснениям человеческого поведения, которые игнорируют более широкие социальные и культурные факторы, которые формируют человеческий опыт и предсказывают успех на рабочем месте. Когнитивная оценка для инженера-программиста может проверять пространственные и аналитические навыки, но игнорирует способность сотрудничать с людьми из разных слоев общества. Искушение состоит в том, чтобы превратить человеческое мышление и чувства в кусочки головоломки, которые можно рассортировать по нужным параметрам.
Похоже, что Комиссия по равным возможностям при трудоустройстве США осознала эти потенциальные проблемы. Недавно он издал проект принудительного исполнения руководство по «дискриминация при приеме на работу, связанная с технологиями», включая использование технологий для «инструментов найма, отбора или производства и управления производительностью».
Хотя комиссии еще предстоит прояснить, как работодатели могут соблюдать законы о недискриминации при использовании технических оценок, она должна работать над тем, чтобы когнитивные и личностные тесты ограничивались навыками, связанными с работой, чтобы они не нарушали личную жизнь сотрудников.
Растущая мощь этих инструментов может побудить работодателей «взламывать» мозги кандидатов и проверять их на основе убеждений и предубеждений, при условии, что такие решения не являются незаконно дискриминационными, поскольку они напрямую не основаны на защищенных характеристиках. Facebook «лайки» уже можно использовать для сделать вывод о сексуальной ориентации и расе со значительной точностью. Политическая принадлежность и религиозные убеждения так же легко идентифицируются. По мере того как носимые устройства и программы оздоровления мозга начинают отслеживать психические процессы с течением времени, возрастное снижение когнитивных функций также станет обнаруживаемым.
Все это указывает на настоятельную необходимость для регулирующих органов разработать конкретные правила, регулирующие использование когнитивного и личностного тестирования на рабочем месте. Работодатели должны получать информированное согласие от кандидатов до прохождения ими когнитивной и личностной оценки, включая четкое раскрытие информации о том, как данные кандидатов собираются, хранятся, передаются и используются. Регуляторные органы также должны требовать, чтобы оценки регулярно проверялись на достоверность и надежность, чтобы убедиться, что они точны, воспроизводимы и связаны с производительностью труда и результатами, а также не являются чрезмерно чувствительными к таким факторам, как усталость, стресс, настроение или лекарства.
Инструменты оценки также должны регулярно проверяться, чтобы гарантировать, что они не дискриминируют кандидатов по признаку возраста, пола, расы, этнической принадлежности, инвалидности, мыслей или эмоций. И компании, разрабатывающие и администрирующие эти тесты, должны регулярно обновлять их с учетом меняющихся контекстуальных и культурных факторов.
В более широком смысле мы должны рассмотреть, не продвигают ли эти методы оценки кандидатов на работу чрезмерно редукционистские взгляды на человеческие способности. Это особенно верно, поскольку возможности людей чаще сравнивают с возможностями генеративного ИИ.
Хотя использование когнитивных и личностных оценок не ново, растущая сложность нейротехнологий и инструментов на основе ИИ для декодирования человеческого мозга поднимает важные этические и юридические вопросы о когнитивной свободе.
Сознание и личность сотрудников должны подлежать самой строгой защите. Хотя эти новые тесты могут предложить некоторые преимущества для работодателей, они не должны осуществляться за счет неприкосновенности частной жизни, достоинства и свободы мысли работников.
Нита Фарахани — профессор права и философии в Университете Дьюка и автор книги «Битва за ваш мозг: защита права мыслить свободно в эпоху нейротехнологий».
