Автор — Отем Спредеманн, The Epoch Times (выделено нами),
Роль искусственного интеллекта (ИИ) на рабочем месте стремительно развивается, и некоторые предупреждают, что использование ИИ для принятия управленческих решений без тщательного обдумывания может иметь неприятные последствия.
ИИ все чаще используется при подборе персонала, найме и оценке эффективности работы, что может привести к повышению по службе или увольнению.
Исследователи, эксперты в области права, законодатели и такие организации, как Human Rights Watch, выразили обеспокоенность тем, что алгоритмы искусственного интеллекта могут стать причиной этических проблем, включая маргинализацию и дискриминацию на рабочем месте.
Этот тревожный сигнал не нов, но по мере того, как все больше руководителей используют ИИ для принятия важных кадровых решений, растет и риск свести сотрудников к цифрам и графикам.
Опрос Resume Builder, опубликованный в июне, показал, что среди группы из 1342 менеджеров в США 78 процентов используют инструменты ИИ для принятия решений о повышении зарплаты, 77 процентов — для продвижения по службе, 66 процентов — для увольнения и 64 процента — для увольнения.
Использование ИИ в качестве инструмента управления персоналом уже само по себе является предостережением. В беспрецедентном деле о дискриминации на рабочем месте, произошедшем в 2023 году, цифровая платформа по трудоустройству iTutorGroup выплатила 365 000 долларов США в качестве урегулированного иска, поданного Комиссией США по равным возможностям трудоустройства (EEOC).
Сервис репетиторства английского языка был вынужден возместить ущерб кандидатам, отсеянным его алгоритмом искусственного интеллекта. Компания использовала алгоритм искусственного интеллекта, который автоматически отклонил более 200 кандидатов по возрасту. Кандидаты автоматически дисквалифицировались, если, например, женщины были старше 55 лет. Мужчинам в возрасте 60 лет и старше также отказывали.
«Сотни соискателей потеряли работу в это трудное для соискателей время», — заявил в своем заявлении исполняющий обязанности директора Нью-Йоркского округа EEOC Тимоти Риера .
Избегание дегуманизации
Гражданские нормы и правительственное законодательство выдвигаются в качестве меры защиты от использования ИИ для оценки и мониторинга эффективности работы сотрудников.
В марте Калифорнийский совет по гражданским правам завершил разработку правил, касающихся систем принятия решений на основе искусственного интеллекта (ИИ) на рабочих местах, которые вступают в силу 1 октября. Правила включают защиту сотрудников от использования систем ИИ для повышения эффективности компании. Это касается таких мер, как помощь в найме, увольнение и повышение по службе.
На федеральном уровне сенатор Чак Грассли (республиканец от Айовы) в мае представил Закон о защите осведомителей об ИИ. В случае принятия законопроект обеспечит компенсацию и защиту от преследований тем, кто работает непосредственно с ИИ и решит раскрыть проблемы с этими системами.
« Сегодня слишком много людей, работающих в сфере ИИ, чувствуют, что не могут высказаться, если видят что-то неладное. Информаторы — один из лучших способов гарантировать, что Конгресс будет идти в ногу со временем, поскольку индустрия ИИ стремительно развивается », — сказал Грассли .
Кроме того, штаты Иллинойс, Калифорния и Нью-Йорк предложили, внесли на рассмотрение или приняли законы, направленные на защиту работников от дискриминации со стороны алгоритмов ИИ в таких областях, как подбор персонала, найм, продвижение по службе, продление трудовых отношений, дисциплинарные меры и обучение.
Владельцы бизнеса, эксперты по искусственному интеллекту и менеджеры, использующие эти цифровые инструменты для принятия решений, влияющих на сотрудников, подчеркивают необходимость человеческого контроля.
«Я использовал ИИ в подборе персонала. Такие инструменты, как системы скрининга и парсеры резюме на базе ChatGPT, стали настоящим прорывом», — рассказал Питер Суэйн, эксперт и консультант по ИИ, изданию The Epoch Times.
Суэйн — генеральный директор одноименной компании, которая помогает предпринимателям находить баланс между системами ИИ и их рабочей силой. Он проиллюстрировал плюсы и минусы использования систем ИИ для решения управленческих задач.
« Преимущества? Скорость и масштабируемость — ИИ может обработать 1000 резюме за то время, пока человек читает 10. Кроме того, при правильном обучении он снижает предвзятость», — сказал Суэйн.
Недостатки? Мусор на входе — мусор на выходе. Если ИИ обучается на предвзятых данных, он закрепляет эти предвзятости. Кроме того, ему не хватает человеческого фактора — соответствие культуре и гибкие навыки не могут быть полностью оценены алгоритмом.
По словам Суэйна, инструменты ИИ, как правило, демонстрируют наилучшие результаты в задачах, связанных с обработкой данных, но их использование для таких действий, как повышения зарплаты, продвижения по службе и увольнения, — «сложная тема».
«Я пробовал использовать аналитику производительности на основе ИИ — отслеживать [ключевые показатели эффективности], производительность... но я бы никогда не позволил ему принимать окончательное решение», — сказал он. «Это инструмент, а не средство принятия решений. Риск — дегуманизация, превращение людей в точки данных».
Суэйн также назвал использование ИИ в принятии управленческих решений этическим «минным полем».
«Искусственный интеллект может усилить предвзятость, если его не контролировать тщательно, — например, дискриминацию по половому, расовому или возрастному признакам, заложенную в данные обучения», — сказал он. «Прозрачность — ключ к успеху. Сотрудники должны знать, как принимаются решения, и иметь возможность их оспорить. Важна ответственность: если ИИ ошибётся, кто будет виноват? Нельзя просто свалить вину на машину».
Объемы данных
Стивен Энгель, генеральный директор Sanative Recovery and Wellness, рассказал The Epoch Times, что недавно он использовал чат-бот на основе искусственного интеллекта ChatGPT, чтобы помочь принять решение об увольнении сотрудника.
Он сказал, что хотя ИИ не принимает окончательного решения, его способность быстро обрабатывать большие объемы данных позволяет менеджерам мыслить яснее, «отстраняться от эмоций ситуации» и анализировать ситуации более объективно.
«Для меня именно в этом и заключается настоящая ценность ИИ в данном контексте. ... Он позволил мне обдумать ситуацию, более рационально взвесить варианты и в конечном итоге выбрать наилучший курс действий», — сказал Энгель.
« Я также использовал ChatGPT позже, чтобы лучше понять, какие качества и сильные стороны следует отдать приоритет при найме следующего кандидата. Опять же, не как замену человеческому суждению, а как инструмент, помогающий мне сфокусировать свои мысли ».
Некоторые владельцы бизнеса используют инструменты ИИ для выявления сотрудников, которым нужна помощь.
«Наши голосовые симуляции на основе искусственного интеллекта позволяют новым сотрудникам участвовать в реалистичных учебных звонках с первого дня. Эти взаимодействия оцениваются автоматически и сопровождаются возможностями коучинга. Это позволяет быстро увидеть, кто прогрессирует, а кому может потребоваться дополнительная поддержка», — рассказал Лонни Джонстон, генеральный директор обучающей платформы WizeCamel, изданию The Epoch Times.
« Наша платформа помогает выявить сотрудников, испытывающих трудности, на ранних этапах и отслеживает, улучшают ли они свои показатели по приемлемому графику ».
Он привел недавний пример того, как оценки ИИ предоставляют данные, помогающие руководителям принимать решения.
Продолжение читайте здесь...
Комментариев нет:
Отправить комментарий