Рубрика: Слепые зоны алгоритмов · Блок: AI-код управления
Галлюцинации ИИ в кадровых решениях: чем опасны выдуманные факты о человеке
Галлюцинации ИИ — это ответы нейросети, в которых она уверенно сообщает то, чего на самом деле нет. В кадровых решениях это особенно опасно: выдуманный факт о кандидате или сотруднике выглядит как проверенная справка и может стоить человеку работы. Компании он может стоить хорошего специалиста, денег и репутации, а ответственность остаётся за ней.
Почему в кадровых решениях галлюцинации особенно опасны
Галлюцинация в письме коллеге неприятна, но её быстро заметят. Галлюцинация о человеке устроена иначе. Руководитель видит связный текст о кандидате или сотруднике и не имеет повода сомневаться. Тот, о ком написано, обычно этого текста не видит и не может возразить.
Отсюда и главная особенность таких ошибок: они не обнаруживают себя сами. Отказ кандидату не проверяется, а решение не продвигать сотрудника редко кто объясняет ему подробно. Несуществующий факт может прожить в компании долго и повлиять на несколько решений подряд.
В этой статье речь идёт только о кадровых решениях. Какие риски есть у ИИ в оценке в целом, разобрано на странице «ИИ в оценке персонала».
Откуда берутся галлюцинации
Это не сбой, который исправят в следующей версии. Исследователи OpenAI объясняют их устройством самого обучения: языковая модель учится продолжать текст правдоподобно, а при оценке моделей догадка приносит больше очков, чем признание «не знаю» (Kalai и соавторы, 2025). Модель не сверяется с реальностью и отвечает так, как обычно выглядит правильный ответ.
Поэтому чаще всего ошибки появляются там, где данных мало, а вопрос конкретный. Редкая фамилия, небольшая компания, частный случай из биографии: именно такие вопросы задаёт рекрутер или руководитель. Сведений о частном человеке в обучающих данных почти нет, а форма ответа остаётся такой же уверенной.
Что нейросети уже выдумывали о людях
Случаи ниже описаны в публичных источниках. Они не про кадровые решения, но показывают, какие именно ошибки возможны.
| Случай | Что произошло | Чем закончилось |
|---|---|---|
| Норвегия, 2025 | ChatGPT на вопрос о частном человеке сообщил, что тот убил двух сыновей и приговорён к 21 году, правильно назвав при этом его родной город и число детей | жалоба правозащитной организации noyb регулятору в области защиты данных |
| Германия, 2024 | Copilot описал судебного репортёра как совершившего преступления, о которых тот писал годами | после обращения записи убрали, но они возвращались |
| США, 2025 | ChatGPT приписал радиоведущему хищение, журналист запросил сведения и усомнился | суд штата Джорджия отказал в иске к OpenAI |
Обратите внимание на два обстоятельства. Первое: в норвежском случае выдумка смешана с правдой, и настоящие детали делают её убедительной. Второе: в американском случае журналист не поверил и не опубликовал этих сведений, а суд учёл предупреждения о возможных ошибках. Поставщик модели защищается как раз тем, что предупредил. Значит, рассчитывать на то, что за кадровую ошибку ответит он, не стоит.
Где это может случиться в компании
Ни один из этих сценариев не требует специального кадрового ИИ. Достаточно того, что сотрудники пользуются обычной нейросетью:
- Справка о кандидате. Рекрутер просит рассказать о человеке, и модель дополняет биографию несуществующими местами работы или историями.
- Сводка интервью. В итоговом тексте появляется то, чего кандидат не говорил, или теряется важная оговорка.
- Сводка обратной связи. Много отзывов коллег сводятся в один вывод, который звучит определённо, хотя в ответах этой определённости не было.
- Подготовка к решению. Руководитель просит сформулировать характеристику сотрудника, и она становится аргументом при обсуждении повышения.
Общее у них одно: после сводки исходный материал больше никто не открывает.
Помогает ли специализированный инструмент
Кажется, что проблема касается только общедоступных чат-ботов, а отраслевые решения от неё защищены. Данные из юриспруденции, где ошибки легко проверить, говорят о другом. Стэнфордские исследователи установили, что на конкретных вопросах о судебных делах универсальные модели ошибались в 58–88% случаев (Dahl и соавторы, 2024). А специализированные юридические инструменты крупных поставщиков, которые рекламировались как свободные от галлюцинаций, ошибались в 17–33% случаев (Magesh и соавторы, 2025).
Это другая отрасль, и прямо переносить цифры на HR нельзя. Но вывод полезен: специализация снижает долю ошибок, но не устраняет их. Значит, обещание поставщика не заменяет проверку.
Кто отвечает за выдуманный факт
На этот вопрос есть показательное решение. Трибунал канадской провинции Британская Колумбия рассмотрел спор, в котором чат-бот авиакомпании дал клиенту неверные сведения о тарифе. Компания утверждала, что чат-бот отвечает за себя сам. Трибунал с этим не согласился и обязал её выплатить компенсацию, 812 канадских долларов вместе с процентами и сборами (Moffatt против Air Canada, 2024). Сумма небольшая, а принцип важный: компания отвечает за то, что сказала её система.
В России есть прямая норма для кадровых решений. Трудовой кодекс запрещает работодателю при принятии решений, затрагивающих интересы работника, основываться на персональных данных, «полученных исключительно в результате их автоматизированной обработки или электронного получения» (статья 86). О том, что отсюда следует для автоматизации, рассказывает статья «Автоматизация HR-процессов».
Во что обходится ошибка
Цена галлюцинации в кадровом решении несимметрична. Запрос к нейросети экономит несколько минут, а ошибка может стоить намного дороже:
- Компании — кандидата, которого никто не пригласил, сотрудника, который ушёл после необъяснимого решения, и спора, если человек узнает причину.
- Человеку — работы или повышения из-за события, которого не было.
- Руководителю — доверия команды, когда выяснится, на чём основывалось решение.
Почему разумные люди верят таким ответам
Легко сказать, что проверять нужно всё. На деле люди верят связному тексту, и этому есть понятные причины.
Во-первых, ответ нейросети выглядит как работа аккуратного и знающего коллеги: без оговорок, с деталями, с уверенным тоном. Мы привыкли считать, что подробность говорит о достоверности. Во-вторых, модель часто бывает права, и эти удачи приучают не проверять. В-третьих, кадровые решения принимаются в спешке, а проверка требует тех самых минут, ради экономии которых нейросеть и открыли.
Есть и более неприятная причина. Выдуманный факт часто совпадает с первым впечатлением. Если кандидат почему-то не понравился, сообщение о его проблемах на прошлой работе не вызывает сомнений: оно подтверждает то, что человек и так думал. Именно поэтому галлюцинации опаснее всего там, где решение уже почти принято.
Отдельный случай — материалы, которые нейросеть создаёт на основе уже существующих записей: обобщение отзывов, итоги собеседования. Здесь источник вроде бы настоящий, поэтому и доверия больше. Но проверить сводку можно только прочитав исходник, а смысл сводки как раз в том, чтобы этого не делать.
В результате ответственность незаметно смещается. Рекрутер считает, что справка проверена, потому что её подготовила система. Руководитель считает, что её проверил рекрутер. На практике сведения о человеке не проверял никто, а решение уже принято. Такое распределение никто не планировал: оно возникает само, когда процесс ускоряется, а роли в нём остаются прежними.
На чём должно основываться решение о человеке?
Защита здесь в первую очередь в происхождении данных. Решение о человеке обоснованно, когда понятно, откуда взялся каждый факт: из проверенного измерения, из разговора, из документа, из наблюдения конкретного человека. Текст, который сгенерирован без ссылки на источник, остаётся гипотезой, а не основанием для решения.
Отсюда простое различие для компании: нейросеть может помогать работать с материалом, но не может быть источником сведений о человеке. Для решений о людях нужны данные, которые получены измерением и подкреплены разговором. Об этом подробнее на странице «Оценка персонала».
Частые вопросы
Что такое галлюцинации ИИ простыми словами?
Это ответы нейросети, где она уверенно сообщает несуществующие факты. Модель не сверяется с реальностью, а продолжает текст так, как обычно выглядит правильный ответ. Поэтому ошибка внешне неотличима от верных сведений.
Можно ли спрашивать у нейросети о кандидате?
Сведения о частном человеке нельзя считать основанием для решения: данных о нём мало, и именно тут модель чаще всего выдумывает. В публичных источниках уже описаны случаи, когда нейросеть приписывала людям тяжкие преступления.
Кто отвечает, если нейросеть выдумала факт о сотруднике?
За кадровое решение отвечает работодатель, а не поставщик модели. Статья 86 Трудового кодекса запрещает основывать решения, затрагивающие интересы работника, на данных, полученных исключительно автоматизированной обработкой или электронным путём.
Исчезнут ли галлюцинации в новых версиях?
Их может стать меньше, но исследователи OpenAI объясняют их устройством обучения и оценки моделей (Kalai и соавторы, 2025). Даже специализированные юридические инструменты в независимой проверке ошибались в 17–33% случаев.