Человеком в контуре (human-in-the-loop) называют участника процесса, который проверяет, правит или утверждает результат ИИ, прежде чем тот пойдёт дальше. ИИ готовит черновик, подборку или предложение, решение остаётся за человеком. Место такого участника задают заранее: на каком шаге он подключается, что проверяет и что делает, если результат не годится.
Человек может стоять в контуре по-разному, и от этого зависит и надёжность, и экономика.
По цене ошибки и по тому, можно ли её исправить. Неверно разложенное письмо исправляется за секунду, отказ подходящему кандидату или неверный платёж исправить сложнее. Чем дороже и необратимее решение, тем ближе человек к каждому результату. Для подбора персонала есть и требования закона: европейский AI Act относит такие системы к высокому риску и требует для них человеческого надзора.
Отдельная опасность в том, что человек привыкает соглашаться. Если ИИ почти всегда прав, проверка превращается в нажатие кнопки. В AI Act для этого есть отдельный термин, предвзятость автоматизации. Против неё помогают понятные критерии проверки и время, которого хватает, чтобы вчитаться.
Человек не обязан ловить каждую ошибку сам. Решение можно построить так, чтобы ИИ останавливался и звал его в спорных и важных случаях. Такие правила закладывают при разработке:
Собственной оценке модели «я уверена» полностью доверять нельзя, поэтому надёжнее опираться на внешние правила и проверки. Их описывают в спецификации вместе с тем, кому уходит вопрос и сколько он может ждать ответа.
Проверка человеком отнимает часы, и они идут в расчёт выгоды наравне с подписками. Если на проверку одного результата уходит почти столько же, сколько на работу вручную, автоматизация не окупится. В калькуляторе для этого есть отдельное поле: минуты проверки на задачу. Реальные минуты лучше брать с пилота, на глаз их обычно занижают.
Человек в контуре сохраняет экспертизу внутри компании. Он видит, где ИИ ошибается, и знает, как работать без него. Это и есть резерв, отсутствие которого создаёт точку отказа. Отсюда другой подход к внедрению: ИИ снимает с людей рутину, а люди остаются в контуре и делают больше. Подробнее о нём в методичке.
Сейчас я веду обучение специалиста по подбору персонала. Одна из задач: сверять резюме с критериями роли. Критерии записаны в файле, ИИ проверяет по ним резюме и показывает, кто подходит. Решение, звать ли кандидата, принимает человек. Если ИИ ошибся, критерий уточняют одной строкой в файле. Подробнее в описании кейса.
Экономию времени пока не считали: клиент планирует сделать это, когда будут готовы остальные задачи. Распределение ролей видно уже сейчас. ИИ готовит подборку, выбор остаётся за человеком.
На каком шаге человек подключается и какой у него уровень участия. По каким критериям он проверяет. Сколько минут на проверку закладывается в расчёт. Кто заменяет его в отпуске. И что происходит с результатом, который он отклонил.
Связанные термины: Точка отказа · Стоимость владения · Пилот · Критерии приёмки
Хотите посчитать, сколько съест проверка человеком? Калькулятор окупаемости →