Człowiek w pętli (human-in-the-loop) to uczestnik procesu, który sprawdza, poprawia lub zatwierdza wynik AI, zanim trafi on dalej. AI przygotowuje szkic, zestawienie albo propozycję, a decyzja należy do człowieka. Jego miejsce ustala się z góry: na którym kroku się włącza, co sprawdza i co robi, jeśli wynik się nie nadaje.
Człowiek może być w pętli na różne sposoby i od tego zależą zarówno niezawodność, jak i ekonomia.
Według kosztu błędu i tego, czy da się go naprawić. Źle przypisaną wiadomość poprawia się w sekundę, odrzucenie odpowiedniego kandydata albo błędną płatność znacznie trudniej. Im droższa i mniej odwracalna decyzja, tym bliżej każdego wyniku stoi człowiek. W rekrutacji dochodzą wymogi prawne: unijny AI Act zalicza takie systemy do wysokiego ryzyka i wymaga dla nich nadzoru człowieka.
Osobne ryzyko polega na tym, że człowiek przyzwyczaja się do przytakiwania. Jeśli AI prawie zawsze ma rację, sprawdzanie zamienia się w klikanie przycisku. AI Act ma na to osobne określenie: skłonność do nadmiernego polegania na automatyzacji. Pomagają jasne kryteria sprawdzania i tyle czasu, żeby dało się wczytać w wynik.
Człowiek nie musi wyłapywać każdego błędu sam. Rozwiązanie można zbudować tak, by AI zatrzymywało się i wzywało go w spornych i ważnych przypadkach. Takie reguły zakłada się już na etapie budowy:
Deklaracji modelu „jestem pewien” nie można w pełni ufać, dlatego pewniej jest opierać się na zewnętrznych regułach i kontrolach. Opisuje się je w specyfikacji razem z tym, do kogo trafia pytanie i jak długo może czekać na odpowiedź.
Sprawdzanie przez człowieka to godziny, które liczy się w bilansie korzyści na równi z abonamentami. Jeśli sprawdzenie jednego wyniku zajmuje prawie tyle samo co ręczna praca, automatyzacja się nie zwróci. W kalkulatorze jest na to osobne pole: minuty weryfikacji na zadanie. Rzeczywiste minuty lepiej wziąć z pilotażu, bo na oko zwykle się je zaniża.
Człowiek w pętli zatrzymuje wiedzę ekspercką w firmie. Widzi, gdzie AI się myli, i wie, jak pracować bez niego. To właśnie ta rezerwa, której brak tworzy punkt awarii. Stąd inne podejście do wdrożenia: AI zdejmuje z ludzi rutynę, a ludzie zostają w pętli i robią więcej. Więcej o nim w poradniku dla menedżera.
Prowadzę obecnie szkolenie dla specjalisty ds. rekrutacji. Jedno z zadań: porównywanie CV z kryteriami roli. Kryteria są zapisane w pliku, AI sprawdza według nich CV i pokazuje, kto pasuje. Decyzję, czy zaprosić kandydata, podejmuje człowiek. Jeśli AI się pomyli, kryterium doprecyzowuje się jedną linijką w pliku. Więcej w opisie przypadku.
Oszczędności czasu jeszcze nie policzono: klient planuje to zrobić, gdy pozostałe zadania będą gotowe. Podział ról widać już teraz. AI przygotowuje zestawienie, wybór zostaje przy człowieku.
Na którym kroku człowiek się włącza i jaki ma poziom udziału. Według jakich kryteriów sprawdza. Ile minut weryfikacji zakłada się w rachunku. Kto go zastępuje podczas urlopu. I co dzieje się z wynikiem, który odrzucił.
Powiązane terminy: Punkt awarii · Całkowity koszt posiadania · Pilotaż · Kryteria odbioru
Chcesz policzyć, ile pochłonie weryfikacja przez człowieka? Kalkulator opłacalności →