Human-in-the-loop: wanneer wel en wanneer niet?

De vraag stelt zich bij vrijwel elk project: op welke momenten mag de agent zelfstandig handelen, en wanneer moet er een mens aan te pas komen? Het is verleidelijk om dat achteraf te regelen, als de agent al live is. Mijn ervaring is dat u dat omgekeerd moet aanpakken. Bepaal de grens vóórdat u bouwt, en codeer hem in beleid.

Waarom altijd goedkeuring vragen averechts werkt

Sommige ondernemers starten voorzichtig: de agent stelt voor, de medewerker klikt akkoord. Klinkt veilig. Maar na twee weken klikt de medewerker zonder te lezen. De goedkeuring is theater geworden. U heeft dan het slechtste van twee werelden: de snelheid van een mens, de foutgevoeligheid van een agent die nooit gecorrigeerd wordt.

Human-in-the-loop werkt alleen als de mens daadwerkelijk iets bijdraagt op het moment dat hij tussenkomt. Dat vraagt om een scherpe keuze: voor welke beslissingen is menselijk oordeel echt noodzakelijk, en voor welke is het alleen maar geruststelling?

Het raamwerk: vier vragen per handeling

Ik loop bij elk project vier vragen af voor elke handeling die een agent kan uitvoeren. Samen geven ze een helder antwoord over waar een mens nodig is.

• —Wat is de maximale schade als de agent hier een fout maakt? Zet een bedrag of een concrete consequentie. Geen bedrag kunnen noemen betekent dat u het risico nog niet begrijpt.
• —Is de fout omkeerbaar? Een verstuurde factuur is lastiger terug te draaien dan een conceptmail in de map Concepten.
• —Heeft de agent genoeg context om deze beslissing consistent goed te nemen? Als het antwoord afhangt van klantgeschiedenis of gevoeligheid die niet in de data zit, is menselijk oordeel nodig.
• —Hoe vaak gebeurt dit? Een handeling die driemaal per jaar voorkomt, mag altijd langs een mens. Driehonderd keer per maand niet.

Wanneer u de mens er altijd tussengooit

Er zijn situaties waarbij tussenkomst van een mens geen optie is maar een vereiste. Niet vanwege onzekerheid over de agent, maar vanwege de aard van de beslissing.

• —Financiële verplichtingen boven een drempelbedrag dat u zelf vaststelt. Bij een maakbedrijf kan dat € 2.000 zijn, bij een groothandel € 10.000.
• —Communicatie bij een klacht waarbij de klantrelatie op het spel staat, zeker bij klanten boven een bepaalde omzetdrempel.
• —Juridisch bindende berichten: opzeggingen, aanmaningen in de laatste fase, offertes met afwijkende voorwaarden.
• —Situaties waarbij de agent aangeeft dat hij er niet uitkomt. Als het vertrouwensniveau van de agent laag is, moet dat altijd escaleren.
• —Nieuwe klanten of leveranciers waar nog geen historische data over bestaat.

Wanneer de agent zelfstandig mag handelen

Automatisch verwerken zonder tussenkomst is gerechtvaardigd als de handeling routinematig is, de regels volledig beschreven zijn, en de consequentie bij een fout beperkt en herstelbaar is. In de praktijk gaat het dan om zaken als orderbevestigingen versturen na een succesvolle kredietcheck, herinneringen plannen op vaste termijnen, of een ticketstatus bijwerken op basis van een klantreactie.

“De agent handelt zelfstandig als de regel volledig beschreven is en de fout herstelbaar is. Anders niet.”

Het tussengebied: asynchroon reviewen

Er is een derde vorm die veel ondernemers over het hoofd zien: de agent handelt, maar legt een log aan die een medewerker dagelijks of wekelijks doorloopt. Niet om goed te keuren vooraf, maar om patronen op te vangen achteraf. Dit werkt goed voor handelingen die te frequent zijn voor realtime goedkeuring, maar waarbij u vinger aan de pols wilt houden. Bij een HR-dienstverlener pasten we dit toe op automatisch verstuurde contractwijzigingen: de agent stuurde ze, een medewerker bekeek elke ochtend in vijf minuten de samenvatting van de vorige dag.

Eén praktische vuistregel

Begin met een strenge instelling en verruim daarna op basis van ervaring. Het is veel makkelijker om een grens te verleggen nadat u drie maanden gezien heeft dat de agent het goed doet, dan om achteraf een fout terug te draaien die in honderd dossiers doorgewerkt is. Vertrouwen bouwt u op door te meten, niet door aan te nemen.