Human in the loop bij AI-agents: welke acties vragen goedkeuring?

Wat betekent human in the loop bij een AI-agent?

Human in the loop betekent dat de agent een actie klaarzet, maar dat een mens die goedkeurt, aanpast of afwijst voordat hij wordt uitgevoerd. De agent doet het verzamelen en invullen; de mens houdt de beslissing. Dat is iets anders dan achteraf monitoren, waarbij je bekijkt wat al is gebeurd.

De meeste agentplatforms hebben dit ingebouwd. In n8n kun je goedkeuring vereisen voordat een AI-agent een bepaalde tool gebruikt, en ziet de beoordelaar welke tool de agent met welke invoer wil gebruiken. De OpenAI Agents SDK pauzeert bij toolaanroepen die goedkeuring vragen. De MCP-specificatie zegt dat er altijd een mens zou moeten zijn die toolaanroepen kan weigeren.

Welke acties moet een agent niet zelf uitvoeren?

Acties met grote gevolgen: ze zijn lastig terug te draaien, kosten geld of bereiken klanten en leveranciers. OWASP noemt het ontbreken van goedkeuring voor zulke acties excessive autonomy en adviseert menselijke goedkeuring bij acties met veel impact. n8n noemt gegevens verwijderen, externe communicatie versturen en aankopen doen als typische voorbeelden.

Welke acties goedkeuring vragen: een vertrekpunt

Verplicht de wet menselijke goedkeuring?

Alleen in bepaalde gevallen. De AI Act eist menselijk toezicht bij AI-systemen met een hoog risico, zoals AI die sollicitaties beoordeelt. Een agent voor orderstatus, offertes of servicetickets heeft daarmee nog geen hoog risico. De AVG geeft mensen het recht niet te worden onderworpen aan uitsluitend geautomatiseerde besluiten met rechtsgevolgen of vergelijkbaar aanmerkelijke gevolgen, met uitzonderingen.

Dit is algemene informatie en geen juridisch advies. Of een specifieke agent een hoog risico heeft, hangt af van het doel; laat dat beoordelen als je agent over mensen beslist, zoals sollicitanten of kredietwaardigheid.

• AI Act, artikel 14: systemen met een hoog risico moeten zo zijn ontworpen dat mensen er doeltreffend toezicht op kunnen houden, de grenzen begrijpen, bedacht blijven op automation bias, de output kunnen negeren of terugdraaien en het systeem kunnen stoppen.
• AI Act, artikel 26: gebruiksverantwoordelijken van systemen met een hoog risico dragen het toezicht op aan mensen met de nodige bekwaamheid, opleiding en autoriteit, en bewaren logs ten minste zes maanden voor zover die onder hun beheer vallen.
• Ingangsdata: sinds de Digitale omnibus inzake AI, Verordening (EU) 2026/1744 van 8 juli 2026, gelden deze regels vanaf 2 december 2027 voor systemen met een hoog risico uit bijlage III en vanaf 2 augustus 2028 voor die uit bijlage I.
• AI Act, artikel 4 zoals gewijzigd door Verordening (EU) 2026/1744, voor elk AI-systeem: aanbieders en gebruiksverantwoordelijken nemen maatregelen om de AI-geletterdheid te ondersteunen van het personeel dat ermee werkt.
• AVG, artikel 22: iemand mag niet worden onderworpen aan een besluit dat uitsluitend op geautomatiseerde verwerking berust en rechtsgevolgen of vergelijkbaar aanmerkelijke gevolgen heeft, tenzij een uitzondering geldt. Bij de uitzonderingen overeenkomst en uitdrukkelijke toestemming houdt hij ten minste recht op menselijke tussenkomst, op het geven van zijn standpunt en op het aanvechten van het besluit.

Hoe regelen agentplatforms goedkeuring?

Elk groot platform biedt een manier om een agent te laten wachten op een mens, maar je stelt het zelf in, per tool of per flow. De standaardinstellingen verschillen: sommige vragen standaard om bevestiging, andere voeren tools automatisch uit. Controleer wat je platform doet voordat je het koppelt aan een systeem waarin geschreven wordt.

Goedkeuringsopties per platform (stand oktober 2026)

• Copilot Studio of een maatwerk AI-agent
• n8n, Zapier of een AI-agent

Hoe richt je goedkeuring in die werkt?

Combineer goedkeuring met grenzen die niet van de agent afhangen: minimale rechten in het gekoppelde systeem, een vaste lijst toegestane acties en een log van alles. Laat de beoordelaar precies zien wat er gaat gebeuren. Begin streng en versoepel alleen waar de agent zich heeft bewezen.

1. 01

   Geef minimale rechten

   OWASP adviseert de rechten van de agent in andere systemen tot het minimum te beperken, en de autorisatie in die systemen te controleren in plaats van het model te laten beslissen.

2. 02

   Beslis per actie

   Gebruik de tabel hierboven: lezen vrij, acties met veel impact naar een mens. Leg vast wie wat goedkeurt.

3. 03

   Toon de precieze actie

   De beoordelaar ziet de klant, de artikelen, de bedragen en het gesprek waar het uit komt, geen samenvatting. Zo blijft goedkeuren een echte controle.

4. 04

   Let op automation bias

   De AI Act noemt de neiging om te veel op AI-output te vertrouwen. Wissel van beoordelaar en controleer steekproefsgewijs goedgekeurde acties.

5. 05

   Begin streng, versoepel daarna

   n8n adviseert te beginnen met menselijke beoordeling en het toezicht te verminderen naarmate het vertrouwen groeit. Versoepel per actie, op basis van de log.

Hoe regelt BeeManaged goedkeuring?

Agents beginnen met alleen lezen. Rechten liggen per rol vast, met een apart account per gekoppeld systeem. Acties die records in het ERP, de financiën of de servicedesk wijzigen, wachten in de goedkeuringswachtrij in app.beemanaged.com tot een collega akkoord geeft. Jij bepaalt wie wat goedkeurt, en elke vraag en actie komt in de auditlog.

• Bulkacties, zoals veel orders tegelijk factureren in Exact Online, tonen eerst een voorstel met aantallen en totalen; er wordt niets aangemaakt tot iemand het geheel goedkeurt.
• Per proces spreken we af welke acties goedkeuring vragen en wie ze goedkeurt. Elke actie komt in de auditlog.
• Met onze monitoring laten het nalopen van gesprekken en het maandrapport zien waar een goedkeuringsstap losser kan of strakker moet.

• De werkwijze van BeeManaged stap voor stap
• Interne AI-agent met rechten per rol