Als AI-agents zelfstandig handelen: hoe houden we controle over hun transacties?

AI-systemen worden steeds autonomer. Ze kunnen informatie verzamelen, beslissingen voorbereiden, software bedienen en in toenemende mate zelfstandig acties uitvoeren.

Dat roept een belangrijke vraag op:

Wat gebeurt er wanneer een AI-agent niet alleen adviseert, maar ook financieel mag handelen?

Denk aan een agent die zelfstandig software inkoopt, een factuur betaalt, API-diensten afrekent, cryptovaluta verstuurt of namens een organisatie een andere AI-agent betaalt.

Dan is alleen de vraag of de AI “veilig” is niet meer voldoende.

We moeten ook kunnen vaststellen:

• Wie heeft de agent toestemming gegeven?
• Welke handelingen waren toegestaan?
• Tot welk bedrag mocht de agent handelen?
• Welke transactie heeft daadwerkelijk plaatsgevonden?
• Op basis waarvan nam de agent die beslissing?
• Kan een mens de transactie tegenhouden?
• En kunnen we achteraf reconstrueren wat er is gebeurd?

Van AI-veiligheid naar financiële controle

De discussie over kunstmatige intelligentie gaat vaak over modellen, alignment en de vraag of mensen uiteindelijk de controle kunnen verliezen.

Maar er ontstaat ondertussen een veel praktischer probleem.

AI-agents krijgen toegang tot echte systemen.

Wanneer zo’n agent alleen een document samenvat, is een fout vervelend. Wanneer dezelfde agent toegang heeft tot een betaalrekening, wallet, exchange, creditcard of betaaldienst, kan een fout onmiddellijk financiële gevolgen hebben.

Daarom moet de controle niet uitsluitend in het AI-model zelf zitten.

Er moet ook een controlelaag rondom de agent bestaan.

Hoe snel AI-agents van informatiegevend naar handelend evolueren, beschrijft het artikel over Astra en de autorisatie van AI-agents.

Het mandaat van de AI-agent

Een menselijke medewerker krijgt binnen een organisatie meestal bevoegdheden. Niet iedere medewerker mag onbeperkt betalingen uitvoeren.

Voor AI-agents zou hetzelfde principe moeten gelden.

Een agent kan bijvoorbeeld toestemming krijgen om:

• transacties tot €100 zelfstandig uit te voeren;
• alleen betalingen aan vooraf goedgekeurde partijen te doen;
• maximaal €500 per dag te besteden;
• bepaalde wallets of betaalrekeningen te gebruiken;
• boven een ingestelde grens menselijke goedkeuring te vragen.

Het uitgangspunt is eenvoudig: een AI-agent moet niet méér financiële bevoegdheid krijgen dan noodzakelijk is voor zijn taak.

Wat een passend mandaat is, hangt af van de rol van de agent. Op Governance staat hoe organisaties verantwoordelijkheid, mandaat en goedkeuring vastleggen.

Van opdracht naar controleerbare transactie

Een robuuste agenttransactie bestaat daarom uit meer dan alleen een betaling.

Idealiter ontstaat een controleerbare keten:

Mens / organisatie → mandaat → AI-agent → beslissing → transactie → logging → verificatie → audit trail

Bij iedere stap moet achteraf kunnen worden vastgesteld wat er is gebeurd.

Dat betekent bijvoorbeeld dat wordt vastgelegd:

• welke agent de opdracht uitvoerde;
• welke identiteit of sleutel werd gebruikt;
• welk mandaat op dat moment gold;
• welke limieten van toepassing waren;
• welke actie de agent uitvoerde;
• wanneer de transactie plaatsvond;
• naar welke tegenpartij of wallet;
• voor welk bedrag;
• en of menselijke goedkeuring noodzakelijk was.

Hierdoor ontstaat niet alleen een transactiehistorie, maar ook een bewijsbare besluit- en autorisatieketen.

Waarom logging alleen niet genoeg is

Een logbestand vertelt wat een systeem zegt dat het heeft gedaan.

Voor financiële controle kan meer nodig zijn.

Belangrijke gebeurtenissen moeten daarom waar mogelijk gekoppeld worden aan onafhankelijke gegevens, zoals:

• banktransacties;
• blockchaintransacties;
• betaalprovidergegevens;
• digitale handtekeningen;
• timestamps;
• autorisatieregisters;
• cryptografische bewijzen.

Zo wordt het moeilijker om achteraf gegevens ongemerkt te wijzigen en ontstaat een sterkere audit trail.

De menselijke noodrem

Autonomie hoeft niet te betekenen dat de mens uit het proces verdwijnt.

Juist bij financiële AI-agents kan een gelaagd model logisch zijn.

Kleine, voorspelbare transacties kunnen automatisch plaatsvinden.

Afwijkende of grotere transacties vereisen aanvullende controle.

Bijvoorbeeld:

• €0–€100 → automatisch toegestaan
• €100–€1.000 → extra verificatie
• boven €1.000 → menselijke goedkeuring

Ook ongebruikelijke begunstigden, nieuwe wallets of afwijkend gedrag kunnen automatisch een blokkade of controle veroorzaken.

De mens hoeft daardoor niet iedere transactie handmatig goed te keuren, maar behoudt wel controle over uitzonderingen en grotere risico’s.

Waarom een noodstop en intrekbare bevoegdheden in het ontwerp horen, leest u in het artikel over de kill switch voor AI-agents.

Agent-to-agent betalingen maken dit nog belangrijker

De volgende stap is dat AI-agents onderling economische activiteiten uitvoeren.

Agent A koopt bijvoorbeeld automatisch een digitale dienst van agent B. Binnen enkele seconden kunnen dan opdracht, onderhandeling, levering en betaling plaatsvinden zonder dat een mens iedere stap afzonderlijk ziet.

Traditionele administratieve processen zijn daar niet voor ontworpen.

We zullen daarom waarschijnlijk nieuwe vormen van financiële infrastructuur nodig hebben waarin identiteit, mandaat, autorisatie en bewijs standaard onderdeel zijn van een agenttransactie.

De koppeling tussen identiteit, mandaat en agent komt aan bod in het artikel over de digitale identiteit van AI-agents.

Controle moet onderdeel van het ontwerp worden

De belangrijkste les is daarom niet dat autonome AI per definitie moet worden tegengehouden.

De les is dat autonomie zonder controleerbare bevoegdheden een risico vormt.

Naarmate AI-agents meer financiële mogelijkheden krijgen, worden vijf onderdelen essentieel:

• Identiteit — Welke agent handelt?
• Mandaat — Namens wie handelt de agent en wat mag hij?
• Limieten — Welke financiële en operationele grenzen gelden?
• Autorisatie — Wanneer mag de agent zelfstandig handelen en wanneer moet een mens toestemming geven?
• Audit trail — Kunnen we achteraf onafhankelijk aantonen wat er is gebeurd?

De organisaties die deze infrastructuur vroeg ontwerpen, hoeven autonomie niet volledig af te remmen. Ze kunnen AI juist meer ruimte geven, omdat de grenzen controleerbaar zijn.

Van vertrouwen naar verifieerbaarheid

Bij menselijke processen vertrouwen organisaties voor een belangrijk deel op procedures, functiescheiding en verantwoordelijkheid.

Bij autonome systemen zal dat niet voldoende zijn.

Een AI-agent kan duizenden beslissingen nemen in de tijd waarin een mens er één controleert.

Daarom moet het uitgangspunt verschuiven van:

“We vertrouwen erop dat de agent zich aan de regels houdt.”

naar:

“We kunnen technisch aantonen binnen welke bevoegdheden de agent heeft gehandeld.”

Dat verschil kan fundamenteel worden voor de financiële infrastructuur van de agent-economie.

Tot slot

De discussie over controle over AI wordt vaak gevoerd alsof het uitsluitend over toekomstige superintelligentie gaat.

Maar een veel concretere vorm van controle wordt nu al relevant.

Zodra AI-agents toegang krijgen tot geld, wallets, betaalrekeningen en financiële infrastructuur moeten organisaties vooraf bepalen wat een agent mag doen — en achteraf kunnen bewijzen wat hij heeft gedaan.

Autonome transacties vragen daarom niet om onbeperkt vertrouwen in AI, maar om controleerbare autonomie.

Dat is waar agenttransacties beginnen.