De AI-race is niet te stoppen. Dus moeten we controleren wat AI-agents met geld mogen doen

De discussie over AI-veiligheid krijgt een steeds groter probleem: de ontwikkeling van kunstmatige intelligentie vindt niet binnen één land plaats.

Stel dat Amerikaanse AI-bedrijven besluiten hun ontwikkeling tijdelijk te vertragen om meer aandacht te besteden aan veiligheid. Wat doet China dan? En wat doen andere landen, bedrijven en open-sourceontwikkelaars?

Een effectieve wereldwijde pauze zou internationale afspraken vereisen. En zelfs dan blijft een lastige vraag over:

Hoe controleer je of iedereen zich eraan houdt?

AI is software. Kennis verspreidt zich. Modellen worden efficiënter en wereldwijd wordt nieuwe rekenkracht opgebouwd.

We moeten daarom serieus rekening houden met een scenario waarin AI niet wordt vertraagd, maar juist steeds capabeler wordt.

Voor bedrijven heeft dat een belangrijke consequentie.

Van AI die adviseert naar AI die handelt

De huidige generatie AI wordt vooral gebruikt om informatie te zoeken, teksten te schrijven, analyses te maken en beslissingen voor te bereiden.

De volgende stap is fundamenteler.

AI-agents kunnen zelfstandig taken uitvoeren.

Een agent kan bijvoorbeeld een leverancier selecteren, een bestelling plaatsen, een factuur verwerken, een betaalopdracht voorbereiden, software inkopen, abonnementen afsluiten, digitale assets beheren of andere agents inschakelen.

Daarmee verandert het veiligheidsvraagstuk.

De belangrijkste vraag wordt niet alleen:

Wat kan deze AI?

Maar ook:

Wat mag deze AI zelfstandig doen?

Hoe snel AI-agents die stap maken, wordt zichtbaar in de ontwikkeling rond Astra en de autorisatie van AI-agents.

Zodra een AI-agent geld kan uitgeven, ontstaat een nieuw financieel risico

Een menselijke medewerker krijgt binnen een organisatie bevoegdheden.

Niet iedereen mag €100.000 overmaken. Niet iedereen mag een nieuwe leverancier aanmaken. Voor belangrijke betalingen bestaan limieten, functiescheidingen en goedkeuringsprocedures.

Bij AI-agents zullen we uiteindelijk hetzelfde moeten organiseren.

Misschien zelfs strenger.

Een agent kan veel sneller handelen dan een mens, duizenden acties uitvoeren, continu actief zijn en met andere geautomatiseerde systemen communiceren.

Een verkeerd ingestelde bevoegdheid kan daardoor binnen korte tijd grote gevolgen hebben.

De essentiële vraag wordt:

Wie heeft deze transactie geïnitieerd, op basis van welke bevoegdheid en wie was daarvoor verantwoordelijk?

Wat een agenttransactie inhoudt en welke bouwstenen daarbij horen, staat uitgelegd op de pagina over wat agenttransacties zijn.

De financiële controlelaag

Organisaties hoeven niet te wachten totdat de wereld overeenstemming bereikt over de volledige regulering van AI.

Ze kunnen op transactieniveau al controles invoeren.

Een financieel handelende AI-agent moet een duidelijke identiteit en afgebakende bevoegdheden hebben. Er kunnen limieten gelden per transactie, leverancier, wallet of tijdsperiode.

Boven bepaalde grenzen kan menselijke goedkeuring verplicht blijven.

Iedere financiële handeling moet bovendien achteraf reconstrueerbaar zijn.

Er moet kunnen worden vastgesteld:

• welke agent handelde;
• welke opdracht de agent kreeg;
• welke bevoegdheid werd gebruikt;
• welke betaling of transactie daaruit volgde;
• wie de bevoegdheid heeft verleend;
• of menselijke goedkeuring vereist was;
• en of de bevoegdheid onmiddellijk kan worden ingetrokken.

Dit is geen theoretische AI-discussie. Dit is interne beheersing. Op Governance staat hoe organisaties verantwoordelijkheid, mandaat en goedkeuring vastleggen.

Van human-in-the-loop naar control-in-the-loop

Bij AI-veiligheid wordt vaak gesproken over human-in-the-loop: een mens controleert belangrijke beslissingen.

Bij enorme aantallen geautomatiseerde transacties is dat waarschijnlijk niet voldoende.

Niet iedere betaling kan handmatig worden beoordeeld.

Daarom wordt een andere laag belangrijk:

control-in-the-loop.

Een agent krijgt ruimte om zelfstandig te handelen zolang hij binnen vooraf vastgestelde regels blijft.

€37 voor een goedgekeurde clouddienst? Automatisch toegestaan.

€750 naar een bestaande leverancier binnen het afgesproken budget? Mogelijk toegestaan.

€25.000 naar een nieuwe rekening? Blokkeren en menselijke goedkeuring vragen.

Een betaling naar een onbekende cryptowallet? Extra verificatie.

Controle verschuift daarmee van het individueel beoordelen van iedere handeling naar het vooraf bepalen van de grenzen waarbinnen een AI-agent autonoom mag opereren.

Hoe zo’n controlelaag in de praktijk werkt, is te zien in de demo van een gecontroleerde agenttransactie.

De AI-race maakt deze infrastructuur urgenter

Of de Verenigde Staten, China en Europa ooit bindende afspraken maken over het tempo van AI-ontwikkeling is onzeker.

Bedrijven kunnen daar niet op wachten.

Als AI-agents autonomer worden, moet de infrastructuur rondom deze agents meegroeien.

We hoeven daarvoor niet iedere interne beslissing van een AI-model te begrijpen. We moeten wél kunnen controleren wat een agent daadwerkelijk doet zodra zijn acties financiële gevolgen hebben.

Daar ligt een concrete veiligheidsgrens:

AI mag autonoom handelen. Geld niet zonder regels.

Naast steeds krachtigere AI-agents zal daarom een controlelaag nodig zijn voor identiteit, autorisatie, transactielimieten, logging en verantwoording.

Misschien kunnen we de wereldwijde AI-race niet stilzetten. Maar we kunnen wel bepalen onder welke voorwaarden een AI-agent toegang krijgt tot ons geld.