Astra laat zien waarom controle over AI-agents de volgende grote uitdaging wordt

AI ontwikkelt zich razendsnel. Maar misschien is de belangrijkste verandering niet dat modellen betere antwoorden kunnen geven.

De veel grotere verandering is dat AI steeds beter in staat wordt om zelfstandig handelingen uit te voeren.

Een AI-agent kan een doel krijgen, een plan maken, hulpmiddelen gebruiken, acties uitvoeren, het resultaat controleren en vervolgens zelfstandig verdergaan.

Met de komst van Astra lijkt die ontwikkeling opnieuw een grens over te gaan.

OpenAI maakte op 1 september 2026 bekend dat Astra het eerste model van het bedrijf is dat de Critical-drempel voor cybersecuritycapaciteiten bereikt binnen het eigen Preparedness Framework. Volgens OpenAI kan het model, met de juiste hulpmiddelen en toegang, onbekende kwetsbaarheden ontdekken en methoden ontwikkelen om deze te misbruiken zonder dat een mens iedere stap hoeft aan te sturen.

Dat is belangrijk, ook voor mensen die niets met cybersecurity te maken hebben.

Het laat namelijk zien hoe snel AI verandert van een systeem dat informatie produceert naar een systeem dat zelfstandig kan handelen.

Van chatbot naar handelende AI

De eerste generatie generatieve AI werkte grotendeels volgens een eenvoudig principe:

mens → opdracht → AI → antwoord

De mens bleef vervolgens verantwoordelijk voor de volgende stap.

Bij AI-agents ontstaat een ander model:

doel → plannen → handelen → controleren → corrigeren → opnieuw handelen

Daarmee ontstaat een fundamenteel verschil.

Een chatbot kan een fout antwoord geven.

Een agent kan op basis van een fout antwoord daadwerkelijk iets doen.

Denk bijvoorbeeld aan een agent die:

• software beheert;
• betalingen voorbereidt;
• financiële transacties uitvoert;
• digitale activa beheert;
• contracten analyseert;
• systemen configureert;
• andere AI-agents opdrachten geeft.

Hoe groter de zelfstandigheid van zo'n systeem, hoe belangrijker de vraag wordt wie bepaalt wat de agent wel en niet mag doen. De pagina Wat zijn agenttransacties beschrijft die overgang van adviseren naar handelen.

Astra maakt dat probleem zichtbaar

OpenAI meldt dat Astra tijdens beveiligingstests aanzienlijk krachtiger bleek dan eerdere modellen. Het model kon onder andere onbekende softwarekwetsbaarheden vinden en deze combineren tot werkende aanvalsketens.

Tegelijkertijd zegt OpenAI dat Astra juist beter is geworden in het respecteren van opgelegde grenzen.

Dat illustreert de dubbele ontwikkeling die nu plaatsvindt.

AI wordt capabeler om zelfstandig te handelen, terwijl ontwikkelaars tegelijkertijd proberen de systemen beter te leren waar hun bevoegdheid eindigt.

Juist die combinatie wordt essentieel voor AI-agents.

De belangrijkste vraag wordt autorisatie

Wanneer een AI alleen teksten schrijft, zijn toegangsrechten relatief eenvoudig.

Maar stel dat een toekomstige financiële agent toegang heeft tot een bankrekening, een cryptowallet, een handelsplatform, een boekhouding en een digitaal identiteitssysteem.

Dan is alleen de vraag "is deze AI intelligent genoeg?" niet meer voldoende.

Er ontstaan andere vragen:

Wie heeft de agent toestemming gegeven?

Tot welk bedrag mag hij zelfstandig handelen?

Welke tegenpartijen zijn toegestaan?

Wanneer is menselijke goedkeuring noodzakelijk?

Hoe wordt vastgelegd waarom een transactie is uitgevoerd?

Wie kan de agent onmiddellijk stoppen?

Wie is verantwoordelijk wanneer de agent buiten zijn opdracht handelt?

Dat zijn geen theoretische vragen meer zodra agents economische transacties zelfstandig kunnen initiëren. Hoe u dit organisatorisch vastlegt, staat op Governance.

Agenttransacties worden een infrastructuurvraagstuk

Als miljoenen AI-agents straks namens mensen en bedrijven handelen, ontstaat behoefte aan een nieuwe technische en juridische infrastructuur.

Een agent zal bijvoorbeeld moeten kunnen bewijzen:

wie hij vertegenwoordigt → welke bevoegdheid hij heeft → wat zijn limieten zijn → welke actie hij heeft uitgevoerd.

Daarna moet controleerbaar blijven wat er precies is gebeurd.

Je krijgt dan feitelijk een digitale bevoegdheidsketen:

mens of organisatie → AI-agent → autorisatie → transactie → verificatie → audit trail

Bij financiële transacties wordt dat bijzonder belangrijk.

Een menselijke medewerker kan immers worden aangesproken of juridisch verantwoordelijk worden gehouden. Een AI-agent niet.

De verantwoordelijkheid zal daarom uiteindelijk terug moeten leiden naar de mensen en organisaties die de agent hebben ingezet én naar de technische regels waaronder de agent mocht handelen. Het artikel over digitale identiteit van AI-agents gaat dieper in op die koppeling tussen agent, organisatie en mandaat.

Waarom blockchain en tokenisatie hier interessant worden

Daar ontstaat ook een mogelijke verbinding met blockchaintechnologie.

Tokenisatie maakt activa digitaal programmeerbaar. Smart contracts maken voorwaarden programmeerbaar. Digitale wallets maken bezit en transacties cryptografisch controleerbaar.

AI-agents voegen daar iets nieuws aan toe:

programmeurbare economische actoren.

Een agent zou in theorie zelfstandig kunnen bepalen dat een bepaalde transactie binnen zijn mandaat valt, een smart contract aanroepen, een tokenized asset kopen en de transactie cryptografisch laten vastleggen.

Dat kan uiteindelijk leiden tot financiële markten waarin niet alleen mensen en bedrijven transacties uitvoeren, maar ook enorme aantallen autonome software-agents.

Juist daarom worden identiteit, autorisatie, transactielimieten en controle steeds belangrijker. Welke technische maatregelen daarbij helpen, staat op Veiligheid.

OpenAI trapt bewust op de rem

Opvallend is dat OpenAI zelf inmiddels expliciet zegt dat verdere vooruitgang soms moet worden vertraagd.

Sam Altman schrijft dat Astra al enige tijd klaar is met trainen, maar dat bij modellen ná Astra waar nodig wordt afgeremd om voldoende tijd te hebben voor veiligheid en alignment.

Dat is een belangrijk signaal.

Niet omdat daarmee vaststaat dat AI onbeheersbaar wordt.

Wel omdat één van de bedrijven die de krachtigste AI-systemen ontwikkelt zelf constateert dat capaciteiten en controle niet los van elkaar kunnen worden ontwikkeld.

Van intelligentie naar bevoegdheid

De komende jaren zal daarom waarschijnlijk steeds minder alleen worden gesproken over hoe intelligent AI is.

De belangrijkere vraag wordt:

wat mag AI zelfstandig doen?

Bij agenttransacties wordt dat uiteindelijk doorslaggevend.

Een wereld met krachtige AI-agents heeft niet alleen betere modellen nodig. Hij heeft een infrastructuur nodig waarin identiteit, bevoegdheden, limieten, toezicht en verantwoordelijkheid technisch afdwingbaar zijn.

Astra is daarom meer dan alleen een nieuw AI-model.

Het is een vroege aanwijzing dat we een nieuwe fase binnengaan:

van AI die ons vertelt wat we kunnen doen, naar AI die namens ons daadwerkelijk handelt.

En zodra AI zelfstandig kan handelen, wordt controle over die handelingen minstens zo belangrijk als de intelligentie van het model zelf.