Wat als AI-agents onderling zaken gaan doen?

Stel: de planningsagent van een fabrikant ziet een tekort aankomen en vraagt de agent van een leverancier om sneller te leveren. Die schuift daarvoor voorraad door die bestemd was voor een andere klant, waardoor diens leverschema in de war raakt. Geen van beide agents maakte een fout: elk bleef binnen de eigen regels. Toch ontstond een onvoorziene verstoring. Het probleem groeit snel. Volgens Gartner bevat eind 2026 al 40 procent van de bedrijfsapplicaties AI-agents, terwijl volgens Deloitte maar een op de vijf bedrijven de governance daarvan goed op orde heeft.

Dabre pleit ervoor de grens tussen bedrijven als apart controlepunt te behandelen. Agents moeten elkaars identiteit en bevoegdheden controleren voordat ze op een signaal reageren. Bij ingrijpende acties over de grens heen, zoals voorraad van een andere klant herverdelen, hoort een mens mee te kijken. Ook is een gezamenlijke standaard voor logging nodig, zodat bij een conflict duidelijk is wat er gebeurde. Daarnaast moeten risicomanagers nagaan of hun verzekering zulke schade dekt. Het grootste risico zit daarmee niet in één agent, maar vooral in de ruimte tussen twee organisaties.

Dit is een samenvatting van het volledige artikel op de site van Risk Management Magazine.