riskcarriere.nl

Als AI zelf gaat hacken: wie draagt dan de verantwoordelijkheid?

Nieuws
24-09-2026
Riskworld
Incidenten bij OpenAI, Anthropic en Meta laten zien dat autonome AI-systemen onverwacht buiten hun afgeschermde omgeving kunnen opereren. Voor organisaties maakt dat controle over AI-agents steeds nadrukkelijker een bestuurlijk risicovraagstuk.

De incidenten ontstonden niet doordat AI-modellen zelfstandig besloten regels te overtreden. Ze kregen een opdracht en ontdekten technische mogelijkheden die de beveiligde testomgeving onbedoeld bood. Daarbij bleek bovendien dat agents manieren kunnen vinden om beoordelingssystemen te omzeilen en te optimaliseren voor de meetlat in plaats van het achterliggende doel. Dat maakt klassieke technische beveiliging alleen onvoldoende. Organisaties moeten ook rekening houden met de manier waarop autonome systemen opdrachten interpreteren en uitvoeren.

Voor bestuurders en risicoprofessionals betekent dit dat vooraf duidelijk moet zijn wie verantwoordelijk is voor iedere AI-toepassing en hoeveel zelfstandigheid een agent krijgt. Ook toegang tot systemen, menselijke goedkeuring, monitoring en afhankelijkheid van leveranciers moeten expliciet worden geregeld. De Europese AI-verordening bevat wel zorgplichten, maar geeft nog geen sluitend antwoord op aansprakelijkheid wanneer schade ontstaat. Wie AI-agents inzet, kan verantwoordelijkheid daarom niet doorschuiven naar technologie of regelgeving: governance moet zijn ingericht vóórdat een agent zelfstandig aan het werk gaat.

Dit is een samenvatting van het volledige artikel op Riskworld.

Gerelateerde vacatures

Geïnteresseerd in een carrière bij organisaties in ditzelfde vakgebied? Bekijk hieronder de gerelateerde vacatures en vind de perfecte match voor jou!
Actor
6.089 - 8.698
Senior
Woerden
Als Sleutelfunctievervuller Financiële Risico's bij Actor beoordeel je vanuit de tweede lijn onafhankelijk het financiële risicomanagement van pensioenfondsen. Je analyseert beleggings-, markt-, krediet-, liquiditeits- en renterisico's en adviseert de sleutelfunctiehouder...
Actor
6.089 - 8.698
Senior
Woerden
Als Sleutelfunctievervuller Niet Financiële Risico's bij Actor beoordeel je vanuit de tweede lijn onafhankelijk de kwaliteit en werking van het risicomanagement binnen pensioenfondsen. Je richt je op niet-financiële risico's zoals...
Impact First Group
Marktconform
Medior
Haarlem
Als Investment Associate bij Impact First Group werk je mee aan het volledige investeringsproces van Social Impact Fonds Zuid-Kennemerland & IJmond: van sourcing en due diligence tot closing en portfolio...
ASN Bank
5.946 - 7.928
Senior
Utrecht, hybride
Als Business Risk Manager bij ASN Bank adviseer je het management van het Sales en Marketing domein over niet-financiële risico's, van procesrisico's en compliance tot privacy en integriteit. Je voert...