Deze pagina behandelt governance en de reactie op incidenten. Wat agents doen, hoe u elke agent beoordeelt en een checklist vóór implementatie leest u in onze gids beveiliging van agentische AI. Prompt-injectie en technische maatregelen staan in AI-agenten beveiligen.
Shadow-agents in uw organisatie
Het probleem van shadow AI is verder geëvolueerd. In 2023 was het grootste risico dat medewerkers gevoelige documenten in chatbots voor consumenten plakten. In 2026 omvat het ook bedrijfsonderdelen die agents bouwen met schrijftoegang tot productiesystemen, waarbij gebruik wordt gemaakt van low-code-platforms, zonder dat er een beveiligingsbeoordeling plaatsvindt.
Met Power Automate, Copilot Studio, n8n, Zapier en soortgelijke tools kunnen niet-technische medewerkers agents bouwen. Afhankelijk van het platform en de configuratie gebruiken die agents gedelegeerde gebruikersverbindingen, serviceaccounts, app-identiteiten of gedeelde inloggegevens, en kunnen ze vaak bij alles waartoe die identiteit toegang heeft. Stel per agent vast welke identiteit elke actie uitvoert en wat de effectieve machtigingen daarvan zijn. Een marketingteam zou een agent kunnen bouwen die CRM-contacten uitleest, outreach-berichten opstelt en berichten op sociale media plaatst, zonder toegangscontrole en met alleen de standaardlogboekregistratie van het platform.
Sommige van deze agents laten een OAuth-toestemmingsrecord achter bij uw identiteitsprovider. Veel agents doen dat echter niet: agents die binnen Power Platform worden gebouwd, maken gebruik van verbindingen onder het account van de maker; API-sleutels komen nooit in aanraking met uw identiteitsprovider; en zelfgehoste tools kunnen verbinding maken via serviceaccounts. Maak gebruik van meerdere bronnen voor het opsporen van agents.
| Bron | Wat dit kan onthullen |
|---|---|
| Entra ID-bedrijfsapplicaties en toestemmingen (consent grants) (of equivalenten in Google Workspace) | Apps van derden met gedelegeerde of applicatierechten, met name met brede reikwijdtes voor e-mail, bestanden en contacten |
| Power Platform-inventaris | Agents, apps en flows die zijn gebouwd in Copilot Studio, Power Apps en Power Automate, inclusief eigenaren en connectoren |
| Workload-identiteiten en serviceprincipals | Niet-menselijke identiteiten met inloggegevens, recente aanmeldingen en toegewezen machtigingen |
| SaaS-beheerdersconsoles | Integraties, API-sleutels en gekoppelde apps binnen CRM-, ticket- en samenwerkingshulpmiddelen |
| API-gateway en cloudlogboeken | Geautomatiseerde oproepen naar interne API's en model-eindpunten vanuit onbekende clients |
| Detectie van eindpunten en browsers | Lokale agenttools, browserextensies en verkeer naar AI-diensten |
Raadpleeg onze gids over shadow AI voor een bredere benadering van detectie en beleid.
Veel beleidsregels voor aanvaardbaar gebruik hebben betrekking op welke gegevens medewerkers mogen delen met AI-chatbots. Minder regels hebben betrekking op tot welke systemen medewerkers AI-agenten toegang mogen verlenen. Voeg een duidelijke regel toe: elke agent met schrijftoegang tot een productiesysteem moet een beveiligingsbeoordeling ondergaan voordat deze live gaat, en persoonlijke API-sleutels mogen niet worden gebruikt voor zakelijke agenten.
Governancekader voor AI-agenten
Inventarisatie van agents
Houd een register bij van elke productieagent. Leg voor elke agent het model vast, evenals de bijbehorende tools en machtigingen, de gegevens waartoe deze toegang heeft, de acties die deze zonder goedkeuring kan uitvoeren, de identiteit en inloggegevens, het verantwoordelijke team, wie de agent heeft goedgekeurd en wanneer deze voor het laatst is beoordeeld. Een agent die ontbreekt in het register, kunt u niet eenvoudig intrekken, controleren of auditen. Een spreadsheet met een vaste beoordelingscyclus is een goed begin.
Risicogebaseerde menselijke goedkeuring
Het vereisen van goedkeuring voor elke actie vertraagt de agenten en zorgt ervoor dat goedkeurders het proces mechanisch afhandelen. Stem de goedkeuring in plaats daarvan af op het risico van de actie.
| Actierisico | Voorbeelden | Goedkeuring |
|---|---|---|
| Laag | Het lezen van toegestane gegevens, het opstellen van een tekst die door iemand wordt verzonden | Geen; geregistreerd |
| Gemiddeld | Interne gegevens bijwerken, interne berichten verzenden | Beleidscontroles en limieten; steekproefsgewijze controle |
| Hoog | Externe e-mails, verwijdering van gegevens, wijzigingen in accounts of machtigingen | Goedkeuring door een medewerker vóór uitvoering |
| Kritiek | Betalingen, nieuwe begunstigden, bevoorrechte toegang, onomkeerbare bulkwijzigingen | Goedkeuring door een medewerker plus een tweede controle, zoals dubbele goedkeuring of een terugbelverzoek |
De matrix is een voorbeeld. Stem het goedkeuringsniveau af op de gevoeligheid van de gegevens, de ontvanger, de impact, het volume en de vraag of de actie terug te draaien is: een agent die een routineafspraak bevestigt, is niet te vergelijken met een agent die een export van de klantendatabase per e-mail verstuurt.
Het goedkeuringsscherm moet de exacte actie en de bijbehorende parameters (ontvanger, bedrag, rekening, betrokken records) weergeven, afkomstig uit de tool-aanroep zelf. Een eigen samenvatting van een medewerker over wat er gaat gebeuren, kan onjuist of gemanipuleerd zijn en vormt daarom geen solide basis voor goedkeuring.
Logboekregistratie en traceerbaarheid
Elke toolaanroep dient een logboekvermelding te genereren die u bij een onderzoek kunt gebruiken: de identiteit van de agent en de gebruiker namens wie deze handelde, tijdstempel, de taak of het doel, de aangeroepen tool, de bron en parameters, het resultaat, een correlatie-ID die de stappen van één uitvoering met elkaar verbindt, en de autorisatiebeslissing met de bijbehorende reden. Stuur deze logboekvermeldingen samen met uw overige beveiligingstelemetrie naar uw SIEM. Indien een platform geen logboekvermeldingen kan genereren die gedetailleerd genoeg zijn om te reconstrueren wat een agent heeft gedaan, is het niet geschikt voor gevoelige gegevens.
Agentlogboeken bevatten vaak persoonsgegevens en vallen daarom onder de AVG. Log alleen wat u nodig hebt voor de beveiliging en niet meer dan dat, maskeer geheimen en tokens, beperk wie de logboeken mag lezen en stel een bewaartermijn vast die u kunt rechtvaardigen.
Beoordelingen en driftcontroles
De machtigingen van agents nemen toe naarmate er functies worden toegevoegd, terwijl oude toegangsrechten zelden worden verwijderd. Beoordeel elke agent periodiek, met een frequentie die aansluit bij het bijbehorende risico, en telkens wanneer de tools, machtigingen, het model of de prompts ervan veranderen. Voeg voor kritieke agents afwijkingscontroles toe: vergelijk de huidige machtigingen en het gedrag met de goedgekeurde baseline en geef een waarschuwing bij afwijkingen. Schakel agents waarvan het project is beëindigd buiten gebruik, samen met hun identiteiten en inloggegevens.
Reageren op een gecompromitteerde agent
Houd rekening met de mogelijkheid dat een agent wordt gemanipuleerd of dat de inloggegevens ervan uitlekken. Het stopzetten van de chatinterface is niet voldoende: de tools, geplande taken en inloggegevens van de agent kunnen zonder deze interface blijven functioneren.
| Stap | Actie |
|---|---|
| Identificeren | Controleer aan de hand van correlatie-ID's en logboeken van toolaanroepen welke agent, identiteit en taken hierbij betrokken zijn |
| Stoppen | Activeer de noodstop: stop lopende en geplande uitvoeringen en schakel de tools van de agent uit |
| Intrekken | Trek tokens in, vernieuw geheimen en API-sleutels en verwijder toestemmingsrechten voor de identiteit van de agent |
| Inperken | Blokkeer de bron van geïnjecteerde inhoud, plaats besmette documenten of geheugen in quarantaine en beperk de toegang van gekoppelde accounts |
| Bewaren | Bewaar logbestanden, promptberichten, geheugeninhoud en uitvoer van tools voordat er iets wordt opgeschoond |
| Onderzoeken | Reconstrueer wat de agent heeft gelezen en gedaan, en welke gegevens de organisatie hebben verlaten |
| Herstellen | Maak wijzigingen ongedaan, herstel gegevens en beoordeel de meldingsplichten indien persoonsgegevens zijn getroffen |
| Valideren | Verhelp de onderliggende oorzaak, voer opnieuw tests uit en herstel pas daarna de medewerker met aangepaste machtigingen |
De stappen zijn niet strikt opeenvolgend. Stoppen, inperken en bewijs bewaren kunnen tegelijk plaatsvinden; het bewaren van bewijs mag dringende inperking niet vertragen, en elke inperkingsmaatregel moet worden vastgelegd op het moment dat die wordt genomen, zodat het onderzoek er rekening mee kan houden.
Onze gids voor incidentrespons op het gebied van AI behandelt hoe u deze stappen kunt integreren in uw bredere incidentplan.
Ryland levert al meer dan twintig jaar programma's op het gebied van cyberbeveiliging, compliance en IT-beheer voor gereguleerde organisaties in het Verenigd Koninkrijk en Nederland. Bekijk volledig profiel