Deze pagina behandelt het opsporen en beheersen van shadow AI. Wat shadow AI is en welke drie risico's het zwaarst wegen, leest u in onze shadow AI-gids. De blootstelling onder de AVG en wat u doet na een lek staan in shadow AI en de AVG.
Waar shadow AI verborgen zit buiten het voor de hand liggende
Wanneer mensen aan shadow AI denken, denken ze meestal aan ChatGPT. Het werkelijke werkterrein is echter veel breder en moeilijker in kaart te brengen.
- Browser-extensies: Schrijfassistenten, add-ons voor transcriptie en soortgelijke extensies kunnen, afhankelijk van de verleende machtigingen, lezen wat de gebruiker in de browser typt of bekijkt. Veel daarvan beschikken inmiddels over generatieve AI-functies, en een extensie met uitgebreide machtigingen kan tekst inzien die in interne systemen wordt ingevoerd.
- AI-functies in reeds gebruikte SaaS-tools: Notion AI, Slack AI, de AI-functies van HubSpot, Magic Write van Canva en vele andere voegen AI toe aan platforms die uw medewerkers al gebruiken. Vaak wordt aangenomen dat goedkeuring van het platform ook geldt voor de AI-functie. Controleer of de functie is ingeschakeld, welke subverwerkers erbij worden ingezet, waar de gegevens worden verwerkt en of uw bestaande contract hierop van toepassing is.
- Toegang van consumenten tot tools met een bedrijfsmerk: Microsoft 365 Copilot Chat biedt bescherming van bedrijfsgegevens wanneer medewerkers inloggen met hun Entra ID-werkaccount. Als dezelfde persoon inlogt met een persoonlijk Microsoft-account, krijgt hij of zij de consumentenversie van Copilot onder consumentenvoorwaarden, zelfs als uw bedrijf betaalt voor Microsoft 365 Copilot.
- Persoonlijke apparaten: wie eigenaar is van een apparaat en of het wordt beheerd, zijn twee verschillende vragen. Een onbeheerde persoonlijke telefoon of laptop valt buiten de meeste DLP- en webfiltersystemen van bedrijven, terwijl een persoonlijk apparaat dat in uw apparaatbeheer is ingeschreven (BYOD) via beheerde apps en werkprofielen enig inzicht kan geven. Door werken op afstand en hybride werken komt gebruik op onbeheerde apparaten steeds vaker voor.
- Spraak- en vergadertools: AI-transcriptiediensten voor vergaderingen, zoals Fireflies, Otter.ai en soortgelijke tools, nemen het geluid van vergaderingen op en verwerken dit, waarbij soms commercieel gevoelige gesprekken worden opgenomen. Controleer wie deze functies kan inschakelen en waar de opnames worden opgeslagen.
AI-functies die in goedgekeurde SaaS-tools zijn geïntegreerd, moeten afzonderlijk worden beoordeeld. Notion AI, Slack AI of de assistent van HubSpot kunnen gebruikmaken van andere subverwerkers, locaties of bewaartermijnen dan het kernproduct. De goedkeuring van de hoofdtool geldt pas voor de AI-functie nadat u de functie hebt beoordeeld en de beslissing hebt gedocumenteerd.
Het type account beïnvloedt het risico
| Route | Typische positie | Wat u moet controleren |
|---|---|---|
| Persoonlijk consumentenaccount | Geen contract met uw organisatie; de consumentenvoorwaarden van de aanbieder zijn van toepassing; gesprekken kunnen worden gebruikt om modellen te verbeteren, tenzij de gebruiker zich hiervoor afmeldt | Behandel dit als niet-goedgekeurd voor persoonlijke of vertrouwelijke gegevens |
| Zakelijk of bedrijfsaccount onder uw werkidentiteit | Contract met uw organisatie; training op basis van uw gegevens is doorgaans standaard uitgeschakeld; beheerderscontroles en logboeken, al verschillen contractvoorwaarden, logboekregistratie, bewaartermijnen en beheerderscontroles per aanbieder en abonnement | Voorwaarden voor gegevensverwerking, bewaartermijnen, locatie, subverwerkers, beheerdersinstellingen |
| AI-functie binnen een goedgekeurde SaaS-tool | Valt alleen onder uw bestaande contract indien de voorwaarden van de leverancier zich uitstrekken tot de functie | Of de functie is ingeschakeld, subverwerkers, eventuele afzonderlijke AI-voorwaarden |
| API-toegang geïntegreerd in uw eigen systemen | Valt onder de API-overeenkomst; grote aanbieders trainen hun modellen doorgaans niet standaard op API-gegevens | Bewaartermijnen, logboekregistratie, waarborgen bij overdracht, en wie de integratie onderhoudt |
| Lokaal gehost model | Gegevens blijven in uw omgeving als de implementatie op die manier is ingesteld | Bron en licentie van het model, toegangscontrole, patching, logboekregistratie |
Een shadow AI-aanpak bouwen die medewerkers daadwerkelijk volgen
De instinctieve reactie op shadow AI is om deze te blokkeren. Blokkeren zonder een alternatief aan te bieden leidt er vaak toe dat het gebruik wordt verplaatst naar persoonlijke apparaten, buiten het bereik van uw controle. Medewerkers maken gebruik van deze hulpmiddelen omdat ze hen helpen bij hun werk, en zij zullen dit blijven doen als er geen goedgekeurd alternatief is. Dat betekent niet dat u nooit blokkeert: zoek een balans tussen goedgekeurde alternatieven, monitoring, beperkingen en handhaving, en blokkeer risicovolle toepassingen direct, zoals het uploaden van bijzondere persoonsgegevens of broncode naar een niet-beoordeelde dienst.
Een werkbaar shadow AI-programma bestaat uit zeven onderdelen, grofweg in volgorde van prioriteit. Wijs er een verantwoordelijke aan en stel een evaluatiedatum vast, aangezien de tools sneller veranderen dan de meeste beleidsregels.
- Beleid inzake aanvaardbaar gebruik van AI: Een kort, duidelijk document waarin aan het personeel wordt uitgelegd welke tools zijn goedgekeurd, welke gegevens zij bij elke tool mogen gebruiken, hoe zij een nieuwe tool of een uitzondering kunnen aanvragen, en wat zij moeten doen wanneer een AI-functie verschijnt in een tool die zij al gebruiken. Beperk het tot één of twee pagina's met een duidelijke lijst van goedgekeurde tools.
- Lijst met goedgekeurde AI-tools met richtlijnen per gegevenscategorie: Niet alle gegevens zijn even gevoelig. Geef medewerkers een eenvoudig kader: openbare informatie mag in tool X worden ingevoerd; interne bedrijfsinformatie mag met een zakelijk account in tool Y worden ingevoerd; persoonsgegevens, vertrouwelijke klantinformatie en broncode mogen zonder specifieke goedkeuring in geen enkele AI-tool worden ingevoerd. Duidelijke regels nemen het giswerk weg dat momenteel tot slechte beslissingen leidt.
- Gegevensclassificatie: Medewerkers kunnen geen goede beslissingen nemen over wat zij in AI-tools invoeren als zij niet weten wat als gevoelig wordt beschouwd. Een eenvoudig classificatiesysteem met duidelijke voorbeelden is een voorwaarde voor het functioneren van het beleid voor aanvaardbaar gebruik.
- Alternatieven op bedrijfsniveau: Geef medewerkers toegang tot tools die voldoen aan uw governance-eisen, zoals Microsoft 365 Copilot of Copilot Chat in combinatie met werkaccounts, een bedrijfsimplementatie van Claude of ChatGPT, of andere producten die gegevens verwerken op basis van een schriftelijke overeenkomst met passende bewaar- en locatievoorwaarden. Dit neemt een groot deel van de reden weg om persoonlijke accounts te gebruiken.
- DLP en monitoring voor AI-diensten: Hulpmiddelen voor gegevensverliespreventie (DLP) en webfiltering kunnen verkeer naar bekende AI-diensten detecteren en, indien geconfigureerd, waarschuwen of blokkeren wanneer er gevoelige gegevens in het spel zijn. Het monitoren van medewerkers is op zich al een verwerking van hun persoonsgegevens; zorg er daarom voor dat dit evenredig blijft, informeer medewerkers over wat u monitort en waarom, en overweeg een DPIA. In Nederland kan voor een dergelijke monitoringregeling ook de instemming van de ondernemingsraad vereist zijn op grond van artikel 27 van de Wet op de ondernemingsraden (WOR). Geen van deze bronnen brengt elke agent of elke AI-functie in SaaS aan het licht: toestemmingslogboeken en webfiltering missen AI-functies in goedgekeurde tools, lokale agents en verkeer vanaf onbeheerde apparaten, dus combineer ze met de SaaS-audit en meldingen van medewerkers.
- Controleer bestaande SaaS-tools op ingebouwde AI-functies: Controleer elke tool in uw goedgekeurde softwarepark op AI-functies die zijn toegevoegd of binnenkort worden toegevoegd. Breng in kaart welke hiervan gevolgen hebben voor de gegevensbescherming en werk contracten of gebruiksvoorwaarden bij. Leveranciers voegen doorlopend AI-functies toe, dus dit is een terugkerende taak.
- Regelmatige bewustmaking van het personeel, geen jaarlijkse afvinkmodule: Korte, relevante mededelingen die zijn gekoppeld aan specifieke gebruikssituaties spreken het personeel beter aan dan een jaarlijkse cursus. Koppel updates aan wijzigingen in uw goedgekeurde tools en maak het voor medewerkers gemakkelijk om een fout te melden zonder angst voor verwijten.