AI helpt hackers én beveiligers: bedrijven moeten slim kiezen

SecurityGepubliceerd op 13 september 20266 minuten leestijd

AI verandert cybersecurity aan twee kanten tegelijk. Beveiligingsteams kunnen sneller code onderzoeken, afwijkingen herkennen en grote hoeveelheden informatie beoordelen. Aanvallers kunnen dezelfde technologie gebruiken om hun voorbereiding op te schalen, geloofwaardiger berichten te maken en zwakke plekken sneller te onderzoeken.

Voor organisaties is dat geen reden voor paniek. Het is wel een reden om beveiliging, AI-gebruik en digitale verantwoordelijkheid niet langer als losse onderwerpen te behandelen.

Presentatie over mensgerichte technologie bij Active Collective

De grens is opnieuw verschoven

Begin september plaatste OpenAI zijn nieuwe model Astra in de hoogste cyberrisicocategorie van het eigen veiligheidskader. Volgens OpenAI kan Astra, met de juiste hulpmiddelen en toegang, onbekende kwetsbaarheden vinden en aanvalsmethoden ontwikkelen voor goed beveiligde systemen zonder dat een mens iedere stap voorschrijft. OpenAI stelde delen van de ontwikkeling uit om eerst aanvullende beveiligingsmaatregelen te testen.

Anthropic noemt Mythos 5.1 zijn krachtigste model voor cyberonderzoek. Toegang blijft beperkt tot gecontroleerde programma’s voor geselecteerde organisaties. Dat is logisch: hetzelfde model dat een verdediger helpt zoeken naar een kwetsbaarheid, kan die kennis ook verkeerd inzetten.

Anthropic beschreef op 9 september vier incidenten tijdens cybertesten waarbij modellen door een verkeerd geconfigureerde testomgeving toegang kregen tot echte systemen. De modellen draaiden zonder de beveiligingsmaatregelen van de publieksversies en de situatie was uitzonderlijk. Toch is de les breder toepasbaar: een systeem mag nooit zelf hoeven raden waar zijn bevoegdheid eindigt.

Dit betekent niet dat iedere aanval voortaan automatisch slaagt. Het betekent wel dat kennisintensief onderzoek sneller en goedkoper schaalbaar wordt. Voor organisaties verschuift de aandacht daardoor van alleen het model naar de volledige werkomgeving: toegang, begrenzing, monitoring, menselijk toezicht en herstel.

Praktisch model

Begin bij de werkroute

Een losse lijst met AI-tools zegt weinig over het echte risico. Kies eerst één route die belangrijk is voor klanten, medewerkers of de continuïteit. Denk aan een vergunningsaanvraag, een patiëntvraag, een offerte of een wijziging in een bedrijfssysteem. Volg daarna hoe informatie en beslissingen door die route bewegen.

Bronnen

Welke documenten, databases en berichten gebruikt het systeem? Controleer wie de bron beheert, hoe actueel die is en of gevoelige informatie de gekozen omgeving mag verlaten.

Identiteit en rechten

Laat een toepassing alleen handelen namens een herkenbare gebruiker of technische identiteit. Geef precies de toegang die voor deze route nodig is, niet meer.

Toegestane acties

Maak onderscheid tussen informatie ophalen, een voorstel maken en echt iets wijzigen. Een nuttige assistent hoeft niet automatisch bevoegd te zijn om een besluit uit te voeren.

Logging en herstel

Leg vast welke bron, versie, gebruiker en actie bij een uitkomst horen. Spreek ook af hoe je toegang intrekt, een wijziging terugdraait en betrokkenen informeert.

Wat verandert er voor jouw organisatie?

Veel digitale risico’s zijn niet nieuw. Verouderde software, te ruime rechten, onduidelijk eigenaarschap en onvoldoende zicht op leveranciers bestonden al. AI kan de gevolgen van zulke zwakke plekken vergroten.

Social engineering wordt geloofwaardiger

Met generatieve AI kunnen aanvallers overtuigende phishingberichten, beelden en stemmen maken. Een afwijkend taalgebruik of een onhandig geschreven e-mailbericht is daardoor steeds minder bruikbaar als waarschuwing. Medewerkers hebben een controleerbare tweede route nodig voor gevoelige verzoeken, zoals een betaling of wijziging van toegangsrechten.

Technisch onderzoek wordt schaalbaarder

AI kan helpen om code, configuratie en bekende kwetsbaarheidspatronen te onderzoeken. Dat voordeel geldt ook voor verdedigers. Organisaties die updates, monitoring en verantwoordelijkheden goed hebben geregeld kunnen nieuwe signalen sneller beoordelen en herstellen.

AI krijgt zelf toegang tot bedrijfsinformatie

Een assistent of agent kan documenten lezen, systemen raadplegen en acties voorbereiden. Daarmee wordt de vraag niet alleen wat het model kan. Belangrijker is welke bronnen het mag gebruiken, waar het handelingsrecht ophoudt, wie een actie controleert en hoe toegang direct wordt ingetrokken wanneer iets niet klopt.

De AI Act vraagt om precieze uitleg

Sinds 2 augustus 2026 gelden onder meer Europese transparantieregels voor bepaalde AI-systemen en AI-gegenereerde inhoud. Verplichtingen voor aanbieders van general-purpose AI gelden al sinds 2 augustus 2025. Voor verschillende hoogrisicotoepassingen gelden andere overgangsmomenten.

Welke verplichtingen voor een organisatie gelden, hangt af van haar rol en toepassing. Een aanbieder, een organisatie die AI inzet en een leverancier van een onderliggend model hebben niet automatisch dezelfde verantwoordelijkheid. De AI Act is daarom geen vervanging voor een concreet dreigingsbeeld, gegevensbescherming of veilig softwarebeheer.

Van techniek naar beheersing

Van signaal naar gecontroleerde actie

AI kan een beveiligingsteam helpen om sneller te kijken, maar snelheid is pas waardevol wanneer de vervolgstap controleerbaar blijft. Een werkbare route bestaat uit vijf herkenbare momenten.

DetectieEen scan, medewerker of monitor ziet een afwijking.
ContextHet systeem koppelt het signaal aan de juiste bron, eigenaar en omgeving.
VoorstelAI vat samen wat er waarschijnlijk speelt en welke actie passend kan zijn.
Menselijke goedkeuringEen bevoegde medewerker beoordeelt risico, gevolg en uitzonderingen.
Traceerbare uitvoeringDe gekozen actie wordt vastgelegd, gevolgd en zo nodig teruggedraaid.

Vijf maatregelen die nu al helpen

Breng kritisch gebruik in kaart. Leg vast welke processen, gegevens, leveranciers en gebruikers bij een belangrijke digitale route horen.
Maak grenzen technisch afdwingbaar. Geef mensen en AI-toepassingen alleen de rechten die voor hun taak nodig zijn. Vertrouw niet uitsluitend op een instructie in de prompt.
Bouw beveiliging in het ontwikkelwerk. Beoordeel risico’s tijdens ontwerp, bouw, review, release en beheer, niet alleen met een scan achteraf.
Oefen controle en herstel. Spreek af wie een gevoelige actie goedkeurt, wie een incident onderzoekt en hoe toegang of een release veilig wordt teruggedraaid.
Maak AI-gebruik bespreekbaar. Een algemeen verbod voorkomt niet dat medewerkers publieke hulpmiddelen gebruiken. Heldere keuzes over informatie, toepassingen en menselijke controle geven meer houvast.

Secure by design betekent dat beveiligingsrisico’s vanaf ontwerp en ontwikkeling worden meegenomen. De gekozen controles, tests en herstelroute volgen het werkelijke risico van het product.

De rol van Active Collective

Active Collective verbindt beveiliging met de werkroute die beschermd moet worden. We onderzoeken niet alleen een losse technische bevinding, maar ook toegang, gegevensstromen, leveranciers, menselijke controle en het beheer na livegang.

Een Security check past wanneer je eerst een afgebakend beeld nodig hebt van kwetsbaarheden en configuratierisico’s. Bij nieuwe of veranderende software kunnen we beveiliging onderdeel maken van ontwerp, ontwikkeling, release en beheer. Voor AI-toepassingen beoordelen we daarnaast welke bronnen worden gebruikt, welke acties een systeem mag voorbereiden en waar een mens de beslissing houdt.

Bronnen en verdere verdieping

Geschreven doorRaymond MartensCEO