B2Shift · Gepubliceerd op 27 augustus 2026 · Bijgewerkt op 27 augustus 2026
Een AI-agent die acties kan ondernemen – en niet alleen tekst kan genereren – erft de beveiligingsvereisten van waar hij ook mee verbonden is, plus een paar van zijn eigen vereisten. De meeste incidenten zijn terug te voeren op een te brede toegang, niet op het model zelf.
Toegang met de minste bevoegdheden is de controle die er het meest toe doet
Een agent moet zijn eigen identiteit en eigen machtigingen hebben, nooit de geleende inloggegevens van een beheerder. Wijs alleen de systemen en velden toe die de specifieke taak vereist. Het later uitbreiden van de toegang is een configuratiewijziging; ontdekken dat een agent onnodige toegang had na een jaar actief te zijn geweest, is een auditprobleem en geen snelle oplossing.
Gesplitste acties op basis van omkeerbaarheid, niet op basis van hoe indrukwekkend ze klinken
Lezen, opstellen, classificeren en routeren kan meestal onbeheerd gebeuren. Het sturen van geld, het publiceren van een prijs, het reageren op een klacht onder uw naam of het verwijderen van een record verdienen een menselijke goedkeuringspoort – of op zijn minst een vertragingsvenster waarin een persoon kan ingrijpen. Door elke actie hetzelfde te behandelen, worden de bruikbare gevallen te veel beperkt, of worden de gevaarlijke gevallen te weinig beperkt.
Controleer op drift, niet alleen op uptime
Een agent kan technisch gezien online zijn en stilletjes ongelijk hebben: hij antwoordt met verouderde kennis, classificeert een groeiend aantal verzoeken verkeerd, of drijft buiten het beoogde bereik af naarmate upstream-systemen veranderen. Monitoring moet trends in de kwaliteit van de output en het vertrouwen volgen, en niet alleen of de service reageert.
Maak elke beslissing reconstrueerbaar
Bij elke actie moet worden vastgelegd wat de trigger was, welke context er werd gebruikt, wat er werd besloten, het vertrouwen ervan, of een mens het goedkeurde en wat er als gevolg daarvan veranderde. De OWASP Top 10 voor LLM-applicaties documenteert de meest voorkomende foutklassen (buitensporige keuzevrijheid, onveilige uitvoerafhandeling, snelle injectie) die de moeite waard zijn om uw ontwerp te controleren voordat u het op de markt brengt.
Het omgaan met vertrouwen is een ontworpen pad, geen bijzaak
Gevallen met weinig vertrouwen moeten een expliciete bestemming hebben: een met name genoemde persoon of een beoordelingswachtrij, nooit een stille beste gok. De gewenste faalwijze is "dit is naar een mens gegaan"; degene waar je tegen ontwerpt is: "Dit ging fout en drie weken lang heeft niemand het gemerkt." Zie AI-agenten/AI-werknemers voor hoe dit in een build wordt geïntegreerd, en Hoe u AI-automatisering veilig en AVG-bewust kunt houden voor de gegevensbeschermingshelft van dit plaatje.
Bespreek uw proces