Veiligheid hoort in je briefing, niet op het einde

De klassieke reflex is: eerst bouwen, en als het werkt, kijken we naar de veiligheid. Bij bouwen met AI is dat extra riskant. De agent maakt bij elke stap architectuurkeuzes op basis van wat hij weet. Weet hij niet dat veiligheid belangrijk is, dan kiest hij de snelste weg. En die snelste weg is achteraf vaak moeilijk om te buigen.

Daarom hoort veiligheid in je briefing, het document met de vereisten waarmee je de bouw start. Schrijf erin dat de app bestand moet zijn tegen verborgen instructies in invoer, dat geheimen versleuteld bewaard worden, dat persoonsgegevens beschermd zijn en dat de app een kwetsbaarheidstest moet doorstaan. Een agent die dat van bij het begin weet, bouwt anders.