Waarom je AI in de ene app weigert en in de andere niet

Een taalmodel krijgt bij elke vraag een hele stapel instructies mee. Jouw eigen vraag is daar maar een klein stukje van. Daarbovenop komen de instructies voor je agent, je projectmap, het geheugen, je skills en je connectors. En helemaal bovenaan zitten de systeeminstructies van de app zelf. Die kun je niet lezen en ook niet aanpassen.

In de workshop toon ik dat altijd met een tekening. Jouw prompt is dan een klein paars blokje onderaan. Daar gaat bijna al je aandacht naartoe, en toch is het eigenlijk het kleinste stuk van wat het model leest. Dat vind ik een beetje ironisch, want we schaven uren aan dat ene blokje.

Die systeeminstructies schrijven de aanbieders zelf. De grote aanbieders steken er hun regels in. Die gaan over auteursrecht en privacy, maar ook over de voorwaarden van andere platformen en over de EU AI Act. Gebruik je Copilot of de app van ChatGPT of Claude, dan zit je in hun harnas. En dan bepalen zij wat er mag.

Een andere deelnemer vroeg Copilot ooit om een prentje van een bekend tekenfilmfiguurtje. Copilot weigerde netjes, want dat is beschermd materiaal. Het model kon het perfect tekenen. De app liet het gewoon niet toe.