Het dak repareren nu de zon nog schijnt

Sinds een jaar volg ik als reservist de officiersopleiding bij de Koninklijke Marine. Zelden heb ik in zo’n korte tijd zoveel geleerd. Van huis uit ben ik jurist. Daarom volg ik lessen over ethiek, zeerecht en militair straf- en tuchtrecht. Ik zie het als de spelregels van Risk. Maar dan in het echie.

Vandaag hebben we het over cyber warfare. Een groepje van twintig aspirant officieren volgt aandachtig de module. Door al onze vragen dwalen we af. We belanden in een discussie over de clinch tussen het Amerikaanse ministerie van Defensie (correctie: het ministerie van Oorlog) en Anthropic, het AI-bedrijf achter Claude. Vorige zomer nog, sloegen de partijen de handen ineen. Maar nu trekt Anthropic een rode lijn: geen AI om Amerikanen massaal te bespioneren en geen AI voor wapens die zelfstandig kunnen doden. Het Pentagon weigert en dreigt.

In mijn BT steek ik mijn hand op. ‘Waarom horen we niks van het Congres? Hoe mag het Pentagon AI inzetten en hoe is dit in Europa vastgelegd?’ Het blijft het angstvallig stil.

Volgens Trump mag een leverancier zich niet bemoeien met hoe het geleverde product ingezet wordt. Wie betaalt, bepaalt. Op het eerste gezicht klinkt dat fair. Als ik een broodrooster koop, bepaal ik zelf hoe ik m’n broodje rooster. En als we de analogie doortrekken naar een oorlogssituatie: het leger bepaalt waar de aangekochte tank op schiet, niet de fabrikant. Maar zie daar; de denkfout van het Pentagon. Want AI is geen tank (of broodrooster).

Het is een bekend patroon dat wetgeving achterloopt op technologie.

Een AI-model maakt inschattingen, weigert soms verzoeken en moet morele afwegingen maken. Claude is zo gebouwd dat het bepaalde schadelijke verzoeken weigert. Probeer de chat maar eens te vragen hoe je gifgas maakt, of hoe je een drone bouwt die zelf een doelwit kiest. Grote kans dat je bot vangt. Anthropic heeft hier namelijk een filosofische‘grondwet’ voor geschreven, ethische richtlijnen.^[i] Dat laat zien hoe vreemd deze technologie eigenlijk is: je programmeert niet alleen een machine, je probeert ook gedrag, grenzen en oordeelsvermogen in te bouwen. AI is dus niet zo voorspelbaar als een tank of broodrooster.

En dat maakt dit zo lastig. In Europa zijn we misschien opgelucht met de trap op de rem van Anthropic; het dubbeltje lijkt nu de goede kant op te vallen. Maar willen we eigenlijk wel dat een privaat bedrijf bepaalt hoe het leger AI mag gebruiken? Is het alternatief, dat een president dat naar eigen inzicht doet, geruststellend? In de Verenigde Staten wordt die vraag nu openlijk uitgevochten.

Wij in Europa kunnen dit hoofdschuddend gadeslaan. Maar misschien is het verstandiger om de situatie vóór te zijn? Duidelijke, onafhankelijke wetgeving is het antwoord. We reguleren álle producten die we kopen, van auto’s tot vliegtuigen, tot broodroosters! Overhoe defensie AI mag inzetten, gaapt een leemte.^[ii] Vreemd.

Het is een bekend patroon dat wetgeving achterloopt op technologie. Privacyregels kwamen pas jaren na de komst van het internet. Vaak pas nadat het kwaad al is geschied. Moeten we hier nu op wachten? Wetgeving maken kost tijd, veel langer dan mijn officiersopleiding. Des te meer reden om te leren van wat er in Amerika gebeurt, en het dak te repareren nu de zon nog schijnt.

^[i] Zie: https://www.anthropic.com/constitution

^[ii] Zie: https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=OJ:L_202401689