Anthropic mag nieuwe AI-tool toch delen met Amerikaanse overheidsinstanties

AI-bedrijf Anthropic mag zijn nieuwste AI-model alsnog beschikbaar stellen aan bepaalde overheidsinstanties. De Amerikaanse regering heeft daar toestemming voor gegeven.

Eerder besloot de regering nog dat Anthropic zijn nieuwste AI-programma Fable niet beschikbaar mocht maken buiten de VS en voor niet-Amerikanen binnen de VS. Omdat Anthropic de nationaliteit van klanten niet altijd weet, besloot het bedrijf daarop om Fable wereldwijd ontoegankelijk te maken.

De vrees bij de regering is dat het AI-model gebruikt wordt tegen de overheid. Fable kan beveiligingslekken in software opsporen, maar de autoriteiten zijn bang dat die lekken tegen hen gebruikt worden.

Veiligheidsregels

Anthropic ging in overleg met de Amerikaanse regering over het verbod. Ze benadrukten dat er veiligheidsregels zijn ingebouwd in de AI-tools, zodat ze niet kunnen worden misbruikt. Hoewel die gesprekken in eerste instantie geen doorbraak opleverde, lijken er nu stappen gezet.

Bepaalde overheidsinstanties krijgen nu toegang tot Mythos, een variant van Fable. De instanties kunnen Mythos gebruiken om hun software te controleren op beveiligingslekken.

Anthropic laat in een statement weten dat het met de overheid "blijft samenwerken" om ervoor te zorgen dat Fable weer voor iedereen toegankelijk wordt.

Ook bij de concurrent van Anthropic, OpenAI, blokkeert de regering de toegang tot het nieuwste AI-programma. GPT-5.6., zoals die tool heet, is net als Fable gespecialiseerd in het zoeken van beveiligingslekken. Volgens meerdere Amerikaanse media gaat de overheid "klant voor klant" beoordelen of die toegang mag krijgen.