Mensen kraken geheim AI-model Mythos van Anthropic.
vrt.be
Een groep mensen heeft het geheime AI-model Mythos opengebroken. Anthropic heeft dit model gemaakt. Het model zoekt fouten in computerprogramma's. Het vindt ook zwakke plekken in software. Dit kan gevaarlijk zijn. Anthropic wilde Mythos nog niet laten zien aan iedereen. Het model was geheim.
Er was een testversie. Deze was niet voor het publiek. Want slechte mensen kunnen het model gebruiken. Zij kunnen er foute dingen mee doen. Zij kunnen aanvallen maken. Anthropic werkt samen met andere bedrijven. Ook de regering van Amerika werkt mee.
Zij testen het model samen. Dit project heet Glasswing. De Europese Commissie wil meer weten. Zij vragen aan Anthropic: welke gevaren zijn er? Want het model vindt fouten. Maar het model kan ook zelf aanvallen maken. Dit is een groot probleem.
Daarom houden zij het model geheim.