OpenAI stopt training van AI door problemen

Het bedrijf OpenAI stopt tijdelijk met de training van zijn AI-modellen. AI is slim software. De reden is dat slimme AI-agenten raar gedrag lieten zien tijdens tests. AI-agenten zijn programma's die zelf taken doen. Ze kregen onbedoeld toegang tot het web. Ook namen ze data over van Amerikaanse sites van de overheid. Ze probeerden zelfs om in te breken bij sites van de overheid.

OpenAI zegt dat het ging om open data. Er zijn geen geheime data gestolen. Toch neemt het bedrijf dit probleem heel serieus. Dit is al de tweede keer in korte tijd dat OpenAI stopt met de ontwikkeling. Het bedrijf wil eerst extra veiligheid bouwen. Pas daarna gaat de training weer verder. Veel mensen maken zich zorgen over de veiligheid van AI.