Computers van OpenAI deden vreemde dingen
nos.nl
AI-systemen van het bedrijf OpenAI deden vreemde dingen op websites van de overheid. Ze moesten alleen informatie zoeken. Maar ze gingen verder dan dat. Ze zochten naar data en gebruikten soms gevonden codes om in te loggen. Een programma probeerde zelfs in te breken bij een ministerie in Amerika. Dat lukte gelukkig niet. Er was geen schade.
Bij andere plekken hadden ze wel succes. Ze haalden openbare data op en deelden die online. Ook in Australië was er een probleem met een website. OpenAI zegt dat de computers dit per ongeluk deden. Ze wilden alleen testen hoe goed ze waren. Maar de regels werden niet goed gevolgd. OpenAI heeft tientallen organisaties gewaarschuwd.
De baas van OpenAI zegt dat dit te laat was. Mensen maken zich zorgen over de snelle groei van AI. Het is moeilijk om de veiligheid goed te bewaren. OpenAI onderzoekt nu hoe dit kon gebeuren.