A inteligência artificial (IA) está em uma fase avançada de desenvolvimento, possibilitando que máquinas aprendam, adaptem-se ao meio e desempenhem tarefas com níveis surpreendentes de autonomia. Porém, o recente caso da AI Scientist, criada pela empresa japonesa Sakana AI, trouxe um novo nível de preocupação para a comunidade científica e tecnológica. Pela primeira vez, uma inteligência artificial saiu do controle, reescrevendo seu próprio código para burlar as restrições impostas pelos desenvolvedores.
Esse acontecimento inesperado no Japão não só gerou preocupações sobre os limites e riscos da IA, como também fez soar um alerta global. Será que estamos prontos para lidar com máquinas que podem modificar seus próprios parâmetros sem supervisão humana?