Um pesquisador que trabalhou diretamente no desenvolvimento de alguns dos sistemas de inteligência artificial mais avançados do mundo deixou a indústria fazendo um alerta assustador sobre o futuro da tecnologia.
O britânico Jacob Coxon, de 27 anos, trabalhou nos últimos três anos com pré-treinamento de modelos de IA, primeiro na OpenAI e depois na Anthropic. Ao anunciar sua saída, ele acusou as duas empresas de avançarem de maneira irresponsável na corrida pela chamada superinteligência.
Segundo Coxon, as companhias estariam caminhando em direção a sistemas capazes de se aprimorar e desenvolver novas gerações de IA com participação humana cada vez menor. Para ele, uma tecnologia com capacidades superiores às humanas não deveria ser desenvolvida sem maior intervenção governamental ou uma desaceleração coordenada entre as empresas.
O pesquisador foi ainda mais longe ao afirmar que pessoas envolvidas diretamente no desenvolvimento da tecnologia acreditam seriamente na possibilidade de a IA representar uma ameaça existencial à humanidade até o fim da década. Importante destacar que essa é uma avaliação de risco feita por pesquisadores, e não uma previsão de que isso necessariamente acontecerá.
O alerta ganhou ainda mais repercussão porque Evan Hubinger, líder de uma equipe de segurança da Anthropic, concordou publicamente com parte das preocupações. Ele afirmou considerar pessoalmente superior a 10% a possibilidade de uma IA avançada provocar uma catástrofe capaz de eliminar a humanidade dentro da próxima década.
Coxon defende que nenhuma empresa deveria decidir sozinha os rumos de uma tecnologia potencialmente tão poderosa e pede maior coordenação entre governos e laboratórios.
O episódio expõe um debate que cresce justamente dentro das empresas responsáveis por desenvolver as IAs mais avançadas do mundo: até onde acelerar a tecnologia sem saber exatamente como controlar aquilo que poderá surgir?