O pesquisador britânico Jacob Coxon, de 27 anos, decidiu abandonar o setor de inteligência artificial após trabalhar na OpenAI e na Anthropic. Segundo ele, as principais empresas do segmento estão avançando rapidamente na criação de sistemas capazes de se aperfeiçoar com pouca ou nenhuma intervenção humana, sem que existam mecanismos seguros para impedir uma eventual perda de controle.

Coxon trabalhou durante cerca de três anos no pré-treinamento de modelos de IA, etapa em que os sistemas são expostos a grandes volumes de dados. Ele passou primeiro pela OpenAI, responsável pelo ChatGPT, e posteriormente pela Anthropic, que considerava mais cuidadosa em relação à segurança.

Em uma publicação na rede social X, o pesquisador afirmou que profissionais envolvidos no desenvolvimento da tecnologia consideram real a possibilidade de a IA representar uma ameaça extrema à humanidade até o fim da década. Em entrevista ao The Wall Street Journal, ele disse que, em cenários considerados mais agressivos, uma perda de controle poderia ocorrer já no fim do próximo ano.

Para Coxon, o principal risco está no chamado autoaperfeiçoamento recursivo. Nesse cenário, sistemas de IA poderiam participar do desenvolvimento e treinamento de versões mais avançadas de si mesmos, reduzindo progressivamente a necessidade de intervenção humana.

"Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas", afirmou o pesquisador ao comentar a atuação das empresas.

Evan Hubinger, executivo da área de segurança da Anthropic, concordou publicamente com parte das preocupações apresentadas por Coxon. Ele afirmou que a possibilidade de uma IA provocar a extinção da humanidade é considerada real dentro do setor e estimou em mais de 10% a chance de um evento desse tipo ocorrer na próxima década.

Coxon reconhece os esforços da Anthropic na área de segurança, mas considera que a competição entre as empresas cria uma pressão que dificulta uma postura mais cautelosa. Para ele, nenhuma companhia conseguirá administrar sozinha os riscos de uma tecnologia que ultrapasse a inteligência humana.

Empresas de IA enfrentam pressão por mais segurança diante dos riscos de sistemas avançados. Especialistas defendem desacelerar o desenvolvimento, enquanto projetos nos EUA propõem criar uma regulamentação federal

Para Coxon, a velocidade da corrida tecnológica exige ação dos governos e uma coordenação internacional para reduzir os riscos de uma possível superinteligência.