Cresce a preocupação em laboratórios de IA de que a concorrência esteja levando empresas de tecnologia a uma corrida por modelos com capacidade de autoaperfeiçoamento, os quais correm o risco de escapar do controle humano.
O pesquisador da Anthropic, Jacob Coxon, está deixando o setor de IA devido ao receio de que as empresas estejam correndo para criar sistemas incontroláveis e com capacidade de autoaperfeiçoamento.
Coxon acredita que nenhuma empresa consegue desenvolver inteligência artificial geral de forma responsável sem intervenção governamental ou uma desaceleração coordenada do setor.
A saída ocorre no momento em que a Anthropic se prepara para uma oferta pública inicial (IPO), buscando uma avaliação de mercado de US$ 2 trilhões.
*. *. *
Jacob Coxon, pesquisador especializado no treinamento de novos modelos de IA por meio do processamento de vastas quantidades de dados, afirmou na terça-feira que está deixando a empresa por não querer participar de uma corrida generalizada do setor para criar sistemas de IA capazes de se autoaperfeiçoar; ele teme que tais sistemas possam escapar do controle e destruir a humanidade.
O britânico de 27 anos, que estudou matemática, disse que muitos de seus colegas do setor agora usam termos como "crunchtime" (período de pressão intensa/reta final) e "endgame" (fase final decisiva) para descrever a trajetória em direção a modelos com capacidade de autoaperfeiçoamento.
"Estamos caminhando para muitos dos cenários mais agressivos, nos quais, até o final do próximo ano, a situação já poderia estar fora de controle", disse Coxon, acrescentando que concessões em termos de segurança são inevitáveis quando empresas competem entre si e com startups chinesas emergentes.
A Anthropic não comentou imediatamente a saída. O CEO Dario Amodei e outros líderes da empresa alertaram repetidamente sobre os riscos de modelos de IA que fogem ao controle e instaram o setor a desacelerar o desenvolvimento.
Após Coxon anunciar sua saída, um cientista sênior da empresa, Evan Hubinger, escreveu na rede social X que concordava com Coxon sobre os riscos do desenvolvimento de IA.
"Nós realmente acreditamos, de forma genuína, que a IA pode matar todos os humanos! Pessoalmente, acho que a probabilidade é superior a 10% na próxima década", escreveu Hubinger. “Acredito que a Anthropic está fazendo o possível, mas ainda não temos um plano para resolver a questão do alinhamento da superinteligência e não estamos claramente no caminho certo para isso.” Outros também reforçaram essa visão.
Na quarta-feira, o governador de Illinois, JB Pritzker, respondeu a Coxon no X, afirmando que é hora de “soar o alarme” sobre a necessidade de controlar a IA.
“A ameaça que a IA representa para a humanidade está ficando mais clara; por isso, exijo uma ação imediata do setor e de Washington”, escreveu no X o democrata, que é um possível candidato à presidência em 2028.
Coxon disse que deixou a OpenAI no início deste ano para se juntar à Anthropic, pois a empresa é conhecida por seus esforços em segurança de modelos. No entanto, embora considerasse genuínos os esforços de segurança da Anthropic, ele agora acredita que nenhuma empresa consegue desenvolver de forma responsável uma IA capaz de superar humanos em diversas tarefas — o que às vezes é chamado de inteligência artificial geral — sem intervenção governamental ou uma desaceleração coordenada do setor.
Casos recentes de invasões envolvendo modelos da OpenAI e da Anthropic — alguns operando em enxames colaborativos de agentes — ilustraram como sistemas de IA podem adotar objetivos maliciosos e tentar ocultá-los dos humanos. Coxon teme que, uma vez que os sistemas comecem a evoluir por conta própria, eles possam avançar a ponto de recusar comandos.
A saída de Coxon é um dos primeiros exemplos de um funcionário da Anthropic deixando a empresa devido a receios sobre a segurança da IA. Um pesquisador da área de segurança deixou a empresa no início deste ano para estudar poesia, alertando que “o mundo está em perigo”.
Vários pesquisadores deixaram a OpenAI e outras empresas recentemente, bem como em anos anteriores, citando preocupações semelhantes. A Anthropic construiu uma das maiores plataformas de IA, em parte ao afirmar que prioriza o desenvolvimento responsável da tecnologia e investe pesadamente na área.
Líderes do setor vêm alertando que os recentes ataques cibernéticos são um sinal de alerta. Na semana passada, a OpenAI informou a jornalistas que seu modelo mais recente representava a inteligência artificial geral e um grande salto em termos de capacidades.
“Acho que algumas coisas vão dar muito errado na área de segurança cibernética se as pessoas não agirem com bastante urgência”, disse o CEO da OpenAI, Sam Altman, a autoridades do G20 na semana passada, durante uma cúpula na Carolina do Norte. “Este é um momento que exige extrema cautela. Preocupa-me que ninguém esteja preparado para as consequências de uma ascensão rápida e contínua da inteligência de máquinas”, escreveu Jakub Pachocki, cientista-chefe da OpenAI, em uma publicação no blog no domingo, defendendo uma desaceleração coordenada do setor e a intervenção governamental.
Coxon, Pachocki e Amodei juntaram-se a mais de 1.000 pesquisadores de IA de toda a indústria que assinaram recentemente uma declaração pedindo coordenação governamental global em torno de um sistema para desacelerar o desenvolvimento da IA, caso seja necessário um “freio” para controlar modelos capazes de se aprimorar por conta própria.
Quanto às regulamentações federais de IA, a administração Trump tem priorizado uma abordagem de baixa intervenção para maximizar os benefícios econômicos da tecnologia — um cenário que, segundo críticos, poderia levar a ataques cibernéticos em larga escala ou outros danos.
O senador Bernie Sanders (Independente de Vermont) e o deputado Greg Casar (Democrata do Texas) — parlamentares progressistas que estão entre os poucos a propor salvaguardas para a IA — apresentaram, na semana passada, uma proposta legislativa para banir permanentemente a superinteligência e suspender o desenvolvimento de modelos até que um órgão regulador do setor estabeleça novas regras.
A saída de Coxon ocorre no momento em que a Anthropic se prepara para uma oferta pública inicial (IPO) que deve figurar entre as maiores da história. A empresa busca uma avaliação de mercado de US$ 2 trilhões e tem enfatizado o desenvolvimento responsável da tecnologia ao atrair investidores. Amodei e outros líderes da empresa já entraram em conflito com a administração Trump e com outros executivos em diversas ocasiões, devido a práticas que, segundo eles, não priorizam a segurança da IA.
A Anthropic utiliza um canal no Slack para que os funcionários discutam as capacidades avançadas de seus modelos, afirmou Coxon, descrevendo essa prática como um reflexo da grande influência que as empresas de IA exercem sobre o desenvolvimento do setor.
“É meio insano que isso tenha que acontecer nos MacBooks de alguns engenheiros que vivem em São Francisco, em vez de em um bunker no deserto, como aquele onde conduziram o Projeto Manhattan”, disse Coxon.
Copyright ©2026 Dow Jones & Company, Inc. Todos os direitos reservados. 87990cbe856818d5eddac44c7b1cdeb8
Publicado na edição impressa de 10 de setembro de 2026, do WSJ, com o título 'Pesquisador de IA da Anthropic pede demissão'.
Nenhum comentário:
Postar um comentário