 |
Dario Amodei, Sam Altman and Demis Hassabis Executivos de IA dos EUA alertam sobre modelos chineses |
Notícias publicadas nesta terça-feira estão apontando que executivos da OpenAI e da Anthropic estão emitindo alertas sobre a ascensão de IAs de baixo custo — particularmente novos modelos produzidos na China, sugerindo que eles levarão a um futuro de IA "distópico" e apresentarão riscos de segurança inaceitáveis caso não sejam regulamentados.
Alguns analistas que estudam o setor de IA afirmam que as duas empresas, que se preparam para abrir capital no próximo ano, querem apenas eliminar a concorrência.
O surgimento de sistemas de IA autônomos e de código aberto altamente capazes — incluindo o modelo Kimi K3, da Moonshot AI, e o Qwen 3.8 Max, do Alibaba, lançados recentemente e bem recebidos por investidores e usuários — revolucionou mais uma vez a corrida da IA. O Kimi K3 também se mostrou competitivo em relação aos modelos dos EUA em alguns testes de desempenho (*benchmarks*).
O debate sobre os novos modelos — que possuem "pesos abertos" (*open weight*), permitindo que usuários os baixem e personalizem com dados corporativos e para tarefas específicas — coincide com uma divisão na administração Trump sobre a adoção de medidas para limitar o uso desses modelos nos EUA.
"Um resultado provável de um mundo dominado por modelos abertos é o comunismo pleno da IA, que é exatamente o que a China propõe: em vez de um produto de mercado, a IA é um 'bem público' que acabará sendo fornecido pelo Estado como uma espécie de 'infraestrutura pública digital'", afirmou Dean Ball, chefe de futuros estratégicos da OpenAI, em uma publicação na rede social X na sexta-feira.
Ball, ex-funcionário da administração Trump, descreveu tal cenário como um "inferno distópico" e disse esperar que o governo Trump tomasse medidas para reduzir o uso de modelos de código aberto. Mais tarde, Ball esclareceu que não estava defendendo que o governo dos EUA desencorajasse o uso de IA chinesa.
Ele também destacou um desafio central da corrida da IA: empresas de IA de ponta captam bilhões de dólares para custear os vastos recursos computacionais necessários para continuar aprimorando os sistemas de IA. Se todos utilizarem sistemas de IA pelos quais, em grande parte, não pagam, não haverá como financiar o desenvolvimento contínuo de IA de fronteira tecnológica. Ball, que começou na empresa no início deste mês e concentra-se em estratégia de políticas, e a OpenAI afirmaram que os comentários dele não refletem as posições oficiais da empresa. A empresa desenvolveu seus próprios modelos abertos, e o CEO Sam Altman já declarou anteriormente que a abordagem anterior da OpenAI — de desenvolver apenas ferramentas fechadas — não foi sensata.
Outros executivos de alto escalão da área de IA alertaram que modelos abertos apresentam riscos enormes, uma vez que desenvolvedores e formuladores de políticas não têm controle sobre como eles são usados ou modificados.
Dario Amodei, CEO da Anthropic, alerta sobre os riscos de sistemas de IA poderosos e abertos; em uma entrevista recente à Bloomberg, quando afirmou que a disponibilidade para download gratuito de modelos de IA com capacidades avançadas de segurança cibernética poderia ser prejudicial. "É uma preocupação séria", disse ele em junho.
O uso de modelos chineses — muito mais baratos que seus equivalentes americanos — está crescendo rapidamente em empresas dos EUA, levando alguns investidores a questionar a viabilidade a longo prazo das principais desenvolvedoras de modelos, como Anthropic e OpenAI.
O cenário atual dos modelos de código aberto nos EUA está começando a alcançar o da China. Na quarta-feira da semana passada, o Thinking Machines Lab — liderado por Mira Murati, ex-diretora de tecnologia da OpenAI — lançou seu primeiro modelo de IA aberto. O Nemotron 3 Ultra, da Nvidia, começa a ganhar força, e a Reflection AI — desenvolvedora de modelos abertos apoiada pela Nvidia — mantém laços estreitos com a administração Trump e planeja lançar seu primeiro modelo ainda este ano.
A confiança do mercado de que a Anthropic e a OpenAI continuarão criando modelos mais capazes, expandindo as fronteiras da IA, tem sido o motor desse "boom", ajudando a justificar gastos de trilhões de dólares em infraestrutura nos próximos anos. A ameaça de que novos participantes possam cobrar preços muito mais baixos do que elas por IAs avançadas pressionou para baixo, na semana passada, as ações de algumas empresas de tecnologia e IA.
David Sacks, investidor de risco e conselheiro da Casa Branca para IA, sugeriu que interpretou a publicação de Ball como uma confissão de uma "estratégia de captura regulatória". Sacks e outros veem há tempos os apelos por regulamentação da IA feitos por empresas como a Anthropic como tentativas de usar novas leis e políticas para prejudicar a concorrência.
“Transformar a incerteza regulatória em arma competitiva deveria ser algo totalmente inaceitável”, disse Sacks em uma publicação no X no domingo.
No último ano, autoridades do governo focadas em segurança consideraram uma série de medidas para restringir empresas chinesas de IA que desenvolvem modelos de código aberto, segundo pessoas a par das discussões. Elas avaliaram incluir essas empresas em listas negras comerciais, emitir alertas de segurança sobre elas e até mesmo uma possível ordem executiva voltada para modelos de código aberto; no entanto, divergências internas no governo impediram que qualquer uma dessas ações fosse concretizada, acrescentaram as fontes.
Essa tensão também atrasou a implementação de uma ordem executiva recente que exige que as empresas concedam ao governo acesso antecipado aos seus modelos mais poderosos, até 30 dias antes do lançamento. Os CEOs da OpenAI, da Anthropic e da DeepMind (subsidiária da Alphabet) sinalizaram recentemente apoio a uma maior supervisão governamental da IA à medida que os modelos ganham popularidade — o que alimentou críticas de que essas empresas estariam tentando sufocar a concorrência. A Alphabet é a empresa controladora do Google. Demis Hassabis, CEO do laboratório DeepMind do Google, sugeriu recentemente que desenvolvedores de modelos de código aberto sejam incluídos nas discussões sobre a regulamentação da IA.
No ano passado, o Congresso americano restringiu o uso do modelo chinês DeepSeek em redes federais e de defesa devido a preocupações com segurança e privacidade, mas legisladores e o governo não chegaram a impor outras restrições. Um dos desafios é que desenvolvedores de modelos menores — incluindo várias empresas chinesas — utilizam uma técnica chamada destilação, na qual aproveitam as capacidades das principais ferramentas dos EUA.
Autoridades que defendem a supervisão da IA expressaram preocupação de que modelos de código aberto possam representar riscos cibernéticos e de armas biológicas caso continuem evoluindo sem precisar seguir as mesmas regras impostas às principais empresas americanas, como Anthropic e OpenAI, segundo as fontes.
O governo Trump está comprometido em promover o ecossistema de código aberto dos EUA e em fortalecer a segurança nessa área, afirmou uma autoridade da Casa Branca. O novo foco nessa questão demonstra como as políticas complexas em torno de modelos abertos representam um desafio tanto para CEOs que buscam reduzir os custos com IA quanto para formuladores de políticas que querem evitar que a tecnologia seja usada para prejudicar os EUA.
“A IA é cada vez mais sinônimo de poder, e as preocupações com o uso dual são reais. No entanto, para as empresas americanas e para a maior parte do mundo, a capacidade de executar modelos de alta qualidade a baixo custo — e de uma forma que possam controlar — será de grande importância”, afirmou Austin Carson, CEO da SeedAI, uma organização sem fins lucrativos voltada para políticas de IA. “Quem entende de código aberto sabe que não se vence pela exclusão.”