ASI - Qual a melhor estratégia para o seu desenvolvimento?

Cresce a especulação de que a superinteligência artificial, ou ASI — um conceito de difícil definição, vagamente descrito como modelos de IA que superam vastamente as capacidades humanas em todas as tarefas e domínios — poderia surgir em poucos anos. Em contrapartida, os principais modelos de IA atuais superam as capacidades humanas apenas em áreas restritas, como matemática e processamento de dados, ficando aquém do desempenho humano em áreas como bom senso e raciocínio profundo. O surgimento da ASI poderia trazer um progresso econômico e científico vertiginoso ou viabilizar avanços militares revolucionários, capazes de alterar o equilíbrio global de poder. No entanto, também poderia transformar fundamentalmente a relação entre máquinas e humanidade, permitindo, talvez — nos cenários mais catastróficos —, que sistemas quase onipotentes erradiquem seus criadores humanos.

Grande parte disso é hipotética. Ainda é incerto se a ASI é possível, quando poderia ser desenvolvida ou se seria possível mantê-la alinhada ao florescimento da humanidade. Essas incertezas dominam as discussões sobre qualquer resposta política. Contudo, dado que as implicações da ASI seriam sísmicas, é importante avaliar como países, em especial os Estados Unidos, poderiam abordar essa tecnologia e de que maneira diferentes estratégias em relação à ASI afetariam a atuação de Washington no cenário mundial.

Nessa perspectiva, uma opção é buscar a supremacia acelerando a corrida rumo à ASI e, simultaneamente, contendo os rivais. Essa estratégia baseia-se na convicção de que o maior perigo para os Estados Unidos não é a tecnologia de ASI incontrolável em si, mas sim a possibilidade de que um rival controle tal tecnologia. Outra opção é o desenvolvimento compartilhado, no qual os Estados Unidos buscam liberar, de forma responsável, os benefícios da ASI para a humanidade — e conter as dinâmicas perigosas de uma corrida para criá-la — desenvolvendo-a no âmbito de um consórcio de Estados comprometidos com a segurança. Uma terceira opção é a supressão: os Estados Unidos abririam mão do desenvolvimento da ASI e impediriam que qualquer outra parte a criasse, sob o argumento de que a superinteligência é perigosa demais para ser liberada no mundo.

Cada uma dessas opções prioriza aspectos diferentes do desafio da ASI (Inteligência Artificial Superinteligente): a busca por vantagem geopolítica, a necessidade de desenvolver com segurança uma tecnologia revolucionária e a importância de minimizar riscos existenciais. No entanto, cada uma delas também apresenta riscos ou falhas graves e exige apostas potencialmente irreversíveis em um futuro atualmente incognoscível. Se a premissa subjacente a uma determinada estratégia se mostrar equivocada, essa estratégia poderá fracassar de maneira catastrófica. 

Portanto, seria um erro os líderes dos EUA adotarem plenamente qualquer uma dessas opções neste momento. A melhor opção a curto prazo é uma estratégia prudente de diversificação de riscos (*hedging*), posicionando os Estados Unidos para aproveitar diversos futuros possíveis e, ao mesmo tempo, embasando sua capacidade de, futuramente, fazer uma escolha mais clara.