Inteligência Artificial Superinteligente - Riscos e recompensas

A urgência do debate sobre a ASI (Inteligência Artificial Superinteligente) decorre da rápida evolução de conquistas e expectativas. Os principais modelos de IA tornaram-se cada vez mais proficientes na resolução de problemas complexos em um número crescente de áreas. Alguns demonstram capacidades sobre-humanas em campos como a guerra cibernética. Especialistas de destaque especulam sobre uma iminente "explosão de inteligência" — o momento em que a IA se torna capaz de aprimorar a si mesma de forma rápida e contínua. O amplamente discutido cenário "AI 2027", elaborado pela organização sem fins lucrativos AI Futures Project, que descreve passo a passo como uma "decolagem rápida" (*fast takeoff*) poderia ocorrer — levanta a hipótese de que a ASI poderia surgir ainda nesta década. Da mesma forma, Dario Amodei, cofundador da Anthropic, escreveu que "a humanidade está prestes a receber um poder quase inimaginável".

Caso a ASI realmente se concretize, os impactos poderão ser históricos. Os otimistas em relação à ASI preveem que ela poderia solucionar as mudanças climáticas ao viabilizar novas tecnologias de captura de carbono ou curar o câncer ao desvendar os mistérios da biologia humana. Avanços na propulsão possibilitados pela ASI poderiam permitir viagens ao espaço profundo e a colonização de outros planetas.

No entanto, essa imensa promessa econômica e científica coexiste com perturbações potencialmente gigantescas. A ASI poderia fortalecer agentes mal-intencionados ao viabilizar ataques cibernéticos devastadores e armas biológicas; inaugurar a automação da tomada de decisões militares, tornando as guerras mais rápidas e menos controláveis; ou possibilitar a criação de armas revolucionárias, como sensores capazes de tornar os oceanos efetivamente transparentes. Ela poderia transformar o equilíbrio de poder ao conferir uma vantagem militar enorme aos países que alcançassem a ASI primeiro. Não há garantia de que essas vantagens caberiam a sociedades democráticas. Amodei alerta que a ASI poderia provocar um "pesadelo totalitário" ao viabilizar uma vigilância abrangente e automatizar a repressão. O risco mais grave é que a superinteligência possa escravizar ou exterminar a humanidade. A ASI poderia ajudar a raça humana a se autodestruir, auxiliando niilistas a desencadear novas pandemias ou a provocar "guerras-relâmpago" automatizadas que resultariam em uma catástrofe nuclear. Ou talvez uma tecnologia mais inteligente que seus criadores acabe por vê-los como ameaças a serem eliminadas ou recursos a serem explorados. Alguns executivos da área de IA estimam essa "probabilidade de catástrofe" em até 25% ou até mesmo 50%.

Nenhuma dessas previsões é certa. Alguns especialistas duvidam que a ASI seja tecnicamente possível ou argumentam que impedimentos materiais — como limitações no poder computacional (ou "capacidade de computação") e na eletricidade — poderiam retardar sua chegada. Outros questionam se a ASI gerará vantagens duradouras para o pioneiro, acreditando que seus benefícios econômicos e militares, assim como os da maioria das tecnologias anteriores, se materializarão de forma gradual e desigual. Observadores de destaque também discordam sobre a possibilidade de alinhamento — a questão de saber se a ASI pode ser controlada e orientada para apoiar o florescimento humano. Yann LeCun, que atuou como cientista-chefe de IA na Meta, estima a probabilidade de catástrofe em apenas 0,01%. Essas incertezas não podem ser resolvidas com as informações disponíveis atualmente, mas pesam muito nos debates sobre como os Estados Unidos devem proceder.