Preocupações latentes de que a tecnologia poderia acabar com a civilização e desencadear ataques cibernéticos atingiram o auge tanto nos locais de trabalho quanto nas mesas de jantar.
O pânico sobre a ameaça existencial da IA disseminou-se pelo grande público americano após um alerta feito por um pesquisador da Anthropic que estava deixando a empresa.
Conversas sobre os riscos da IA ganharam força em grupos de mensagens, igrejas e lares por todo o país.
A visão de que a IA levará à extinção da raça humana permanece uma opinião marginal entre os especialistas do setor.
*. *. *
The Wall Street Journal
O deputado Josh Gottheimer assistia ao jogo de hóquei de campo de sua filha, no norte de Nova Jersey, na quinta-feira, quando dois pais se aproximaram para expressar suas preocupações sobre a inteligência artificial e perguntar: "O que está acontecendo?"
Perguntas como essas — vindas tanto de cidadãos comuns quanto de legisladores — repetiram-se ao longo da semana para o democrata de Nova Jersey, que apresentou projetos de lei para aumentar a supervisão da tecnologia. Elas foram motivadas pelo alerta alarmante de um pesquisador da Anthropic, publicado na terça-feira no *The Wall Street Journal*, de que sistemas de IA fora de controle poderiam destruir a civilização. Para Gottheimer, ex-executivo da Microsoft e copresidente de uma comissão da Câmara sobre IA, isso indicava que a tensão sobre a possibilidade de a IA acabar com a humanidade havia ultrapassado um limite crítico.
"Muita gente me enviou o artigo dizendo: 'Que p... é essa?' ou 'O que estamos fazendo a respeito?'", disse Gottheimer. "Quer você acompanhe o assunto de perto ou não, você lê o suficiente para pensar: 'Caramba, é melhor estabelecermos algumas regras básicas aqui'."
Por todo o país, esta foi a semana em que o pânico sobre a ameaça existencial da IA pareceu romper as barreiras dos debates na internet e dos círculos do Vale do Silício, espalhando-se pelo grande público americano. Em grupos de estudo bíblico, mesas de jantar em família e grupos de mensagens entre amigos, o que antes era uma preocupação abstrata para muitos transformou-se rapidamente em uma das ameaças mais sombrias para a sociedade.
Trata-se de um ponto de virada em uma reação negativa que vinha crescendo há meses. A oposição à ampla rede de câmeras de vigilância com IA da Flock Safety nos EUA ganhou força neste verão, justamente quando detalhes sobre a invasão autônoma realizada pela IA da OpenAI contra a empresa Hugging Face se tornaram públicos. Ao fundo, ouvia-se um crescente coro de resistência aos data centers e de preocupação de que a tecnologia pudesse resultar em perda generalizada de empregos.
Quando funcionários da Anthropic compartilharam seus receios sobre o impacto potencialmente fatal da tecnologia para a humanidade — com postagens do pesquisador Jacob Coxon (que estava deixando a empresa) e de um colega acumulando centenas de milhões de visualizações —, as preocupações que vinham fermentando atingiram o ponto de ebulição.
Na televisão noturna, Jimmy Kimmel questionou em voz alta por que não estamos levando a questão mais a sério, sugerindo a teoria de que "é algo complexo demais para conseguirmos assimilar". Artistas como o ator Matt Damon, a compositora Maggie Rogers e a cantora Sheryl Crow também se manifestaram. "Como nossos líderes podem escolher seus trilhões em detrimento de seus próprios filhos?", perguntou Crow nas redes sociais.
Leitores correram para uma página da Wikipedia sobre o risco existencial representado pela inteligência artificial; a página registrou um aumento de mais de dez vezes no número de acessos, estabelecendo um recorde para o artigo. Nate Soares, um cientista da área de IA e coautor do livro *If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All* ("Se Alguém a Criar, Todos Morrem: Por Que uma IA Sobre-humana Nos Mataria a Todos"), disse que sua editora o informou de que ele vendeu mais livros na quarta-feira do que costuma vender em uma semana.
Há anos, Soares vem alertando sobre os perigos de a IA causar a extinção da humanidade. "A mensagem nunca havia rompido a bolha até agora", disse ele.
Apesar dos alertas desta semana, a ideia de que a IA levará à extinção da raça humana é uma opinião minoritária entre os especialistas do setor. Mesmo alguns daqueles que afirmam que a IA poderia ser capaz de destruir a humanidade acreditam que se trata de um evento de baixa probabilidade e que medidas podem ser tomadas para impedi-lo. Tanto a Anthropic quanto a OpenAI afirmaram que levam a segurança a sério e que seus apelos por regulamentação governamental são genuínos.
"Isso parece estar em outro patamar"
Em março, o cineasta vencedor do Oscar Daniel Roher lançou um documentário sobre os riscos da IA intitulado *The AI Doc: Or How I Became an Apocaloptimist*, que teve uma recepção mista. "Eu esperava que o filme tivesse um impacto maior", disse Roher. No entanto, nesta semana, ele começou a receber mais ligações de amigos e familiares pedindo sua opinião sobre os riscos.
"Estou começando a ver uma mudança na conversa e no interesse", disse Roher, cujo documentário será lançado na plataforma de streaming Netflix na próxima semana.
Em um estudo bíblico realizado na quarta-feira em uma igreja no bairro de Brickell, em Miami, o reverendo Christopher Benek recebeu várias perguntas de sua congregação sobre a IA.
"Um dos meus líderes de louvor veio falar comigo e disse: 'Isso parece estar em outro patamar, porque agora está em toda parte na imprensa, em vez de ser algo isolado'", contou Benek, cujo livro *Church Leader’s Guide to Artificial Intelligence* ("Guia de Inteligência Artificial para Líderes de Igreja") foi publicado em dezembro. O vice-presidente JD Vance chamou a atenção recentemente ao descrever a tendência das máquinas de concordar excessivamente com seus usuários como algo "meio satânico".
Patrece M. Lucas, conselheira de saúde mental em Detroit, assistiu à entrevista de Coxon com Anderson Cooper, da CNN, na terça-feira, e enviou o link do trecho para seus grupos de conversa. Lucas compartilhou o vídeo para reforçar seu argumento de que as pessoas confiam excessivamente na IA e deveriam limitar o uso da tecnologia. "Um pequeno grupo disse: 'Sim, concordo com você', enquanto outros me acham a amiga estranha e não entendem ou não acreditam muito nisso", disse ela.
Leitores correram para uma página da Wikipedia sobre o risco existencial representado pela inteligência artificial; a página registrou um aumento de mais de dez vezes no número de acessos, estabelecendo um recorde para o artigo. Nate Soares, um cientista da área de IA e coautor do livro *If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All* ("Se Alguém a Criar, Todos Morrem: Por Que uma IA Sobre-humana Nos Mataria a Todos"), disse que sua editora o informou de que ele vendeu mais livros na quarta-feira do que costuma vender em uma semana.
Há anos, Soares vem alertando sobre os perigos de a IA causar a extinção da humanidade. "A mensagem nunca havia rompido a bolha até agora", disse ele.
Apesar dos alertas desta semana, a ideia de que a IA levará à extinção da raça humana é uma opinião minoritária entre os especialistas do setor. Mesmo alguns daqueles que afirmam que a IA poderia ser capaz de destruir a humanidade acreditam que se trata de um evento de baixa probabilidade e que medidas podem ser tomadas para impedi-lo. Tanto a Anthropic quanto a OpenAI afirmaram que levam a segurança a sério e que seus apelos por regulamentação governamental são genuínos.
Lucas também compartilhou o vídeo no LinkedIn e escreveu: "Não acho que as máquinas — ou os zumbis, aliás — vão ouvir nossas orações, mas vamos tentar..."
"Mundo de Matrix"
Nas empresas americanas, executivos começaram a se perguntar como os receios dos funcionários podem afetar a adoção interna de IA, disse Michael Domanic, chefe de IA da consultoria Section. Cerca de metade dos adultos americanos afirmou, no início deste ano, já ter usado chatbots em algum momento — um aumento de quase 50% em relação a 2024, segundo o Pew Research Center.
Erez Kaminski, CEO da Ketryx — empresa que vende software para automatizar a conformidade regulatória de fabricantes de dispositivos médicos —, disse que cerca de metade de seus clientes mencionou preocupações com a IA durante chamadas nesta semana. Um erro poderia resultar na administração do medicamento errado ou na invasão de um banco de dados central. Durante um jantar de equipe em Cambridge, Massachusetts, na quinta-feira, os funcionários decidiram revisar todos os sistemas de gestão de riscos.
Rakesh Shah, vice-presidente de produtos da empresa de cibersegurança Quest Software, afirmou que as postagens da Anthropic e a invasão da Hugging Face mudaram o teor das conversas com os clientes. Agora, os clientes estão se preparando para sofrer invasões e responder a violações de segurança, ao contrário da crença anterior de que não seriam alvos ou de que os hackers não teriam sucesso, disse ele.
Shah contou que seus pais, na casa dos 80 anos, perguntaram recentemente sobre os riscos de segurança, enquanto seus filhos adolescentes — durante o jantar em casa, na região de Austin, Texas — questionavam se o "mundo de Matrix" estaria próximo.
"Quando o assunto chega à mesa de jantar, ele certamente passará a ser discutido também pelo conselho de administração", disse Shah, ressaltando a importância de manter o controle humano sobre a IA nessas discussões.
Uma mensagem de uma ex-namorada
O aumento da atenção tem sido benéfico para pesquisadores que trabalham com segurança em IA, muitos dos quais estão sediados na Bay Area. Após meses alertando sobre os riscos de sistemas de IA capazes de extinguir a humanidade, eles viram um súbito aumento no interesse nos últimos dias.
Jeffrey Ladish, diretor executivo da Palisade Research — uma organização sem fins lucrativos dedicada à segurança em IA — e ex-consultor de segurança da Anthropic, notou a chegada de várias doações individuais na quarta e na quinta-feira, algo incomum para uma organização financiada principalmente por subsídios. Uma das doações foi de US$ 40 mil.
Ladish tentava acompanhar o ritmo frenético de atividades quando recebeu uma mensagem de sua ex-namorada, que lhe disse: "É exatamente o que você vem dizendo há anos".
Muitos executivos não estão em pânico. Os CEOs acompanham de perto as falhas da IA, por isso temores existenciais em relação à tecnologia parecem exagerados, afirmou Sean Byrnes, investidor e coach de executivos para empresas de tecnologia em estágio inicial. Em um evento realizado na noite de quinta-feira na Bay Area, nenhum dos cerca de doze CEOs com quem ele conversou levou a sério a ideia de que a IA poderia ameaçar a humanidade.
Aliados do governo Trump e do setor de tecnologia levantaram a hipótese de que a rede de organizações sem fins lucrativos focadas em riscos de IA teria colaborado com Coxon em sua saída, amplificando seus comentários para obter regulamentações favoráveis em Washington. Eles citaram vínculos anteriores entre organizações de pesquisa e funcionários da Anthropic e de outros laboratórios de IA. A Anthropic já havia declarado anteriormente que seus esforços em políticas e segurança são genuínos e que os riscos da IA são reais.
Contatado pelo *Journal* na quinta-feira, Coxon disse que consultou outras pessoas que deixaram empresas de IA por motivos semelhantes, mas que a decisão de sair foi exclusivamente sua. Ele afirmou ter ficado surpreso com a repercussão gerada após seu alerta.
"Acho que ninguém esperava que a sequência de mensagens viralizasse tanto; uma reação como essa não é algo que alguém consiga fabricar", disse Coxon.
Nenhum comentário:
Postar um comentário