Lideres do setor de IA pediram desaceleramento

A agência de notícias Reuters informou nesta terça-feira (29/09) que a empresa de desenvolvimento de IA — responsável pelo Claude, concorrente do ChatGPT — planeja alertar potenciais investidores em sua Oferta Pública Inicial (IPO) de que a tecnologia pode representar "riscos catastróficos ou existenciais para a humanidade", segundo um prospecto ao qual a agência teve acesso.

Apesar dos alertas contundentes, a empresa deve se tornar uma das mais valiosas do mundo quando abrir seu capital.

"Acho meio louco que as empresas continuem avançando no desenvolvimento dessas capacidades quando já vimos, nos últimos meses, incidentes que mostram que elas estão longe de ser seguras e controladas o suficiente", disse Jess Whittlestone, consultora sênior de políticas de IA do Centre for Long-Term Resilience, um centro de estudos especializado no tema.

Bill Gates

Bill Gates alerta que IA pode causar 'um bilhão de mortes' e defende legislação para a tecnologia. O Fundador da Microsoft defende salvaguardas além da regulamentação e afirma que nunca houve uma tecnologia tão poderosa nas mãos de pessoas mal-intencionadas.

“A IA é certamente poderosa o suficiente para desencadear eventos que causem um bilhão de mortes”, disse Gates. "Portanto, embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA."

A OpenAI anunciou que não lançará seu novo modelo de inteligência artificial devido a preocupações com segurança. O sistema GPT-6.1 Astra, que realiza tarefas como navegar na internet e usar aplicativos de forma autônoma, "não atingiu exatamente o nível exigido" pelos padrões da empresa, segundo Saachi Jain, responsável pelos sistemas de segurança da OpenAI.

A empresa responsável pelo ChatGPT também divulgou uma atualização sobre incidentes ocorridos em junho, mas que só se tornaram públicos na semana passada. Na ocasião, seus modelos acessaram sites e sistemas do governo australiano sem autorização.

O caso ocorre em meio ao aumento de incidentes envolvendo modelos de grandes empresas de IA, intensificando o debate sobre os riscos apresentados pela tecnologia — enquanto a Anthropic, empresa rival da OpenAI, reforça suas preocupações de que a IA possa representar uma ameaça à humanidade, à medida que se prepara para abrir seu capital.