Os riscos criados pela Inteligência Artificial (IA) podem parecer esmagadores. Contudo, apesar de serem reais, serão também administráveis e as pessoas saíram melhor no final. O mundo que já aprendeu como lidar com problemas causados por inovações revolucionárias, tais como a chegada da eletricidade, a própria revolução industrial, os automóveis, a energia nuclear, ... e mais recentemente a ascensão dos computadores e da Internet - todos esses momentos transformadores e de muita turbulência - com a IA não será diferente.
A integração de imagens geradas por IA
Em uma escala maior, os deepfakes gerados por IA podem ser usados para tentar influenciar uma eleição. É claro que não é preciso tecnologia sofisticada para semear dúvidas sobre o legítimo vencedor de uma eleição, mas a IA tornará isso mais fácil.
Já existem vídeos falsos que apresentam imagens fabricadas de políticos conhecidos. Quantas pessoas vão ver e mudar seus votos no último minuto? Isso pode fazer pender a balança, especialmente em uma eleição acirrada.
Nos EUA, com a campanha já em curso para a eleição presidencial de 2024, as imagens abaixo foram objeto de reportagem nesse contexto, pelo The Verge, que mostra um anúncio em vídeo apresentando o que parecem ser imagens geradas por IA do ex-presidente Donald Trump beijando e abraçando Anthony Fauci, o ex-assessor médico-chefe da Casa Branca cujo papel na prevenção e resposta à pandemia do COVID-19 o tornou um alvo das teorias da conspiração.
Em uma inspeção mais detalhada, os sinais reveladores da geração de IA tornam-se mais claros. As três imagens falsas não foram apenas retratadas sob o texto que dizia "Trump da vida real", mas também foram justapostas ao lado de três fotos reais e semelhantes de Trump e Fauci juntos - uma decisão que torna as fotos falsas ainda mais plausíveis.
“Foi sorrateiro misturar o que parecem ser fotos autênticas com fotos falsas”, disse Hany Farid, professor da Universidade da Califórnia, em Berkeley, à AFP, “mas essas três imagens são quase certamente geradas por IA”.
Nos EUA, já está em curso um debate sobre a ética do uso da tecnologia deepfake alimentada por IA em mensagens políticas, especialmente em casos como este em que o conteúdo sintético não foi abertamente rotulado como tal.
Certamente não se resolverá o problema de desinformação e deepfakes. Mas duas coisas as pessoas já aprenderam: uma delas é que são capazes de não aceitar tudo pelo valor de face. Lembram dos usuários de e-mail que prometia uma grande recompensa em troca de compartilhar o número do seu cartão de crédito. A maioria das pessoas aprendeu a olhar duas vezes para esses e-mails. A população vai agir do mesmo modo para os deepfakes.
A outra coisa é que a própria IA pode ajudar a identificar deepfakes. A Intel, por exemplo, desenvolveu um detector de deepfake , e a agência governamental DARPA está trabalhando em tecnologia para identificar se o vídeo ou o áudio foi manipulado.
Este será um processo cíclico: alguém encontra uma maneira de detectar a falsificação, outra pessoa descobre como combatê-la, outra pessoa desenvolve contra-contra-medidas e assim por diante. Não será um sucesso perfeito, mas também não se ficará desamparado.
Nenhum comentário:
Postar um comentário