IA - Aplausos e preocupações. Fique ligado

As redes sociais atualmente se prestam a oferecer diversos serviços de utilidade para o usuário. Infelizmente permitem também o seu uso para malandragem, fofoca, desinformação, estelionato, vícios em várias coisas inclusive deixando pessoas endividadas, envolvidas em tráfico de drogas e por aí vai ... Portanto, ao usá-las o usuário tem que prestar muita atenção para não cair nas falsas tentações. As pessoas precisam saber o que elas seguem e compartilham nas redes sociais. As pessoas não precisam seguir A ou B que postam conteúdos, um monte de baboseiras, que não possuem nenhuma relevância para a vida de cada um ou para a sociedade em geral.

Mas não fica aí. A próxima rodada de discussão sobre os resultados dos avanços tecnológicos será (ou já está sendo) sobre o uso da inteligência artificial generativa (IA). Com o seu poder para gerar qualquer coisa que se imagine - pro bem e pro mal - textos, prescrições médicas, fotos, vídeos, músicas … Alguns desses conteúdos já estão postados nas redes sociais.

Por exemplo. fotos que deixaram as pessoas alegres, bonitas, profissionais, ... (ótimo). Nos casos vistos estavam presentes os traços e/ou perfis originais. Mas nada impede que com criminosos seja feito o contrário, com a falsificação do conteúdo gerado através da própria IA.

No âmbito da fotografia, a IA é capaz de realizar várias coisas, entre elas criar imagens com base em umas poucas palavras, testar um penteado, imitar o estilo artístico dum artista famoso ou apagar elementos indesejados de uma imagem. A conversão de textos em vídeos também é rápida (poucos minutos) com as ferramentas já disponíveis para criação, geração e edição de vídeo com tecnologia IA.

Com esse poder, imagine agora o que - com essa ferramenta - se fará com objetivos criminosos. Por exemplo, hoje a tecnologia deepfake tem sido usada para gerar vídeos pornográficos de vingança.  A tecnologia aumenta a eficiência da atividade criminosa. Ela permite que os infratores atinjam um número maior de pessoas e os ajuda a serem mais plausíveis.

Como ilustração, veja quatro usos preocupantes que criminosos podem fazer com o uso da IA.

Phishing

Técnica que visa obter seus dados pessoais como número da identidade, senhas bancárias, número de cartão de crédito — enviadas em forma de spam que são mal escritos e facilmente detectados. Com a ajuda de IA é possível escrever um texto mais crível, o que é a chave para obter informações de uma vítima.

Interações automatizadas

Um dos primeiros usos das ferramentas de IA foi automatizar as interações entre clientes e serviços por meio de texto, mensagens de bate-papo e telefone. Isso permitiu uma resposta mais rápida aos clientes e uma eficiência empresarial otimizada. Seu primeiro contato com uma organização provavelmente será com um sistema de IA, antes de falar com um humano.

Os criminosos podem usar as mesmas ferramentas para criar interações automatizadas com um grande número de vítimas em potencial, em uma escala que não seria possível se fosse realizada apenas por humanos.

Deepfakes

A IA é muito boa em gerar modelos matemáticos que podem ser "treinados" em grandes quantidades de dados do mundo real, tornando esses modelos melhores em uma determinada tarefa. A tecnologia deepfake em vídeo e áudio é um exemplo disso. Um ato de deepfake chamado Metaphysic demonstrou recentemente o potencial da tecnologia ao revelar um vídeo de Simon Cowell cantando ópera no programa de televisão America's Got Talent.

Força bruta

Outra técnica usada por criminosos chamada “força bruta” também pode se beneficiar da IA. É aqui que muitas combinações de caracteres e símbolos são testadas sucessivamente para ver se correspondem às suas senhas. É por isso que senhas longas e complexas são mais seguras; elas são mais difíceis de adivinhar por esse método. 

*  *  * 

Não devemos ter medo da IA, pois ela pode trazer benefícios reais para a sociedade. Mas, como acontece com qualquer nova tecnologia, a sociedade precisa se adaptar e entendê-la.

Como indivíduos, devemos ser proativos em nossas tentativas de entender a IA, e não complacentes.  Precisaremos considerar como verificar a validade do que estamos lendo, ouvindo ou vendo. Esses atos simples ajudarão a sociedade a colher os benefícios da IA, garantindo que possamos nos proteger de possíveis danos.

Fique ligado.