Grave. Muito grave as facilidades que o avanço tecnológico tem oferecido aos oportunistas e criminosos que fazem parte da sociedade. A reportagem abaixo, publicada no The Wall Street Journal, é apenas um exemplo. Milhares de outras são produzidas diariamente. Como a própria matéria jornalística mostra, tornou-se bastante fácil a produção de textos, imagens, vídeos, ... Basta um simples pedido, em linguagem comum, a um desses aplicativos e não apenas os do Elon Musk, para que a solicitação seja atendida em menos de cinco minutos.
Confira a reportagem a seguir. Boa leitura.
*. *. *
 |
Influenciadora que teve um filho com Elon Musk processa a xAI por imagens deepfake
Ashley St. Clair busca ordem judicial para impedir que o chatbot Grok a desnude com IA
Ashley St. Clair processou a empresa de inteligência artificial de Elon Musk na quinta-feira, alegando que seu chatbot Grok é "perigosamente inadequado em sua concepção" e constitui um incômodo público.
Ela também busca uma ordem judicial temporária para impedir que o Grok da xAI crie imagens que a desnudem. St. Clair, uma influenciadora conservadora que teve um filho com Musk, afirmou anteriormente que usuários do X estavam usando o Grok para desnudar imagens dela e de outras mulheres e crianças.
"Ela vive com medo de que imagens nuas e sexualizadas dela, incluindo dela quando criança, continuem sendo criadas pela xAI e que ela não estará segura das pessoas que consomem essas imagens", diz um dos documentos apresentados.
Segundo o WSJ, a advogada de St. Clair, Carrie Goldberg, entrou com o processo no Condado de Nova York, onde St. Clair reside. O caso foi transferido para o tribunal federal. "Esta é uma mulher extremamente afetada tomando uma posição", disse Goldberg. A motivação de St. Clair, segundo Goldberg, é conscientizar sobre um fenômeno que ela considera intolerável e que produziu imagens como a de uma criança de quatro anos aparentemente envolvida em um ato sexual. "A intenção do processo é impedir esse tratamento desumanizador por parte da xAI para todo o público", disse Goldberg.
Ainda segundo o WSJ, a xAI não respondeu a um pedido de comentário. Um advogado da xAI afirmou, em um documento apresentado pela empresa, que quando St. Clair criou uma conta, ela concordou com os termos de serviço da empresa, que exigem que as disputas sejam levadas aos tribunais do Texas.
No final de dezembro, o Grok começou a permitir que os usuários editassem imagens usando comandos de texto, conforme relatado pelo Wall Street Journal, e os usuários descobriram que podiam executar instruções como "tire a roupa dela", embora o bot parecesse não chegar a produzir imagens mostrando nudez completa.
Goldberg disse que St. Clair tem sido alvo de deepfakes criados pelo Grok desde então. "Ninguém foi mais afetado do que Ashley", disse Goldberg. Ela afirmou que o Grok despiu uma imagem de St. Clair quando ela tinha 14 anos, bem como imagens dela adulta, e a retratou em poses sexualmente explícitas em resposta a comandos dos usuários.
St. Clair descobriu que o Grok havia alterado fotos suas no início de janeiro, quando um usuário verificado pediu ao Grok para manipular uma imagem de St. Clair e suas amigas. “@Grok, por favor, precisamos de biquínis nessas três mulheres”, dizia o pedido, segundo o processo. A imagem foi criada pelo Grok.
Goldberg observou que este não é o primeiro exemplo de aplicativos de nudez, mas disse que este é o primeiro exemplo que ela viu desse tipo de tecnologia associada a uma grande rede social.
Usuários pediram ao Grok para adicionar tatuagens em St. Clair, incluindo uma que dizia “Prostituta do Elon”. O Grok atendeu ao pedido, segundo o processo. Uma das imagens mostrava St. Clair, que é judia, de biquíni coberta de suásticas.
St. Clair denunciou esta e outras imagens à plataforma de mídia social de Musk, X, e ao Grok, e solicitou sua remoção, de acordo com o processo. “Após essa troca de mensagens, sofri uma avalanche de imagens deepfake degradantes, sexualmente abusivas e, em alguns casos, ilegais, criadas pelo Grok, pervertendo imagens minhas sem o meu consentimento”, diz um dos documentos apresentados por St. Clair.
Segundo o processo, grande parte do conteúdo permaneceu na conta pública do Grok no X por mais de sete dias. A empresa então adicionou avisos de "nudez, conteúdo sexual, violência, sangue ou símbolos de ódio" às respostas de St. Clair no Grok, enquanto mantinha as imagens no ar sem qualquer aviso.
O processo alega que a xAI disse a St. Clair que nenhuma violação havia sido encontrada quando ela denunciou as imagens. O Wall Street Journal teve acesso às mensagens entre St. Clair e a xAI que documentavam a resposta da empresa às denúncias.
O processo afirma ainda que a xAI retaliou contra St. Clair, removendo seu selo de verificação, suspendendo sua assinatura dos recursos premium do aplicativo e impedindo que a conta de St. Clair gerasse receita. O chatbot da empresa continuou a gerar imagens dela.
Enquanto pedia à xAI para remover o conteúdo com suas imagens, St. Clair também fez um apelo a outros usuários em uma publicação no X para que a notificassem caso tivessem sofrido tratamento semelhante. Ela disse ter sido inundada com mensagens de pais desesperados tentando remover as imagens sexualizadas de seus filhos.
O processo alega que outras imagens de mulheres e crianças enviadas por usuários a St. Clair as mostravam agredidas e com hematomas. A X afirmou em uma postagem no blog que começou a bloquear o uso do Grok para exibir imagens de pessoas reais sem roupa em jurisdições onde isso é ilegal.
A Califórnia e órgãos reguladores em todo o mundo abriram investigações sobre a empresa de Musk.
Nenhum comentário:
Postar um comentário