No artigo anterior, chamamos a atenção para a necessidade de se alcançar o equilíbrio certo entre inovação e responsabilidade o que exige uma colaboração concertada, uma regulamentação flexível e um compromisso resoluto para garantir que as vantagens da IA estarão ao alcance de todos.
Aqui irá se tratar como a IA generativa está a provar ser uma força transformadora nas nossas economias e sociedades. O seu rápido desenvolvimento nos últimos meses sublinha o papel vital da IA como infraestrutura fundamental sobre a qual o panorama digital evoluirá — e reforça a necessidade de garantir a sua utilização responsável e ética.
A IA generativa sintetiza rapidamente grandes quantidades de informação para gerar conteúdos diversos em vários meios, fundindo a criatividade humana com a tecnologia. Este campo emergente apresenta muitas possibilidades para revolucionar o trabalho em todas as indústrias, automatizar tarefas, promover a criatividade e melhorar a tomada de decisões, equipando os seres humanos com ferramentas para promover o progresso.
Mas também levanta desafios, que vão desde considerações éticas e noções de justiça até debates mais profundos sobre inteligência e receios de se alcançar a singularidade tecnológica, um futuro hipotético em que a tecnologia se torna incontrolável.
Apresenta riscos potenciais, incluindo a deslocação de empregos, a exploração maliciosa e o desalinhamento com os valores humanos, e levanta questões sobre a propriedade e os direitos de propriedade intelectual, os modelos abertos versus fechados, o equilíbrio entre inovação e segurança, a tensão entre modelos linguísticos nacionais multilingues e soberanos. Existe também a preocupação premente de que possa agravar a exclusão digital, conduzindo a uma distribuição desigual de oportunidades e recursos.
Essas incertezas realçam a urgência de criar quadros robustos de governança da IA para garantir resultados responsáveis e benéficos para todos. As estratégias de governança da IA devem avaliar as oportunidades e os riscos e propor caminhos a seguir que estabeleçam um equilíbrio delicado entre o aproveitamento do potencial da IA generativa e a salvaguarda de considerações éticas.
À medida que a tecnologia continua a avançar e a expandir o seu alcance, torna-se imperativo garantir que o seu desenvolvimento e implementação permaneçam firmemente alinhados com os princípios centrados no ser humano, impulsionando o progresso social a cada passo.
Instituições internacionais, incluindo as Nações Unidas, a OCDE, o processo de IA de Hiroshima do G7, o portal de IA do G20 e o Conselho conjunto UE-EUA de Comércio e Tecnologia, apresentaram propostas relativas a princípios éticos, transparência e segurança no desenvolvimento e implantação de tecnologias de IA.
Os países individuais também estão a explorar abordagens regulamentares, desde a auto-regulação liderada pela indústria até modelos formais de governança. Estas iniciativas têm sido promissoras — mas por si só não são suficientes. Abordar a rápida velocidade e o alcance crescente do desenvolvimento da IA generativa exige uma colaboração público-privada global.
No Brasil o assunto vem sendo discutido no Congresso Nacional desde 2020, com a propositura do Projeto de Lei nº 21-A, de 2020 (PL 21-A/2020). O trâmite do processo legislativo na Câmara dos Deputados, que correu em regime de urgência e sem ampla participação social, findou-se em 29 de setembro de 2021.
A proposta que seguiu para o Senado Federal foi alvo de críticas por não promover um arcabouço que permitisse, dentre outros, a proteção efetiva e operacionalização do exercício de direitos, a definição de obrigações e respectivos instrumentos de governança e um arranjo fiscalizatório.
O presidente do Senado converteu a minuta de substitutivo da Comissão no Projeto de Lei nº 2338/2023 em 6 de maio de 2023. O texto proposto reflete a continuidade dos debates, que avançaram a passos largos desde a propositura do PL n° 21-A/2020 na Câmara dos Deputados. Fenômenos globais, como a pandemia da Covid-19, a popularização de aplicações de IA generativa como o ChatGPT, Bard e esforços nacionais e internacionais para compreender os riscos e estruturas de governança para a IA puseram novos desafios que fizeram o debate se expandir.
O texto avança ao buscar a conciliação entre uma abordagem regulatória baseada em riscos e outra baseada em direitos fundamentais, incluindo propostas de gestão de risco e avaliação de impacto, ampliação de transparência e contestação de sistemas.
No próximo artigo aborda-se as sugestões que estão em discussão para uma IA responsável.
