Viver numa época de grande perigo e promessa é vivenciar tanto a tragédia quanto a comédia

A história do mundo sempre foi de mudanças. Todas elas trouxeram avanços bem significativos para sociedade. Infelizmente, grandes malefícios também. Com a IA não tem sido e não será diferente. Aliás, IA não é novidade. Ela é estudada há quase um século. De início só na academia, em termos teóricos, pois não havia computadores com capacidade de armazenamento e processamento de informações, que se tornou possível apenas recentemente.

Mas é bom recordarmos o que disse, certa vez, o renomado escritor Jorge Luis Borges:  "viver numa época de grande perigo e promessa é vivenciar tanto a tragédia quanto a comédia, - com a iminência de uma revelação - na compreensão de nós mesmos e do mundo".

Portanto, os nossos avanços supostamente revolucionários na IA são de fato motivo de preocupação e de otimismo. Otimismo porque a inteligência é o meio pelo qual resolvemos problemas. Preocupação porque tememos que a variedade mais popular e moderna de I.A. — aprendizagem automática — degradará a nossa ciência e rebaixará a nossa ética ao incorporar na nossa tecnologia uma concepção fundamentalmente falha de linguagem e conhecimento.

ChatGPT da OpenAI, Gemini do Google e Sydney da Microsoft são maravilhas do aprendizado de máquina. Grosso modo, eles pegam enormes quantidades de dados, procuram padrões neles existentes e tornam-se cada vez mais proficientes na geração de resultados estatisticamente prováveis — como linguagem e pensamento aparentemente humanos.

Esses programas foram aclamados como os primeiros vislumbres no horizonte da inteligência artificial generativa (*)  – aquele momento há muito profetizado em que as mentes mecânicas ultrapassam os cérebros humanos, não apenas quantitativamente em termos de velocidade de processamento e tamanho da memória, mas também qualitativamente em termos de percepção intelectual, criatividade artística, e todas as outras faculdades distintamente humanas.

Esse dia pode chegar, mas o seu amanhecer ainda não está nascendo, ao contrário do que se pode ler em manchetes hiperbólicas e de investimentos imprudentes. A revelação Borgesiana de compreensão não ocorreu e não ocorrerá – e, afirmamos, não pode – ocorrer se programas de aprendizado de máquina como o ChatGPT continuarem a dominar o campo da IA. Por mais úteis que estes programas possam ser em alguns domínios restritos, sabemos, pela ciência da linguística e pela filosofia do conhecimento, que eles diferem profundamente da forma como os humanos podem raciocinar e usar a linguagem. Essas diferenças impõem limitações significativas ao que esses programas podem fazer, codificando-os com defeitos inerradicáveis.

Como disse Noam Chomsky, "a mente humana não é, como o ChatGPT e seus semelhantes, um pesado mecanismo estatístico para correspondência de padrões, empanturrando-se de centenas de terabytes de dados e extrapolando a resposta de conversação mais provável ou a resposta mais provável a uma questão científica. Pelo contrário, a mente humana é um sistema surpreendentemente eficiente e até elegante que opera com pequenas quantidades de informação; não procura inferir correlações brutas entre pontos de dados, mas criar explicações".

Na verdade, "os programas de IA estão presos numa fase pré-humana ou não-humana da evolução cognitiva. A sua falha mais profunda é a ausência da capacidade mais crítica de qualquer inteligência: dizer não apenas o que é o caso, o que foi o caso e o que será o caso – isso é descrição e previsão – mas também o que não é o caso e o que poderia acontecer. e não poderia ser o caso. Esses são os ingredientes da explicação, a marca da verdadeira inteligência”, escreveu há pouco tempo Ruru Kuo.

(*) - Atenção: existem outros tipos de IA.