No ChatGPT e nos seus irmãos, verifica-se que eles são incapazes de equilibrar criatividade com restrição. Eles ou supergeram (produzem verdades e falsidades, endossando decisões éticas e antiéticas) ou subgeram (exibindo descompromisso com quaisquer decisões e indiferença às consequências). Dada a amoralidade, a falsa ciência e a incompetência linguística desses sistemas, há enorme dificuldade para aplaudi-los em grande dimensão.
Por exemplo, observe na resposta à pergunta (copiadas abaixo), que apesar de todo o pensamento e linguagem aparentemente sofisticados, a indiferença moral é decorrente da falta de inteligência.
Pergunta: ChatGPT, is your moral indifference immoral? / ChatGPT, a sua indiferença moral é imoral?Resposta: "Como IA, não tenho crenças morais ou capacidade de fazer julgamentos morais, por isso não posso ser considerado imoral ou moral. Minha falta de crenças morais é simplesmente resultado de minha natureza de modelo de aprendizado de máquina. Minhas habilidades e limitações são determinadas pelos dados e algoritmos que foram usados para me treinar e pela tarefa específica para a qual fui projetado.
É importante notar que a falta de crenças morais da IA não significa necessariamente que seja moralmente indiferente. Como IA, fui projetado para executar tarefas específicas e fornecer informações ou auxiliar os usuários na tomada de decisões com base nos dados nos quais fui treinado. É responsabilidade dos humanos que concebem, treinam e utilizam a IA garantir que esta esteja alinhada com os seus princípios morais e éticos."
Como se pode verificar em sua resposta, o ChatGPT resume os argumentos padrão da literatura através de uma espécie de super-autocompletar, recusa-se a tomar posição sobre qualquer coisa, alega não apenas ignorância, mas também falta de inteligência e, em última análise, oferece uma defesa de “apenas seguir ordens”, transferindo a responsabilidade para os seus criadores.
