Os riscos na produção da ciência

Poderá parecer confuso ao leitor o traçado lógico que pretendo fazer entre a marca que a energia nuclear deixou no mundo e um outro risco muito recentemente criado e acessível a todos nós: a Inteligência Artificial Generativa – IAG.

A análise não terá como objetivo demonizar nenhuma dessas maravilhas do intelecto humano, apesar do invento da bomba atômica no Projeto Manhattan, conduzido pelo judeu Julius Robert Oppenheimer (1904-1967) e magistralmente retratado no longa-metragem (3 horas), dirigido por Christopher Nolan e premiado com 7 estatuetas do Oscar em 2024; no mesmo sentido a Inteligência Artificial evoluída a partir das pesquisas de Warren McCulloch e Walter Pitts (1943), Alan Turing (1950), John McCarthy (1956), considerada a “Quarta Revolução Tecnológica”, que agora alcança o que é chamado de redes neurais artificiais.

No artigo “Desafios para a educação na Era da Inteligência Artificial”, o professor de Filosofia da Unisinos, Celso Candido de Azambuja, conclui: “A nosso ver, trata-se, de agora em diante, em certo sentido, de um retorno criativo e atualizado à formação clássica proposta pelo ideal grego do desenvolvimento intelectual, crítico e criativo, com foco na educação moral e estética da juventude, a famosa kalokagathia, uma vez que grande parte dos processos produtivos - e, também decisórios - e educativos estarão cada vez mais, por assim dizer, nas mãos dos sistemas de IA”.

Longe de demonizar o emprego de recursos tecnológicos, já em 2002, como professor de Direito, eu publicava texto na Revista Prática Jurídica (Editora Consulex, Brasília) recomendando: “A saída ao mestre é orientar as pesquisas na rede e jamais lutar contra ela”. Afinal, se naqueles tempos se popularizavam a internet e os buscadores, nos tempos da Covid-19 seriam essas ferramentas as responsáveis por manter o ritmo do ensino virtual durante o longo período de isolamento social.

Mais ainda, essas ferramentas e a pandemia foram as responsáveis pelo novo modelo de trabalho remoto e, no meio judicial, pelo aprimoramento do fluxo nas plataformas do processo eletrônico e pela economia de recursos públicos e dos próprios jurisdicionados, conquistados pelas audiências virtuais nos processos judiciais; particularmente na construção de petições, sentenças e acórdãos, os repositórios jurisprudenciais e doutrinários virtuais tomaram o lugar das pilhas de livros de leitura e consulta obrigatória por advogados, promotores de justiça e juízes.

Daí, a importância da recente Portaria CNPq 2.664, no sentido de estabelecer parâmetros de integridade na atividade científica, baseada em ações de educação, prevenção, apuração e sanção, no uso de Inteligência Artificial Generativa em qualquer fase da pesquisa, prevenindo seu mal uso na ciência, estabelecendo a rigidez de respeito aos princípios éticos e proibindo a submissão de conteúdo gerado por IAG como se fosse de autoria humana.

O risco atual não é só ético (autoria versus plágio), mas pedagógico e prático. Na ética o plágio se equipara à odiosa apropriação indébita do pensamento e descoberta alheios, enquanto, no campo pedagógico, a tentação da informação rápida gera letargia para o pensamento elaborado do próprio indivíduo (não se cria, se copia). Os resultados são, num curto prazo, erros que vêm sendo recorrentes nos peticionamentos e nas decisões judiciais e administrativas elaboradas pela inteligência artificial.

Num longo prazo, o risco é o de substituição do pensamento humano pelo elaborado pela máquina, ditando os destinos da humanidade, como o fizeram a bomba atômica em 1945 e a Planta Genérica de Valores de Rio Preto em 2025.

Azor Lopes da Silva Júnior

Advogado, professor de direito e coronel da Polícia Militar