Novos demônios

Há uma cena de “Oppenheimer”, de Christopher Nolan, que me remeteu a Carl Sagan e ao seu “O Mundo Assombrado pelos Demônios”, suscitando reflexões sobre as relações entre ciência e fé. Após o teste bem-sucedido da bomba atômica em Los Alamos, Oppenheimer, o “pai” de uma das mais sofisticadas realizações da ciência moderna, recorre a uma passagem sagrada do hinduísmo sobre o fim do mundo: “Agora eu me tornei a morte, o destruidor de mundos”. Por que um cientista tão brilhante, diante do triunfo de sua obra, passa a carregar um remorso que o acompanharia pelo resto da vida e busca na religião as palavras para expressá-lo? Não seria mais coerente permanecer apenas no terreno da racionalidade científica, ainda que a ciência política da época justificasse as bombas como instrumento para uma paz duradoura? Talvez não por acaso a biografia que inspirou o filme traga, já no subtítulo, a referência ao triunfo e à tragédia do “Prometeu americano”.

Para sustentar sua defesa da ciência, Sagan descreve, com rigor e riqueza de exemplos, diversas formas de misticismo e seus efeitos deletérios, como a perseguição e execução de mulheres acusadas de bruxaria na Idade Média e no início da Modernidade. Critica também as pseudociências e os fenômenos que ganhavam força nos Estados Unidos, como os relatos de OVNIs e supostos raptos por alienígenas. Para ele, tratava-se de mistificações que comprometiam a capacidade da ciência de compreender e melhorar a vida humana. Isso não significa, porém, que a ciência devesse ser objeto de devoção. Ao contrário: seu progresso depende justamente da crítica permanente.

Hoje, os alertas partem da própria comunidade científica. A preocupação não recai mais sobre entidades sobrenaturais, mas sobre a inteligência artificial. Um dos problemas mais debatidos é o do alinhamento entre as decisões de sistemas autônomos e os interesses humanos. No conhecido experimento mental do “maximizador de clipes de papel”, difundido por divulgadores científicos como Pedro Loos, uma IA encarregada unicamente de aumentar a produção de clipes poderia, em tese, converter todos os recursos disponíveis, inclusive os corpos humanos, em matéria-prima para cumprir seu objetivo, justamente por não possuir critérios morais próprios. Em cenário ainda mais inquietante, cogita-se a possibilidade de sistemas inteligentes assumirem funções relacionadas ao controle de arsenais nucleares.

O despertar moral de Oppenheimer parece apontar, ao menos em minha leitura, para a necessidade de um movimento de ponderação semelhante ao defendido por Joseph Ratzinger e Jürgen Habermas em seu célebre debate sobre razão e religião. Ambos rejeitam a narrativa segundo a qual a modernidade implicaria uma simples substituição da fé pela razão e propõem, em vez disso, um processo de aprendizado mútuo. A fé serviria para conter impulsos fundamentalistas e violentos; a razão, por sua vez, necessitaria de referências éticas capazes de orientar o uso de suas próprias conquistas. Como observou Ratzinger, a ciência pode produzir praticamente tudo, inclusive os meios para a autodestruição da humanidade, mas não é capaz de gerar, por si só, os valores que orientam o emprego desse poder. Nesse sentido, retomando uma reflexão associada a John Rawls, a tradição religiosa continua a constituir importante reserva moral para a vida pública, tendo desempenhado papel relevante em movimentos históricos de afirmação dos direitos civis.

Sem esse aprendizado recíproco, talvez cheguemos ao inverso do inventário elaborado por Sagan: não mais demônios imaginários combatidos pela ciência, mas demônios produzidos por ela. Ao menos duas perguntas permanecem. Uma inteligência artificial seria capaz de colocar em risco a própria existência, como nós, reiteradamente, fazemos? Ou carregaria cicatrizes morais capazes de gerar arrependimento, como ocorreu com Oppenheimer? Afinal, em um mundo onde Dostoiévski estivesse morto, tudo seria permitido.

EVANDRO PELARIN

Juiz da Vara da Infância e Juventude de Rio Preto. Escreve quinzenalmente neste espaço às terças-feiras