Ícone do site Jornal O Sul

“Não se deve confiar 100% nas histórias criadas pela inteligência artificial”

O cientista Marcelo Gleiser é autor de obras sobre as fronteiras entre ciência, filosofia e espiritualidade. (Foto: Dartmouth College/Eli Burakiae)

O cientista Marcelo Gleiser fala com o mesmo entusiasmo sereno e comedido que se percebe em seus livros. Autor de obras sobre as fronteiras entre ciência, filosofia e espiritualidade, o pesquisador retoma a metáfora de “A Ilha do Conhecimento” para explicar por que, na história humana, cada avanço tecnológico sempre nos empurra para novas incertezas. Tudo isso tem relação com inovação na visão dele. “É da inovação dessas tecnologias que vêm os avanços da ciência”, diz Gleiser. Veja abaixo alguns trechos de entrevista que ele concedeu ao jornal O Estado de S. Paulo.

– Em seu livro ‘A Ilha do Conhecimento’, o senhor diz que, quanto maior nosso conhecimento, maior é o “oceano do desconhecido”. Como essa visão se relaciona com a inovação? “Parece ser um paradoxo do conhecimento. Se você olha para a história da ciência, quando aprendemos coisas novas, surgem novas perguntas que antes a gente nem podia ter antecipado. Um exemplo clássico disso é a invenção do telescópio, na Holanda, no início de 1600. Um deles caiu nas mãos do Galileu (Galilei). E, até aquele momento, ninguém tinha tido a ideia de usar esse instrumento para mapear os céus. Até então, a astronomia era feita só a olho nu. Quando Galileu apontou um telescópio para os céus, ele viu coisas que ninguém tinha visto antes. O instrumento ampliou a nossa visão da realidade e levou a perguntas que antes não poderíamos ter antecipado porque não tínhamos visto o suficiente dos céus. Isso vai se repetindo ao longo da história da ciência. À medida que isso acontece, você amplia o seu leque de conhecimento, mas também esse novo conhecimento leva a novas perguntas. E esse contexto é importante para a inovação. É da inovação dessas tecnologias que vêm os avanços da ciência. A gente aprende, cresce a ‘Ilha do Conhecimento’, mas cresce também essa fronteira entre o conhecido e o desconhecido.”

– A IA abre um leque de novas perguntas. Como ela se relaciona com esse avanço do conhecimento? “A diferença é que a inteligência artificial não é um amplificador de realidade no mesmo sentido que um telescópio ou um microscópio. É uma ferramenta de conhecimento. Ela não inventa nada de novo. Ela não amplia, de certa forma, a nossa visão de mundo. O que ela faz é usar os dados que a gente tem. Você tem um megatelescópio novo que descobriu um monte de galáxias. Você coloca isso na inteligência artificial e ela vai ajudar você a categorizar a forma dessas galáxias, a composição química, a rotação delas. É um instrumento ultraútil na pesquisa, uma espécie de megamáquina de calcular. Mas ela não está dando a possibilidade de apontar outro tipo de corpo celeste que a gente não tinha visto ainda. Ela já é um grande auxílio na pesquisa.”

– Quando diz que a IA não abre a nossa visão de mundo, há uma certa crítica? “Tem de fazer uma distinção. Existe a inteligência artificial que já estamos usando, tipo o ChatGPT e todos esses chatbots. Ela é extremamente útil. Eu uso, todo mundo usa. Você tem acesso a uma informação muito rápida. Se bem que, e isso é importante, você não pode se fiar completamente, cegamente. Você tem de checar de onde estão vindo essas afirmações. O que me incomoda são as afirmações que dizem que a IA vai superar a inteligência humana. Existem erros categóricos nessa expressão.”

– Como assim? “Ela não é uma inteligência. É uma máquina que usa cálculo estatístico para fazer análise de dados. É uma espécie de apoio ao pensamento humano. Não é outra forma de pensamento humano. Ela não tem consciência de que existe. Ela não está viva, não sabe o que significa ficar viva. Você não pode programar emoções como dor ou amor. O perigo não é a inteligência artificial, mas como as pessoas, os humanos, vão usá-la. Como toda tecnologia, ela pode ser usada para o bem ou para o mal. Você pode usá-la para tentar encontrar a cura do câncer de pâncreas ou para bloquear o computador que controla os semáforos de São Paulo, um tremendo caos.”

– A IA vai limitar o avanço da nossa inteligência? Vai nos deixar mais burros? “A inteligência artificial vai nos tornar mais eficientes. Já está acontecendo. Acabei de voltar da China e de Singapura. Lá, a inovação com inteligência artificial explodiu. Está em tudo quanto é lugar – todas as atividades urbanas de controle de tráfego, aviões, drones. Isso é um benefício da invenção. Mas também tem custo da liberdade pessoal gigantesca: você está sendo vigiado, mapeado, controlado, 24 horas. Quando usa o chatbot, ela não está mais construindo uma resposta, pegando os dados necessários para construir uma narrativa. Isso vai levar a uma perda na capacidade de contar histórias. E isso é um problema sério para a humanidade. Somos animais que contam histórias. Se nos fiarmos nessas máquinas para criar essas histórias com dados que a gente nem conhece, a gente vai dar uma emburrecida sim. Vejo ensaios que alunos escreveram para mim na mão, ali na marra, e os outros que os alunos usaram o chatbot.”

– A diferença é grande? “A diferença é enorme e clara. E é embaraçante para o aluno. Sem computador, as notas caíram 20%, mas eles aprenderam mais. Aprendizado é ativo, não passivo. Se deixar a máquina fazer a atividade, você não vai aprender nada. É um perigo sério. Não saber pensar criticamente sobre determinado assunto é muito ruim.” As informações são do jornal O Estado de S. Paulo.

Sair da versão mobile