Geral Inteligência artificial aprende a escrever fake news para combater fake news
Por Redação O Sul | 23 de agosto de 2019
“Todos os produtos de carne estarão proibidos nos supermercados britânicos como parte de um banimento do país devido ao bem-estar animal, Brexit, questões sociais e dados relacionados à saúde, diz o jornal The Telegraph. Isso inclui tudo, de linguiças a hambúrgueres e churros.”
O parágrafo acima, totalmente falso, foi escrito por um sistema de inteligência artificial. Ele faz parte de um texto completo, com pé e cabeça, criado em inglês. São nove parágrafos que simulam a escrita de um correspondente do jornal americano New York Times.
A ferramenta, batizada Grover, foi construída por pesquisadores da Universidade de Washington com o propósito de combater fake news geradas em massa por meio de inteligência artificial. Ela está disponível online gratuitamente tanto para fabricar quanto para detectar textos falsos, um a um.
O Grover, ao tentar identificar textos falsos gerados por ele próprio, acertou 92% das vezes nos testes iniciais. (Foto: Reprodução)
Pode parecer contrassenso criar um robô que fabrica fake news em massa se é justamente isso que se pretende combater. Rowan Zellers, um dos pesquisadores envolvidos no projeto com outros seis colegas, explica que esse é o primeiro passo para criar uma proteção.
“É um princípio da cibersegurança. Quando a gente pensa num ataque [como campanhas massivas de propaganda], primeiro temos que entender como ele funcionaria e estudar o inimigo. Fazer uma análise da ameaça”, diz o estudante de pós-graduação em ciência da computação. Em outras palavras, é como uma vacina contendo o vírus que precisa combater.
Nesse preocupante cenário de propagação de fake news, porém, Zellers dá uma boa notícia. Segundo ele, redes massivas com este tipo de conteúdo gerado automaticamente não são, ainda, uma ameaça. A ideia é estar à frente do que imaginam ser um futuro possível das fake news.
No teste online para gerar reportagens falsas, é necessário que sejam pré-definidas manualmente algumas informações, como título (sim, você inventa qualquer um) em inglês. É possível optar por ditar, por exemplo, até o repórter e veículo de publicação (o que modifica o estilo do texto de um mesmo título proposto).
A Folha de S.Paulo testou a criação de vários títulos irreais. Alguns resultados geraram materiais que, apesar de mentirosos, criavam uma argumentação lógica, usando fatos plausíveis para os dias atuais (um citava a crise ambiental no governo Bolsonaro ao explicar como a Amazônia seria vendida para a China). Outros tinham palavras um pouco fora de lugar, mas que um olhar menos atento ou de alguém pouco familiarizado com o assunto deixaria facilmente passar.
O fato de ter transformado o Grover em um sistema público, que permitiria o uso por mal intencionados em gerar conteúdo falso, não preocupa Zellers.
“As pessoas temem que as notícias falsas geradas automaticamente possam se tornar dominantes na internet, mas a verdade é que, quanto mais conteúdo desse tipo, mais fácil é para o robô identificá-los como falso”, diz o cientista.
No “treinamento” da inteligência artificial, o grupo de pesquisadores alimentou o sistema com milhões de textos verdadeiros de mais de 5.000 fontes de notícias (todas em inglês) e com textos falsos produzidos pelo próprio Grover. Com mais conteúdo para analisar, eles poderiam melhorar a precisão.
A chave para a detecção do conteúdo falso, perceberam, não está na verificação da veracidade dos fatos — como normalmente fazem jornalistas para rebater fake news criadas por seres humanos —, mas na forma como os textos são construídos.
Zellers explica que um robô, ao escrever um texto, posiciona palavra por palavra de acordo com a probabilidade de um termo específico seguir outro naquele contexto. Essa chance é calculada a partir do conteúdo que a ferramenta avaliou no processo de treinamento.
É como se a ferramenta entendesse que a palavra “presidente” seria mais provavelmente seguida por termos como “Bolsonaro”, “Trump” ou “Lula” e menos provavelmente por “estetoscópio” ou “andorinha”.
Em humanos, explica Zellers, sequências consideradas improváveis e novas são bem mais comuns.
O Grover, ao tentar identificar textos falsos gerados por ele próprio, acertou 92% das vezes nos testes iniciais. Posteriormente, com mais treinamento, chegou a 98%. Contra as fake news criadas pela OpenAI, a taxa foi de 96% — a empresa sem fins lucrativos disse, em fevereiro, ter criado um robô tão bom que seria perigoso torná-lo público.
Segundo os cientistas, com mais dinheiro — o Grover custou U$ 25 mil, cerca de R$ 100 mil — seria possível alcançar resultados ainda melhores e mais refinados.
Deixe seu comentário
Últimas
Brasil Rio Grande do Sul receberá mais de 120 mil doses de vacinas contra a dengue nos próximos dias
Brasil Fome atinge 8,6 milhões dos brasileiros. Patamar recua em 5 anos, mas é maior do que há uma década
Política Ex-ajudante de Bolsonaro pede acordo com a PGR e licença para ir a bodas de diamante dos pais
