Mundo Um aplicativo permite a manipulação realista de imagens, como a montagem de filmes pornográficos em rostos de celebridades, e já traz preocupação nos Estados Unidos
Por Redação O Sul | 11 de março de 2018
A cena começa em uma sala com um sofá vermelho, um vaso de flores e quadros inócuos como os usados para decorar o consultório de um terapeuta. Dentro da sala, Michelle Obama ou alguém muito parecido com ela. Usando um top decotado, que deixava visível um sutiã preto, ela se contorcia lascivamente diante da câmera, ostentando seu sorriso inconfundível. E depois a dublê da ex-primeira-dama dos EUA começou a tirar a roupa.
O vídeo, veiculado no fórum online Reddit, é um dos chamados “deepfakes” – vídeos falsos altamente realistas realizados com a ajuda de software de inteligência artificial. O vídeo foi criado usando um programa chamado FakeApp, que sobrepõe o rosto de Michelle Obama ao corpo de uma atriz de filmes pornográficos. A combinação é impressionante – quem não estivesse informado poderia facilmente imaginar que estava vendo Michelle Obama. As informações são do jornal The New York Times.
Até recentemente, usar um computador para criar um vídeo realista era uma empreitada trabalhosa e viável apenas em produções de grande orçamento em Hollywood ou para pesquisadores em instituições de ponta. Apps de mídia social como o Snapchat incluem tecnologia rudimentar para sobreposição facial.
Mas, nos últimos meses, uma comunidade de amadores começou a testar o uso de ferramentas mais poderosas, entre as quais o FakeApp – programa criado por um desenvolvedor anônimo, com base em software de fonte aberta desenvolvido pelo Google. O FakeApp torna relativamente simples a criação de manipulações realistas de imagens faciais, sem deixar muitos traços da adulteração, e a custo zero. Desde que uma versão do app foi divulgada no Reddit, em janeiro, ele foi baixado mais de 120 mil vezes, de acordo com seu criador.
Os “deepfakes” são uma das formas mais recentes de manipulação de mídia digital e uma das mais evidentemente abertas a trapaças. Não é difícil imaginar o uso dessa tecnologia para difamar políticos, criar vídeos pornô falsos para fins de revanche ou plantar provas contra alguém em casos criminais. Legisladores já começaram a expressar preocupação sobre o possível uso de “deepfakes” para sabotagem e propaganda política.
Mesmo em sites com padrões morais elásticos, como o Reddit, os “deepfakes” causaram preocupação. Recentemente, o FakeApp causou pânico depois que o site de notícias tecnológicas Motherboard reportou que usuários do app o haviam empregado para criar “deepfakes” pornográficos de celebridades.
O Pornhub, o Twitter e outros sites proibiram rapidamente os vídeos, e o Reddit fechou alguns dos grupos que distribuíam “deepfakes”, entre os quais um que tinha quase 100 mil membros.
Alguns usuários do Reddit defendem os “deepfakes” e culpam a mídia por exagerar a possibilidade de danos. Outros transferiram seus vídeos a plataformas alternativas, antecipando, com razão, que o Reddit reprimiria sua veiculação, nos termos das regras do site quanto a pornografia não consensual. E alguns poucos usuários expressaram reservas morais quanto à difusão desse tipo de tecnologia. Mas eles não pararam de fazer vídeos.
