Ciência “A inteligência artificial será muito mais poderosa que nós”, diz pesquisador
Por Redação O Sul | 13 de janeiro de 2022
Professor da Universidade da Califórnia em Berkeley (EUA), Stuart Russell é um dos maiores especialistas em ciências da computação e inteligência artificial (IA) no mundo. Foi vice-presidente do Conselho de IA e Robótica do Fórum Econômico Mundial e consultor da ONU para o controle de armas.
Um dos autores de “Inteligência artificial”, livro que é referência acadêmica central no tema, o britânico lança agora no Brasil “Inteligência artificial a nosso favor: como manter o controle sobre a tecnologia” (Cia. das Letras).
Em conversa por e-mail com o jornal O Globo, Russell destaca o avanço impressionante da IA em áreas como a de carros autônomos (“serão mais popularizados nesta década”), mas alerta para seu efeito na desigualdade: “Mais pessoas serão marginalizadas”.
Ele defende uma moratória para o uso da tecnologia na indústria armamentista: “Pode haver impacto devastador comparável ao de bombas nucleares”.
1-O que o surpreendeu mais no desenvolvimento da IA nos últimos 25 anos?
A locomoção com pernas feita de forma incrivelmente ágil, semelhante a um animal, demonstrada em 2010 pelo robô BigDog (da americana Boston Dynamics).
Até então os robôs com pernas eram lentos, rígidos, pesados, caíam ao menor distúrbio. Não mais. Nosso progresso também foi enorme em resolver problemas de raciocínio lógico e de planejamento, nos jogos, na percepção visual e na aprendizagem.
Tradução automática é outro problema difícil e antigo essencialmente resolvido para fins práticos. Os carros sem motoristas já são uma realidade e vão se difundir ainda mais nesta década.
Já robôs completamente autônomos e domésticos podem estar mais distantes, pois exigem muito mais flexibilidade para lidar com as complexidades, por exemplo, de um canteiro de obras ou de uma residência.
2-Em outubro, o senhor alertou oficiais da Defesa britânica sobre riscos da IA na indústria de armamentos. Algumas reportagens deram conta de que o senhor fez comparações com bombas nucleares.
Não disse textualmente que sistemas de IA armados poderiam acabar com a Humanidade, mas sim que grandes enxames de armas-robôs letais podem ter um impacto devastador comparável ao de armas nucleares. E seria muito mais “em conta”, mais fácil de se construir e de se usar.
Não haveria ruína radioativa e (como já se vê com os drones usados pelos EUA na Ásia) será possível matar apenas pessoas-alvo. Preciso dizer que me deu alegria, aliás, o Brasil, por meio de tratado internacional, apoiar a campanha para se banir estas armas autônomas letais.
3-Uma moratória de armas autônomas letais seria de fato possível com EUA e Rússia opostos à medida?
É preciso banir todas as armas que localizam, selecionam e atacam alvos humanos sem supervisão de um ser vivo responsável, ou seja, as autônomas letais. E banir a pesquisa, a criação, o desenvolvimento e o uso.
E mais: deveríamos ter mecanismos de fiscalização e punição na linha da Convenção Sobre as Armas Químicas (CWC, na sigla em inglês), de 1997, podendo exigir que fabricantes de determinados dispositivos interrompam imediatamente a produção e/ou façam uma seleção rigorosa de compradores em potencial.
Também se poderia incluir restrições no design de drones pilotados remotamente, para garantir que qualquer alteração de software não os transforme em armas autônomas.
No momento, de fato, EUA e Rússia bloqueiam o avanço de um tratado global. Há a possibilidade de que o tema, hoje em Genebra, seja levado para a Assembleia Geral da ONU, em Nova York, onde não haveria necessidade de unanimidade para aprovação. Ou, como no caso do Tratado de Ottawa, de 1997, que bane as minas terrestres, de ser negociado fora do âmbito da ONU.
4-Países como o Brasil, que sofrem com violência urbana, em áreas sem controle do Estado, deveriam estar atentos à proliferação deste tipo de armas?
No México, cartéis já estão usando drones controlados à distância para assassinar rivais. É uma questão de tempo para tentarem usar armas-robôs letais. Mas há um porém estratégico: se não for para o uso em escalas gigantescas, como em um ataque-enxame, não vejo vantagem no uso deste tipo de armamento inteligente.
Inclusive, o tratado que está sendo discutido bane o uso de armas-robôs apenas no caso de enfrentamento entre nações, não para uso local. É como o gás lacrimogêneo. Os países, individualmente, poderão banir a produção local, a importação e o uso em seu solo destas armas.
Não há hoje, no entanto, legislação voltada para o tema. A Comunidade Europeia bane qualquer decisão “tomada por algoritmo” que tenha “efeito legal similar” ao de um indivíduo, mas não trata de armamentos ou de ação que cause a morte de outra pessoa. Defendo a lógica de se estender a interpretação para armas inteligentes letais.
