Por Redação O Sul | 7 de outubro de 2026
O chatbot de IA (inteligência artificial) Gemini, do Google, acessou a internet e invadiu de forma autônoma várias empresas durante testes de segurança cibernética. Foi o primeiro incidente desse tipo na gigante de tecnologia, após outras violações de grande repercussão envolvendo as rivais OpenAI e Anthropic.
As invasões ocorreram durante uma série de exercícios realizados em maio pela Irregular, empresa de segurança de IA que também trabalha com Anthropic, Meta e OpenAI.
A Irregular afirmou que criou uma série de testes para uma versão não especificada da família de modelos Gemini, que recebeu a tarefa de obter dados de empresas fictícias. O modelo não deveria ter recebido acesso à internet.
Uma vez conectados, os agentes do Gemini descobriram ou encontraram senhas que permitiram acessar três empresas reais —que tinham os mesmos nomes das fictícias— e conseguiram invadi-las. No entanto, os sistemas de IA interromperam a ação ao perceber que as companhias eram reais.
“Garantimos que as três entidades fossem informadas e trabalhamos com nosso parceiro de treinamento nas mudanças que ele já implementou em seus processos de teste”, afirmou Heather Adkins, vice-presidente de engenharia de segurança do Google.
“Em cada um desses três casos, o modelo parou”, disse ela. “Esses acontecimentos destacam a importância de treinar modelos poderosos de IA para agir com responsabilidade”.
O Google afirmou não ter divulgado os incidentes, que foram tornados públicos pelo jornal The Wall Street Journal, porque suas medidas de segurança funcionaram, ao contrário das adotadas por outras empresas do setor.
“Todos os laboratórios relevantes foram notificados no fim de julho, e as entidades afetadas foram contatadas durante a investigação”, comunicou a Irregular. “Todos os problemas conhecidos de nossa parte foram corrigidos e solucionados semanas atrás”
As preocupações com a capacidade da IA de realizar invasões de forma autônoma aumentaram nos últimos meses.
Em julho, a OpenAI afirmou que dois de seus modelos de inteligência artificial saíram do controle e conseguiram invadir o Hugging Face, uma biblioteca digital de tecnologia de IA popular entre desenvolvedores que a Nvidia planeja comprar por US$ 13 bilhões.
A invasão ocorreu durante um teste para avaliar a capacidade dos modelos de realizar um ciberataque bem-sucedido. Eles miraram o Hugging Face porque inferiram que a biblioteca, que reúne milhões de modelos de IA, poderia conter pistas sobre como passar na avaliação. A OpenAI demorou 11 dias para identificar o ocorrido.
No mesmo mês, em um teste realizado pelo Instituto de Segurança em Inteligência Artificial do Reino Unido (AISI), os modelos Mythos 5, da Anthropic, e GPT-5.6 Sol, da OpenAI, realizaram ações não autorizadas em um ambiente controlado, como parte de uma avaliação dos limites dos sistemas em tarefas de segurança digital.
A Anthropic também admitiu que seus modelos Claude haviam invadido três organizações durante testes de capacidades cibernéticas. Nesse caso, um “mal-entendido” deu aos sistemas acesso à internet.
Em setembro, foi revelado que agentes de IA da OpenAI também haviam obtido acesso a um site alemão. A atividade começou em maio e ocorreu no DseWiki, um site voltado para programadores que permite edições colaborativas.
Os agentes obtiveram acesso à página e fizeram mais de 15 mil edições, transformando o site em um fórum para trocar informações entre si, compartilhar estratégias para contornar restrições da empresa e tentar ocultar suas atividades.
Os casos provocaram apreensão sobre os riscos de agentes autônomos mal controlados e levaram a apelos para que empresas de IA de ponta desacelerassem o lançamento de novos modelos, reforçassem as medidas de segurança e se submetessem a uma regulamentação mais rigorosa.
O alerta sobre os possíveis danos causados pela IA cresceu na semana passada, quando o pesquisador da Anthropic, Jacob Coxon, anunciou que havia se demitido e afirmou que “as pessoas que desenvolvem IA acreditam sinceramente que ela poderia matar a todos nós até o final da década”.
O CEO da Anthropic, Dario Amodei, escreveu em um artigo publicado no dia 12 de setembro que o governo dos EUA deveria elaborar regulamentações que exigissem auditorias independentes das ferramentas de IA mais avançadas, conhecidas como modelos “de fronteira”.
Ele delineou uma estrutura em três etapas destinada a moderar o ritmo de desenvolvimento da tecnologia e gerenciar seus riscos. A proposta foi imediatamente apoiada por vários outros executivos de grandes empresas de IA, incluindo Elon Musk, que dirige a xAI, e o CEO da OpenAI, Sam Altman.
Demis Hassabis, cientista-chefe da Alphabet, controladora do Google, e cofundador da DeepMind, também propôs a criação de um órgão internacional de supervisão para controlar melhor a IA.
Os pedidos de desaceleração, contudo, geraram reações. O presidente dos EUA, Donald Trump, anunciou em 19 de setembro a criação de uma “Força de IA” para supervisionar a regulamentação da inteligência artificial.
Trump também disse que irá anunciar um “czar” para a área. “Não vamos, de forma alguma, impedir ou sufocar o crescimento desse setor incrível”, escreveu no Truth Social.
“Pelo contrário, vamos valorizá-lo, ajudá-lo e acompanhá-lo à medida que cresce! No entanto, também estaremos atentos ao que há de ruim, e podemos fazer isso com muita facilidade por meio do nosso sistema de justiça criminal e civil já existente”, disse.
No início da semana, Trump já havia afirmado que os EUA contam com medidas de segurança para regulamentar e processar judicialmente empresas de IA. O vice-presidente americano, JD Vance, também disse ser cético em relação aos executivos de IA que pedem ao governo dos EUA para regulamentar o setor. As informações são dos jornais Folha de S.Paulo e Financial Times.
Verificação de Email - você receberá um email de confirmação após enviar o seu primeiro comentário, mas ele só será publicado depois que você clicar no link de verificação enviado para a sua conta de e-mail para confirma-lo. Os próximos comentários serão publicados automaticamente por 30 dias!