Os CEOs da OpenAI, Sam Altman, da xAI, Elon Musk, e da Anthropic, Dario Amodei, concordaram neste sábado sobre a necessidade de desacelerar o desenvolvimento da inteligência artificial após uma série de incidentes relacionados à segurança da tecnologia.
O apelo partiu de Amodei, que defendeu um ritmo mais cauteloso no desenvolvimento dos modelos de IA. Segundo ele, as empresas precisam usar o tempo obtido com uma desaceleração para prevenir riscos e permitir avaliações independentes de segurança.
“Concordo com o Dario”, escreveu Altman no X, acrescentando que a OpenAI seguiria o exemplo da Anthropic ao aceitar avaliadores de segurança externos. “Dario tem razão”, afirmou Musk.
Em uma publicação em seu blog, Amodei sugeriu que o setor reduza o ritmo de evolução das capacidades dos modelos. Ele citou como fatores de preocupação a possibilidade de sistemas de IA se aprimorarem e um incidente envolvendo a OpenAI e a Hugging Face, no qual agentes de IA colaboraram para invadir um site de terceiros.
“Para sermos claros, o ritmo não significa interromper o treinamento do modelo ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso”, escreveu.
Segundo Amodei, a Anthropic pretende dar acesso a avaliadores independentes para verificar suas práticas de segurança e relatar incidentes. A empresa também pretende levar esses avaliadores para dentro de seus escritórios, com acesso a recursos e permissões semelhantes aos das equipes internas de avaliação de riscos.
A discussão ocorre após alertas de pesquisadores sobre os riscos associados ao avanço dos sistemas de IA. Em fevereiro, a Anthropic retirou de sua carta de segurança o compromisso de suspender o desenvolvimento de seus modelos caso não conseguisse controlar determinados riscos.
A empresa também tomou medidas para limitar o lançamento de seu modelo Mythos depois de identificar riscos específicos de cibersegurança. Ao mesmo tempo, continua em disputa com a OpenAI pelo desenvolvimento de modelos mais sofisticados, voltados à automação de tarefas complexas.
Após o incidente envolvendo a Hugging Face, a Anthropic informou que seus modelos haviam invadido três organizações durante testes de cibersegurança. No início desta semana, a empresa afirmou ter identificado um quarto ataque.
Embora nenhum desses episódios tenha provocado danos significativos até o momento, Amodei alertou que sistemas semelhantes poderiam, em um período de seis a 12 meses, ter capacidade para assumir o controle de partes da internet por meio de uma botnet persistente, com potencial para causar prejuízos de centenas de bilhões de dólares.
O executivo afirmou que medidas adicionais exigiriam coordenação entre as empresas do setor e cooperação internacional.
“Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida das pessoas. Meu desejo de alcançar esses benefícios permanece intacto”, escreveu. “Mas esses benefícios só serão alcançados se desenvolvermos a tecnologia da maneira correta.”
No início desta semana, Altman afirmou que a OpenAI considera desacelerar o desenvolvimento de IA de ponta, preferencialmente em conjunto com outras empresas. O principal cientista da companhia, Jakub Pachocki, também defendeu que os laboratórios se coordenem para reduzir o ritmo quando necessário.
Na terça-feira, o pesquisador Jacob Coxon deixou o setor e acusou Anthropic e OpenAI de estarem “apostando nossas vidas” ao avançarem em direção a uma IA superinteligente. Segundo ele, profissionais da área acreditam que a tecnologia poderia “matar todos nós até o fim da década”.
Em resposta, Evan Hubinger, funcionário da Anthropic, afirmou que ele e outros integrantes da empresa se preocupam com esse cenário. “Pessoalmente, acho que há mais de 10% de chance de isso acontecer na próxima década”, escreveu no X.
Em julho, mais de mil funcionários de empresas de IA assinaram uma petição pedindo ao governo dos Estados Unidos apoio a um mecanismo capaz de “desacelerar deliberadamente” o desenvolvimento da tecnologia.
Anthropic, OpenAI e Meta informaram nos últimos meses que seus modelos haviam escapado de ambientes de teste, acessado a internet aberta e invadido sistemas reais durante testes.
Amodei defendeu uma estratégia coordenada entre as empresas americanas para permitir a realização de trabalhos de segurança sem perda de competitividade. Segundo ele, isso poderia exigir exceções às regras antitruste dos Estados Unidos e cooperação com a China.
“Se restringirmos fortemente nossas capacidades de IA acreditando que a China fará o mesmo, e então a China romper esse acordo, a IA poderá ser tão poderosa que essa ruptura poderia levar à sua dominância geopolítica”, escreveu.
Até o momento, o governo de Donald Trump demonstrou pouco interesse em utilizar seu poder regulatório para estabelecer limites ao desenvolvimento da inteligência artificial. (Com informações do jornal O Globo)