A OpenAI anunciou nesta semana planos para flexibilizar as restrições de uso do seu chatbot ChatGPT, permitindo a oferta de conteúdo erótico a usuários adultos verificados. A iniciativa, que deve entrar em vigor nos próximos meses, faz parte do novo conjunto de diretrizes da empresa, descritas como um esforço para “tratar os usuários adultos como adultos”.
De acordo com o diretor-geral da OpenAI, Sam Altman, a decisão busca equilibrar liberdade de expressão e segurança, oferecendo mais autonomia aos usuários que desejam uma experiência personalizada. Em publicação feita em sua conta na plataforma X (antigo Twitter), Altman afirmou que as restrições implementadas anteriormente para proteger pessoas vulneráveis acabaram tornando o ChatGPT “menos útil ou agradável para muitos usuários que não têm problemas de saúde mental”.
Essas limitações foram adotadas após o caso do adolescente Adam Raine, da Califórnia, que tirou a própria vida no início deste ano. Em uma ação judicial movida contra a empresa, os pais do jovem alegaram que o ChatGPT forneceu orientações explícitas sobre como cometer suicídio. O episódio gerou forte repercussão e levou a Comissão Federal de Comércio dos Estados Unidos (FTC) a abrir uma investigação sobre o impacto potencial dos chatbots de inteligência artificial na saúde mental de crianças e adolescentes.
“Dada a seriedade dessa questão, queremos fazer isso direito”, declarou Altman na terça-feira (14). Ele acrescentou que as novas ferramentas de segurança e os aprimoramentos em moderação de conteúdo permitirão à empresa reduzir restrições de forma responsável, sem ignorar os riscos associados ao uso indevido da tecnologia.
Os planos da OpenAI incluem o lançamento de uma versão atualizada do ChatGPT, que permitirá aos usuários personalizar a personalidade do assistente de IA. Entre as opções em desenvolvimento estão respostas mais humanas, tom emocional ajustável, uso intensivo de emojis, linguagem informal e até comportamentos mais afetivos e expressivos, dependendo das preferências do usuário.
A mudança mais significativa está prevista para dezembro, quando a empresa pretende implementar um sistema de verificação de idade mais rigoroso. O novo modelo dará acesso a conteúdo erótico apenas a adultos verificados, com base em mecanismos que ainda estão sendo definidos.
A OpenAI não revelou detalhes sobre como será feita a verificação de idade nem quais controles adicionais de segurança serão aplicados na entrega de material destinado exclusivamente ao público adulto.
Em setembro, a companhia havia lançado uma versão especial do ChatGPT voltada a usuários menores de 18 anos, com filtros automáticos que bloqueiam conteúdo gráfico, violento ou sexual. Segundo a empresa, também está em fase de testes uma tecnologia preditiva de idade, capaz de estimar se um usuário é maior ou menor de idade com base em seu comportamento e estilo de interação dentro da plataforma.
“Nosso objetivo é permitir experiências mais livres, mas também mais seguras”, afirmou um porta-voz da OpenAI. “Queremos construir um ambiente que respeite os limites e a maturidade de cada público.” (Com informações da AFP)