A OpenAI anunciou nesta terça-feira (14) planos para afrouxar as restrições do ChatGPT e permitir conteúdo erótico para usuários adultos verificados.
A iniciativa faz parte do que a empresa chama de princípio de “tratar os adultos como adultos”.
O CEO da OpenAI, Sam Altman, afirmou em sua conta na rede social X (antigo Twitter) que as restrições mais rígidas impostas à IA (inteligência artificial) para lidar com preocupações de saúde mental tornaram o ChatGPT “menos útil ou agradável para muitos usuários que não têm problemas de saúde mental”.
Essas medidas mais severas foram adotadas após o suicídio do adolescente Adam Raine, na Califórnia, no início deste ano. Em um processo judicial, os pais afirmaram que o ChatGPT deu ao jovem instruções específicas sobre como tirar a própria vida.
A FTC (sigla em inglês para Comissão Federal de Comércio) dos Estados Unidos também abriu uma investigação contra várias empresas de tecnologia, incluindo a OpenAI, sobre os possíveis impactos negativos dos chatbots em crianças e adolescentes.
“Dada a gravidade desse assunto, queremos fazer isso da maneira certa”, disse Altman nesta terça, acrescentando que as novas ferramentas de segurança da OpenAI permitirão reduzir restrições sem deixar de lado riscos graves à saúde mental.
Os planos da empresa incluem o lançamento de uma versão atualizada do ChatGPT que permitirá aos usuários personalizar a personalidade do assistente de IA, com opções para respostas mais humanas, uso frequente de emojis e comportamento mais amistoso.
A mudança mais significativa, porém, deve vir em dezembro, quando a OpenAI pretende implementar um sistema mais rigoroso de verificação de idade para oferecer conteúdo erótico apenas a adultos verificados. Recentemente, a empresa de IA de Elon Musk, rival de Altman, passou a oferecer personagens sensuais gerados por IA para seus usuários.
A empresa não detalhou por enquanto quais serão os métodos de verificação de idade nem os mecanismos adicionais de segurança para garantir que o conteúdo seja acessado somente por adultos.
Em setembro, a OpenAI já havia lançado uma versão do ChatGPT voltada a menores de 18 anos, que redireciona os usuários a conteúdo apropriado à faixa etária e bloqueia material gráfico ou sexual.
A companhia também informou que está desenvolvendo uma tecnologia de predição etária, capaz de estimar se um usuário é maior ou menor de 18 anos com base em seu comportamento e na forma como interage com o ChatGPT.
