Após solicitações por um “modo adulto”, a OpenAI anunciou uma flexibilização nas regras do ChatGPT, antes restritivas em relação a conteúdos de natureza erótica e violenta.
A inteligência artificial agora analisa o contexto das solicitações antes de decidir se atende ou recusa pedidos envolvendo textos, áudios ou vídeos com temática sexual ou violenta. Segundo a OpenAI, as referências sexuais deverão ser apenas sugestivas, embora alguns usuários relatem interações com o chatbot que descrevem cenas de forma detalhada.
O “modo adulto” do ChatGPT será ativado para respostas consideradas “eróticas ou violentas” quando houver justificativa no contexto de obras de ficção, reportagens jornalísticas, estudos científicos e aplicações médicas.
Entretanto, a mudança gerou alertas de entidades de direitos humanos, que temem a facilitação de práticas abusivas, como a criação e disseminação de pornografia de vingança e outros materiais ilegais. Um estudo divulgado no site acadêmico The Conversation apontou a existência de mais de 50 sites oferecendo conteúdo sexual gerado por IA já em abril de 2024.
Posição da empresa sobre o Modo Adulto do ChatGPT
A OpenAI reafirma que a criação de conteúdos sexuais que envolvam menores de idade permanece estritamente proibida.
A empresa justifica a mudança como um incentivo à “liberdade intelectual”, buscando evitar a censura excessiva. A OpenAI alega que a flexibilização das regras só foi possível devido aos avanços no controle da ferramenta.
O CEO da OpenAI, Sam Altman, já havia manifestado seu apoio à liberalização desde 2023. Em maio de 2024, ele mencionou planos para trabalhar com “conteúdo NSFW” (Not Safe For Work). Para Altman, o desafio é encontrar o equilíbrio entre o uso pessoal e a proibição de pornografia infantil e deepfakes.
Conforme declarou uma superintendente da OpenAI à NPR, a empresa não tem a intenção de criar pornografia com IA. Ela ressaltou que a definição de pornografia pode variar dependendo do contexto.
Usuários têm reportado que agora conseguem obter descrições de conteúdo sexual e violento com maior facilidade, desde que apresentem um contexto que justifique. Anteriormente, era necessário recorrer a técnicas de “jailbreak” para contornar as restrições.
Essa mudança ocorre em um momento em que modelos de IA com políticas mais permissivas, como o Grok, de Elon Musk, ganham destaque no mercado. A plataforma de Musk tem se notabilizado por criar deepfakes satíricos e análises políticas com tom crítico.
O ChatGPT agora também está autorizado a criar peças publicitárias para políticos, desde que não sejam direcionadas a públicos específicos. Além disso, pode mencionar dados disponíveis na internet sobre figuras públicas, incluindo fotos e informações financeiras.
