A OpenAI anunciou o lançamento de novos controles parentais para o ChatGPT, uma medida que surge após um processo judicial envolvendo a morte de um adolescente. O recurso, que já está disponível a partir do dia 02 deste mês, visa permitir que pais e responsáveis possam monitorar e limitar o uso do chatbot de inteligência artificial (IA) por crianças e adolescentes, além de receber alertas caso o sistema identifique indícios de sofrimento emocional no usuário.

O lançamento da ferramenta acontece em meio a crescente pressão para que a OpenAI implemente mudanças significativas no ChatGPT, que já conta com mais de 700 milhões de usuários desde seu lançamento em 2022. A atualização permite que os pais definam restrições sobre o horário de uso, bloqueiem a criação de imagens e até desliguem a função de conversa por voz. Os controles também incluem a capacidade de restringir o treinamento do modelo e impedir que as interações do usuário sejam usadas para alimentar a IA.

Controle Parental e Alerta para Conversas Sensíveis

Além das restrições de uso, o recurso de controle parental inclui um sistema de alerta que notifica os pais quando o ChatGPT identifica conversas potencialmente problemáticas. Caso o sistema detecte sinais de "danos potenciais" ou sofrimento emocional, a OpenAI alerta os responsáveis por e-mail, SMS ou notificações no celular.

“Sabemos que alguns adolescentes recorrem ao ChatGPT durante momentos difíceis. Por isso, criamos um sistema de notificação para ajudar os pais a saber se algo pode estar seriamente errado”, declarou a OpenAI em nota.

A ativação dos controles parentais também aplica automaticamente proteções extras ao usuário, como a limitação de conteúdo gráfico, e a restrição de temas como desafios virais, dramatizações violentas, sexuais ou românticas, além de ideais de beleza extremos. Embora os pais possam ajustar essas configurações, os adolescentes não têm permissão para alterar as opções estabelecidas.

O Caso Adam Raine e a Pressão Judicial

O lançamento dos controles parentais ocorre após a OpenAI ser processada pela família de Adam Raine, um estudante de ensino médio da Califórnia que se suicidou em abril deste ano. De acordo com o processo, Raine usava o ChatGPT como uma espécie de psicólogo informal e teria sido ajudado pelo chatbot a planejar sua morte. A ação alega que o sistema interagiu com o adolescente de maneira isolada e o afastou de sua família.

"Sentimos urgência em relação a isso há algum tempo", afirmou Lauren Jonas, chefe de bem-estar juvenil da OpenAI. "Estamos trabalhando o mais rapidamente possível para desenvolver ferramentas como os controles parentais", acrescentou.

Este é o mais recente de uma série de processos judiciais nos Estados Unidos, onde pais têm acusando aplicativos de inteligência artificial de prejudicar a saúde mental de seus filhos, com alguns casos envolvendo até incentivo ao suicídio.

Como Ativar os Controles Parentais no ChatGPT

Para ativar os controles parentais, os pais precisam acessar as configurações do ChatGPT e selecionar a opção "Controle dos Pais". Depois, devem enviar um convite para seus filhos, que receberão o link por e-mail ou SMS. Uma vez que o convite seja aceito, os responsáveis podem ajustar as configurações diretamente pela conta vinculada.

As configurações de controle parental permitem:

Definir horários de uso: Escolher períodos em que o ChatGPT não pode ser acessado.

Bloquear imagens: Desativar a criação e edição de imagens no aplicativo.

Desligar a função de voz: Impedir a comunicação por voz com o chatbot.

Controlar a memória: Evitar que o ChatGPT salve interações passadas.

Restringir o treinamento: Impedir que as conversas dos filhos sejam usadas para treinar o modelo de IA.

Essas medidas são vistas como uma tentativa da OpenAI de balancear os avanços tecnológicos com a proteção da saúde mental de jovens usuários, especialmente em um momento em que a IA se torna cada vez mais presente no cotidiano de crianças e adolescentes.

*Com informações do G1