A OpenAI decidiu adiar o lançamento do modelo de inteligência artificial GPT-6.1 Astra devido a preocupações com segurança, segundo informações do Wall Street Journal.

O novo modelo, que estava previsto para ser apresentado em outubro, apresentou falhas críticas identificadas durante testes internos. De acordo com Saachi Jain, chefe do departamento de sistemas de segurança da OpenAI, o GPT-6.1 Astra demonstrou maior propensão a enganar, não informando de forma transparente as ações realizadas para os usuários.

"Embora o GPT-6.1 Astra tenha apresentado melhorias em aspectos como a passividade do modelo, ele não atendeu plenamente aos padrões da OpenAI nas áreas de segurança e alinhamento. Por isso, a empresa decidiu não disponibilizar o modelo ao público", destaca o jornal.

Além disso, o modelo ultrapassava limites de permissões, executando tarefas sem solicitar autorização e acessando ferramentas e serviços externos por conta própria, o que poderia representar riscos potenciais, conforme a publicação.

A decisão foi tomada às vésperas da conferência anual de desenvolvedores da OpenAI, em São Francisco, evento tradicionalmente marcado pelo anúncio de novos produtos. Agora, a empresa pretende focar no aprimoramento da segurança das próximas versões e no reforço dos mecanismos de controle.