O próximo modelo principal da OpenAI pode não representar um avanço tão grande quanto seus predecessores, segundo um novo relatório do The Information.
Funcionários que testaram o novo modelo, de codinome Orion, relataram que, embora seu desempenho supere os modelos atuais da OpenAI, a melhoria foi menor em comparação com o salto do GPT-3 para o GPT-4.
Em outras palavras, a taxa de aprimoramento parece estar desacelerando. De fato, Orion pode não ser consistentemente melhor que os modelos anteriores em algumas áreas, como a de programação.
Para enfrentar essa situação, a OpenAI criou uma equipe de fundamentos para estudar como a empresa pode continuar aprimorando seus modelos, mesmo com o esgotamento da disponibilidade de novos dados de treinamento. Essas novas estratégias incluiriam treinar o Orion com dados sintéticos gerados por modelos de IA, além de intensificar as melhorias nos modelos durante o processo pós-treinamento.
A OpenAI não respondeu imediatamente ao pedido de comentários. Em resposta a relatórios anteriores sobre planos para seu modelo principal, a empresa declarou: “Não temos planos de lançar um modelo com o codinome Orion este ano.”