Pular para o conteúdo
IA Seenup, página inicial

Notícias de IA em português,
várias vezes por dia

Empresas

OpenAI vai treinar modelos com dados de sessões do Daybreak Blue, antes protegidos

A partir de 29 de novembro, a OpenAI usará sessões do Daybreak Blue para treinar seus modelos, mesmo com o treino desativado. Após críticas, prometeu uma opção de recusa separada.

Em 3 pontos

  1. A partir de 29 de novembro, sessões do Daybreak Blue entram no treino dos modelos da OpenAI.
  2. Isso vale mesmo para quem desativou o uso dos dados para treinar.
  3. Após críticas, a OpenAI prometeu uma opção de recusa separada.

Redação IA Seenup · via The Decoder

2 min de leitura

Ilustração: OpenAI vai treinar modelos com dados de sessões do Daybreak Blue, antes protegidos
Ilustração gerada por IA

Em números

  • 29 de nov.início do uso dos dados no treinamento

O que aconteceu

Segundo o site The Decoder, a OpenAI vai usar, a partir de 29 de novembro, dados de sessões do Daybreak Blue para treinar seus modelos de IA. A mudança foi confirmada em um e-mail enviado aos membros do programa Trusted Access (acesso confiável).

Até agora, esses dados ficavam fora do treinamento, mesmo quando o usuário desligava a opção "melhorar o modelo para todos". Agora essa configuração não vai impedir o uso.

Houve reação negativa rápida. Segundo a fonte, a OpenAI mandou um segundo e-mail prometendo uma opção de recusa separada. Interações sinalizadas em revisões de segurança ainda podem ser usadas para fins de segurança.

Ilustração gerada por IA

Por que importa

Em geral, quem desativa o uso dos próprios dados no treinamento espera que a escolha valha sempre. Aqui, um tipo de sessão que estava de fora passa a entrar, e o ajuste anterior deixa de proteger o usuário.

O Decoder lembra que a mudança reacende uma preocupação já vista no caso dos matemáticos Tristan Buckmaster e Levent Alpöge. Eles enviaram rascunhos de trabalho sobre as equações de Navier-Stokes (um problema famoso da matemática) ao Codex, ferramenta da OpenAI. Pouco depois, a empresa apresentou uma prova própria, mas negou ter usado o material deles para treinar modelos. Segundo o Decoder, a simples suspeita já mostrou aos pesquisadores o que pode dar errado.

Os pesquisadores temem uma repetição desse episódio: trabalho ainda não publicado, enviado a uma ferramenta de IA, servir para treinar o modelo sem consentimento claro.

O que muda para quem usa IA

  • Quem participa do Trusted Access deve ler os e-mails da OpenAI e conferir as configurações de privacidade antes de 29 de novembro.
  • Desligar o treinamento na configuração geral não basta para as sessões do Daybreak Blue; a saída prometida é uma opção de recusa separada.
  • Quem trabalha com material sigiloso ou inédito, como pesquisas e códigos, deve ponderar o que envia a qualquer ferramenta de IA.

A fonte não detalha como será a nova opção de recusa nem quando ela estará disponível. Vale acompanhar os próximos comunicados da empresa.

O que muda

Antes

  • Sessões do Daybreak Blue ficavam fora do treino, mesmo com a configuração desligada

Depois

  • Sessões entram no treino, com opção de recusa separada prometida

Entenda os termos

Treinar modelos
Usar exemplos reais, como conversas e textos, para ensinar e melhorar o sistema de IA.
Opt-out
Opção que permite ao usuário recusar que seus dados sejam usados.

Gostou? Compartilhe

Aprenda IA do zero

A Trilha IA custa R$ 37 e tem 5 cursos em ebook, com 115 capítulos e 30 projetos com código pronto. As 23 aulas em vídeo são grátis no YouTube.

Conhecer a Trilha IA

Debate

Ainda não há comentários. Que tal começar o debate?

Os comentários passam por uma revisão rápida (com apoio de IA) antes de aparecer.Regras dos comentários.

Leia também