O andar dos dados

Ninguém sabe o que tem nos próprios dados até precisar separá-los. E a maior parte das empresas está

treinando IA sobre o que acha que tem, não sobre o que de fato tem.

Uma crença coletiva, até alguém perguntar

Conduzi, do lado da tecnologia, a separação de uma companhia global em duas empresas independentes.

Sistemas unificados que sustentavam três negócios muito diferentes precisavam virar dois conjuntos

separados, com prazo legal, sem interromper um único dia de venda.

O que essa operação ensina não é técnico. É que uma empresa só descobre o que realmente tem quando alguém

pergunta, campo por campo, de quem é aquele dado, de onde ele veio, quem depende dele e o que acontece se

ele sumir. Antes disso, o inventário de dados é uma crença coletiva — algo em que todo mundo acredita

porque ninguém verificou.

A maior parte das organizações está treinando ou alimentando sistemas de IA sobre exatamente esse tipo de

crença.

O erro que não avisa

Há um jeito específico de esse assunto dar errado que quase não aparece em conversa de board, e ele é mais

sutil do que vazamento de dado.

Pesquisadores descrevem o fenômeno como colapso de modelo. Empresas usam IA para gerar dados que

treinam outras IAs — o que faz sentido: contorna escassez de dado real, reduz custo de rotulagem, evita

disputa de direitos autorais sobre conteúdo de terceiros.

E aqui está a parte que costuma ser contada errada. O problema não é usar dado sintético. **É deixar que

ele substitua o dado real, em vez de se acumular ao lado dele.** A literatura acadêmica mais recente sobre

o tema — incluindo o trabalho que provou analiticamente a diferença entre os dois cenários — é clara nessa

distinção: quando o dado sintético substitui o real ao longo de gerações de treinamento, o erro do

modelo diverge sem limite. Quando o sintético se acumula ao lado do real, em vez de tomar o lugar dele,

o erro tem um teto finito.

Sem esse teto, o sistema não falha de uma vez. Degrada devagar, de forma difícil de detectar, produzindo

respostas cada vez piores com exatamente a mesma confiança de sempre.

Um sistema que erra com confiança é mais perigoso que um que responde "não sei".

A régua que eu não inventei para IA

Sempre que precisei decidir algo grande — inclusive mudar de país com a família — a primeira pergunta não

foi qual o retorno esperado. Foi qual é o pior cenário, e o que acontece comigo se ele se realizar.

Se o pior cenário for recuperável, o risco é aceitável mesmo com probabilidade alta de acontecer. Se for

irreversível, uma probabilidade baixa não salva ninguém.

Aplicada a dados, essa régua reordena as prioridades de um jeito que a maioria das discussões de governança

não faz. Vazamento é grave, e é reversível em algum grau: a empresa notifica, contém, remedia, responde.

Existe um protocolo para isso, e ele funciona porque o problema é visível no momento em que acontece.

Degradação silenciosa de uma base de treinamento é de outra natureza. No dia em que alguém percebe, não

existe estado anterior conhecido para o qual voltar — porque ninguém sabe exatamente quando a contaminação

começou, nem quais decisões tomadas no meio do caminho foram afetadas por um modelo que já estava errando.

A pergunta de governança de dados, então, não é se o dado está correto hoje. É: **você perceberia se ele

parasse de estar? Em quanto tempo? Comparado contra o quê?**

O que a pergunta revela quando se faz na prática

Levando essas três perguntas a um sistema de IA já em produção, o que ensina não é a resposta a cada uma

isolada. É onde a conversa trava.

De onde vêm os dados que alimentam este sistema? Quase sempre alguém sabe, ou sabe encontrar quem sabe.

Que proporção desses dados é sintética, ou foi gerada por outro modelo? Quase nunca alguém sabe — e a

pergunta costuma ser a primeira vez que alguém na sala se dá conta de que ninguém mede isso.

Como a empresa detectaria uma degradação, se ela estivesse acontecendo agora? A resposta mais comum,

quando existe alguma, é "os usuários reclamariam". Se a detecção depende de alguém reclamar, a empresa não

tem governança de dados. Tem sorte, e sorte não é um controle que se documenta.

O que isso põe na sua mesa

Escolha um sistema de IA que já esteja em produção na sua empresa e faça as três perguntas por escrito, a

quem o opera. Não é exercício acadêmico: é a diferença entre saber onde o chão está e descobrir isso

quando ele já cedeu.

O sistema que mais precisa dessa pergunta não é o mais novo. É o que está rodando há mais tempo sem

ninguém ter perguntado nada — porque é justamente aquele em que a degradação teve mais tempo para se

acumular sem deixar rastro.