"O sistema recomendou o corte, eu só segui."

Quem diz coisas desse tipo se esconde como se estivesse apenas lendo um resultado, como se não fosse capaz de nenhuma escolha no meio do caminho.

Esse problema é novo e não tem nada a ver com a qualidade da IA.

Porque a ferramenta entrega um dado, um score, uma recomendação baseada em padrão histórico. Até aí, ótimo, é exatamente pra isso que ela existe. O problema começa quando o responsável usa essa recomendação como escudo, não como informação.

"O sistema recomendou" virou a nova versão de "não fui eu, foi o mercado" ou "não fui eu, foi a diretoria". Só que dessa vez tem um verniz técnico, parece mais sério, mais neutro, mais impessoal.

Alguns diriam, "mais inteligente".

Só que decisão sobre gente, sobre corte, sobre quem sobe e quem fica pra trás, nunca foi neutra. E delegar o julgamento para um número não tira a responsabilidade de quem apertou o botão de confirmar.

Já vi gestor evitando olhar no olho de alguém, justamente porque escondeu a decisão atrás de um relatório. Mais fácil dizer "o algoritmo decidiu" do que assumir "eu decidi isso, e vou te explicar por quê".

A IA pode informar a decisão, pode até melhorar a decisão. Mas ela não pode ser dona da decisão.

Decisão difícil sempre tem dono, e precisa ter. A diferença agora é que ficou mais fácil fingir que não tem.

Chamar a IA de dona, nesse contexto, é covardia.