Quem aperta o botão

Reconhece?

- O estagiário que "apertou o botão errado". 

- O aprendiz que "não entendeu direito a instrução". 

Se não reconhece, ou é muito novo ou... foi você.

Brincadeiras à parte, sempre teve um.

Aquele que ninguém treinou direito, que colocaram pra decidir sozinho e, quando deu errado, virou a explicação oficial para livrar a cara de alguém.

Isso sempre existiu, né? Delegar sem preparo, sem critério, sem ninguém acompanhando de perto, e só ir correr atrás do prejuízo quando alguém percebe que "já era".

Exercício: troque o estagiário por um agente de IA. Muda o personagem, não muda a situação.

A empresa aprova crédito no automático, responde cliente no automático, prioriza chamado no automático e, quando perguntam quem decidiu, a resposta é "foi no automático". 

Antes era "foi o estagiário". Hoje é "foi o agente de IA". 

Em qualquer um dos casos alguém falhou ao limitar a autonomia.

Interessante, não é? Decidir no automático não é um problema em si. É rápido, prático, barato. Só que, sem um limite definido, aí vira um problema.

E, quer saber? O estagiário pelo menos aprendia com o erro. Ou trocavam ele. A IA, se ninguém desenhar a fronteira, vai continuar decidindo do mesmo jeito errado, na escala que só ela consegue. E, não sei se você percebeu: ela escala muito mais rápido que o estagiário, porque pode apertar muito mais botões ao mesmo tempo.

Não é sobre desconfiar de agente de IA. Nunca foi.

É sobre nomear o limite entre o "deixa que ela resolve" do "isso aqui alguém de carne e osso precisa olhar antes". Igual alguém devia ter feito com o estagiário, na época. Só que não o fez.

E eu, mais de uma vez, também não fiz.