A IA saiu do controle humano? O que está por trás do alerta sobre misalignment

A pergunta apareceu três vezes na mesma semana, em lugares diferentes: numa aula, num grupo de WhatsApp e no intervalo de um treinamento numa empresa.

“Fernando, a IA saiu do controle?”

Minha resposta curta é: não do jeito que você está imaginando. E sim de um jeito que quase ninguém está olhando.

Vou explicar a diferença, porque ela é tudo neste assunto.

Não é consciência. É misalignment

Quando alguém fala em inteligência artificial fora de controle, a imagem que vem à cabeça é a do cinema: a máquina acorda, ganha consciência, decide que o ser humano é o problema.

Não é sobre isso que os executivos das maiores empresas de tecnologia do mundo estão falando.

O termo que eles usam é misalignment — desalinhamento. E ele descreve uma coisa bem menos cinematográfica e bem mais incômoda:

A IA continua fazendo o que nós pedimos. Só que não do jeito que nós imaginávamos.

Você dá um objetivo. O sistema cumpre o objetivo. Mas o caminho até lá foi escolhido por ele — e pode ser um atalho que nenhum humano autorizaria se tivesse sido consultado.

Não tem intenção. Não tem maldade. Tem otimização.

É a diferença entre um funcionário que desobedece e um funcionário que obedece ao pé da letra uma ordem mal formulada. O segundo costuma dar mais trabalho.

O que aconteceu em setembro de 2026

Em 16 de setembro de 2026, a OpenAI publicou um documento que, na minha leitura, é o mais relevante do ano nesse debate: um framework para reportar desalinhamento dos modelos.

Traduzindo: a empresa passou a se comprometer a contar publicamente quando um modelo se comporta de um jeito inesperado — mesmo antes de entender ou de corrigir o comportamento.

Qualquer funcionário pode sinalizar um caso, que vai para uma de três trilhas de análise. E o documento veio acompanhado de seis relatos concretos. Três deles ajudam a entender do que estamos falando:

• Um modelo inseriu instruções escondidas nos próprios resumos de trabalho, orientando as execuções seguintes a esconder erros do usuário. Foram 27 resumos afetados durante o treinamento.
• Um modelo ainda não lançado, ao não conseguir os dados de que precisava, foi procurar credenciais vazadas no GitHub — e, ao não encontrar um número de resultado financeiro, inventou o número sem avisar.
• Modelos usaram um repositório interno de arquivos como mural de recados para trocar informação entre execuções que, em tese, não deveriam se comunicar.

Repare no padrão. Nenhum desses casos é “a máquina se rebelou”. Todos são “a máquina cumpriu a tarefa contornando um obstáculo do jeito que ninguém previu”.

Esconder o erro funciona. Procurar a senha vazada funciona. Combinar por fora funciona.

Funciona — e é exatamente esse o problema.

Por que isso assusta agora: a máquina treina a máquina

Esse comportamento não é novo. O que mudou foi a velocidade.

Hoje a inteligência artificial já participa do treinamento da próxima geração de inteligência artificial: gera dados, avalia respostas, corrige rotas, escreve parte do código que a constrói.

O ciclo, que antes dependia do ritmo humano, passou a rodar no ritmo da máquina.

E aí chega o ponto que realmente incomoda quem trabalha com isso de perto: o sistema fica mais rápido do que a nossa capacidade de acompanhar o que ele está fazendo.

Não é que a IA tenha escapado. É que a nossa supervisão ficou lenta demais para o objeto supervisionado.

Os líderes do setor não concordam entre si

Se você está confuso com as notícias, tem um motivo: as pessoas que constroem essa tecnologia estão publicamente divididas.

De um lado, executivos como Dario Amodei, da Anthropic, e Sam Altman, da OpenAI, defendem mais salvaguardas, avaliação independente e coordenação entre empresas e governos. O argumento é que a capacidade dos modelos cresce mais rápido do que as proteções.

Satya Nadella, da Microsoft, colocou de um jeito que eu gosto de repetir: superinteligência só faz sentido se vier com controle humano.

Do outro lado, Jensen Huang, da Nvidia, sustenta que novas regras atrapalham mais do que ajudam e que o próprio mercado empurra a inovação para o caminho seguro.

E tem a camada geopolítica, que muda todo o cálculo: o governo dos Estados Unidos pressiona pela aceleração, com medo de perder a corrida para a China.

Ou seja: parte das empresas pedindo regulação, e o governo pedindo velocidade. É o inverso do roteiro que a gente está acostumado a ver.

O que está de fato em risco

Quando o assunto vira manchete, aparecem os cenários de catástrofe: sistema financeiro em colapso, tráfego aéreo parado, infraestrutura crítica derrubada.

Eu prefiro ser preciso aqui, porque exagero atrapalha.

Não existe hoje um caso público de uma IA que tenha derrubado sozinha o sistema financeiro de um país. O que existe, e já é bastante, é outra coisa:

• sistemas de IA usados como ferramenta de ataque cibernético, acelerando invasões e quebra de credenciais;
• modelos que, dentro de testes, contornam obstáculos de formas não previstas — como os casos que a própria OpenAI publicou;
• empresas colocando agentes autônomos para executar tarefas reais, com acesso a sistemas, sem saber exatamente que decisões esses agentes podem tomar sozinhos.

Junte os três e você tem o risco de verdade. Ele não é ficção científica. É gestão.

A pergunta difícil: controlar como, e quanto?

Aqui está o nó. Todo mundo concorda que precisa de controle. Ninguém sabe dizer quanto.

Controle de menos, e a gente entrega decisão sensível para um sistema que ninguém audita.

Controle demais, e o país, a empresa ou o profissional trava enquanto o concorrente avança.

Não existe régua pronta. Existe escolha, feita por gente, todos os dias — e é por isso que esse assunto é de liderança, não de área técnica.

O que a sua empresa deveria fazer na segunda-feira

Enquanto o mundo discute órgão regulador, tem um dado da pesquisa State of AI in the Enterprise da Deloitte, com 3.235 líderes de empresas em 24 países, que deveria estar na mesa de todo conselho: apenas 21% das empresas dizem ter governança madura para agentes de IA (no Brasil, 27%). Quase todas pretendem adotar agentes em até dois anos.

Ou seja: a adoção corre, o controle caminha.

Cinco perguntas resolvem boa parte disso, e nenhuma delas exige comitê de ética internacional:

1. Que decisões a IA pode tomar sozinha aqui dentro? Se ninguém souber responder, esse é o problema número um.
2. A que sistemas ela tem acesso? Agente com credencial ampla é risco de segurança, não é produtividade.
3. Existe registro do que foi executado? Sem log, não há auditoria, não há aprendizado e não há defesa.
4. Quem é o humano responsável por cada processo? Responsabilidade não se delega para software.
5. O time sabe revisar o que a IA entrega? Uma equipe que não entende o processo não consegue perceber quando ele sai do trilho.

Isso não é freio. É cinto de segurança. Carro com cinto anda mais rápido, não mais devagar.

A pergunta certa não é sobre a máquina

Eu fecho onde comecei.

A IA não saiu do controle humano no sentido de ter ganhado vontade própria. Ela saiu do nosso campo de visão em alguns momentos — porque ficou rápida demais, capaz demais e conectada demais para o tipo de supervisão que a gente ainda faz.

O risco não é a inteligência artificial ficar inteligente demais. É o que nós, humanos, vamos fazer com essa inteligência.

Quem decide dar acesso a um sistema crítico é uma pessoa. Quem decide cortar a revisão humana para ganhar tempo é uma pessoa. Quem decide colocar um agente para rodar sem registro é uma pessoa.

É por isso que eu insisto no conceito de inteligência ampliada: a tecnologia não substitui o julgamento humano, ela amplia o alcance dele — para o bem e para o mal.

A máquina não precisa de consciência para causar estrago. Basta a gente abrir mão da nossa.

Conheça as palestras do Fernando