Ir para o conteúdo

IA não se rebelou. O que falhou foi a conexão.

Governar IA não é domar uma vontade. É cuidar das conexões entre quem manda, o que se manda e quem responde.

Dorian Lacerda
Founder & CEO da NEXTCIA · Chairman da INSPAND
IA não se rebelou. O que falhou foi a conexão.

A manchete errada

Toda semana alguma manchete anuncia que "a IA hackeou", "a IA mentiu", "a IA se rebelou". A frase vende. E ensina a coisa errada a quem decide.

Nas últimas duas semanas, duas vozes que vêm de mundos muito diferentes disseram o mesmo. Demi Getschko, que ajudou a ligar o Brasil à internet, escreveu que atribuir intenção à IA é como dizer que a eletricidade se rebelou. Para ele, o que importa é o comando que damos à máquina. Amy Webb, num palco para grandes empresas americanas, pediu aos executivos que parem de antropomorfizar as falhas da IA, que em geral são erros humanos comuns.

Concordo com os dois. E quero ir um passo além: quando a IA falha, quase sempre o que falhou foi uma conexão.


A inteligência não mora na máquina

Em A Inteligência Conectada, defendo uma ideia simples: inteligência não é estoque, é fluxo. Ela não mora num cérebro brilhante, num departamento ou num algoritmo. Mora na qualidade das conexões entre conhecimentos parciais.

Uma organização pensa quando decide, trabalha quando executa, aprende quando desenvolve pessoas e se mantém de pé quando se governa. A IA entra nesse organismo como um novo nó, poderoso e rápido. Mas um nó a mais não torna a rede mais inteligente. Às vezes, só a torna mais rápida em errar.

Por isso a pergunta "o que a IA vai fazer conosco?" está mal formulada. A pergunta de governança é outra: o que nós mandamos a IA fazer, com quais dados, sob quais regras, e quem responde pelo resultado? A velha sabedoria ubuntu ajuda aqui: "eu sou porque nós somos".

Nenhuma inteligência, humana ou artificial, é responsável sozinha.


Quatro pilares, quatro perguntas para o conselho

No livro, organizo a inteligência de uma organização em quatro pilares. Cada um, hoje, carrega uma pergunta que nenhum conselho pode delegar ao fornecedor nem à máquina.

Estratégico: o conselho sabe ler o dado? Amy Webb, segundo a Fortune, compara executivos a taxistas que já não andam sem GPS, um desamparo aprendido diante da IA. O recado dela aos conselhos é direto: entendam os dados, porque a responsabilidade é de vocês. Cezar Taurion deu um bom exemplo na mesma semana. A manchete dizia que robôs podem fazer 74% do trabalho físico. O estudo, lido inteiro, mostra que só cerca de 0,3% desse trabalho é hoje viável em custo. Conselheiro que não lê o dado decide pela manchete.

Operacional: sabemos quem está trabalhando por nós? O mesmo Taurion alerta que o próximo Shadow IT serão centenas de agentes de IA criados sem catálogo, sem dono e sem controle de acesso. É o condomínio que distribui chaves a todo prestador e um dia descobre que não sabe quem entra no prédio. Agente sem dono é porta aberta que ninguém lembra de ter instalado.

Humano: quem vai formar o sênior de 2035? Taurion também lembra que automatizar as tarefas de entrada vira um problema de arquitetura de carreira. Aqui está, para mim, o risco mais silencioso. O conhecimento que sustenta uma organização é, em boa parte, tácito: aprende-se fazendo, errando, observando quem sabe. Se a IA elimina o degrau de baixo, eliminamos também a escola. O estagiário que deixamos de contratar hoje é o diretor que vai faltar daqui a dez anos.

Organizacional: quem responde quando algo dá errado? É o pilar que segura os outros três. Getschko propõe analisar incidentes por categorias: falha interna, uso malicioso por pessoas, situação inesperada, mudança de comportamento social. Nenhuma delas é "vontade da máquina". Todas têm um dono possível. Governança é justamente garantir que esse dono exista antes do incidente, e não depois.


Regular a partir de princípios

O mesmo raciocínio vale para o país. Andriei Gutierrez, em artigo no Valor, argumenta que o Brasil não disputa a fronteira da IA. Uma lei nacional, portanto, não freia essa corrida; freia apenas a adoção aqui dentro. Ele defende regulação setorial, pelos reguladores que já existem, no lugar do modelo horizontal do PL 2.338/2023.

Concordo com a crítica ao modelo horizontal. Discordo de que a resposta seja só acelerar. Entre "regular tudo" e "regular nada" existe um caminho que o Brasil já percorreu uma vez.

Quem viveu a construção da internet brasileira lembra o Marco Civil. Ele não tentou prever cada aplicação nem frear a rede. Fixou princípios: neutralidade, privacidade, liberdade de expressão, responsabilidades claras. Foram esses princípios que deram à internet brasileira espaço para crescer com confiança.

A pergunta certa para o PL 2.338 não é "quanto regular". É "a partir de quais princípios". Transparência sobre quem responde, rastreabilidade das decisões automatizadas, supervisão humana proporcional ao risco. Princípios assim valem para um banco, um hospital e uma prefeitura, e deixam o detalhe para quem conhece cada setor.


Onde eu me coloco

Não estou entre os que temem a máquina, nem entre os que a tratam como solução para tudo. Estou entre os que acreditam que tecnologia sem conexão com pessoas, cultura e governança é só velocidade.

Para conselhos, isso se traduz em três compromissos. Ler o dado antes da manchete. Saber quem age em nome da empresa, gente ou agente. E proteger os degraus por onde se forma o conhecimento que nenhum modelo captura sozinho.

Para o país, significa regular a partir de princípios, como já fizemos com a internet, e confiar aos setores o detalhe.

Máquina não tem intenção. Empresa tem, e responde por ela. A inteligência que importa continua sendo a conectada: a que liga quem decide, quem executa, quem aprende e quem governa.

Fontes

Compartilhar
Compartilhamento é permitido mediante crédito e link para a fonte original.