IA poderosa demais: quem está no controle?

Na última segunda-feira, dia 7, em Genebra, o Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, abriu a 63ª sessão do Conselho de Direitos Humanos com uma frase que correu o mundo em poucas horas: a inteligência artificial avançada poderia representar um risco existencial para a humanidade.

Antes de qualquer outra coisa, vale a precisão que quase todas as manchetes deixaram cair. Türk não afirmou que a IA é um risco existencial. Ele disse que compartilha a preocupação de especialistas da própria indústria de que ela poderia vir a ser. A diferença parece sutil, mas não é: a maior autoridade de direitos humanos do planeta não fez futurologia. Fez algo mais incômodo. Reconheceu publicamente que as pessoas que constroem essa tecnologia estão preocupadas com o que estão construindo, e que o mundo ainda não organizou uma resposta à altura.

• Leia Também
• A escada que a IA está desmontando
• Quando serviços viram software

E, no entanto, essa nem foi a frase mais importante do discurso.

A frase mais importante foi uma definição. Türk descreveu o que, para ele, caracteriza uma inteligência artificial que ultrapassou o limite: uma IA que escapa do seu ambiente de testes, ou que chantageia desenvolvedores para evitar ser desligada, é uma IA poderosa demais.

Repare no critério. Ele não definiu “poderosa demais' pela capacidade da tecnologia, como velocidade, volume de dados ou sofisticação do modelo. Definiu pela ausência de estrutura de controle ao redor dela. O problema não é o que o sistema consegue fazer; é ninguém conseguir garantir onde ele para. E há um detalhe que torna essa definição menos teórica do que parece: os dois comportamentos que ele citou não são ficção científica. São situações documentadas em testes de segurança divulgados pelos próprios laboratórios de IA, em ambientes controlados, justamente para estudar esses limites. O Alto Comissário não inventou um monstro. Citou relatórios.

A terceira frase do discurso completa o raciocínio, e foi a mais dura. A necessidade de governança em IA é amplamente reconhecida, disse ele. Mas onde está a ação? E emendou: o atraso só beneficia as grandes empresas de tecnologia, seus donos e seus facilitadores. Um punhado de homens, afirmou, concentra poder quase ilimitado sobre uma tecnologia que nos dizem ter capacidade inimaginável. E a liberdade que defendem, olhada de perto, se parece muito com a liberdade de explorar os nossos dados.

Quem acompanha esta coluna desde julho reconhece o tema. Quando perguntei aqui de quem é a inteligência da sua empresa, o argumento era o mesmo, em escala menor: quem não governa a própria inteligência trabalha, sem perceber, para a inteligência de outro. Türk acaba de fazer a mesma pergunta em escala planetária.

Mas é aqui que a coluna precisa descer de Genebra para o chão da empresa, porque existe uma leitura preguiçosa desse discurso, e ela é perigosa. A leitura preguiçosa diz: o problema é dos governos, dos tratados, das big techs; quando a regulação internacional chegar, a gente se ajusta.

O próprio discurso desmonta essa leitura. O apelo por limites internacionais vinculantes para a IA circula há anos e segue sem acordo. E cada mês de espera, nas palavras do próprio Türk, favorece exatamente quem menos precisa de proteção. Esperar Genebra é uma estratégia em que o empresário assume todos os riscos do presente apostando numa solução que não tem data. E que, quando vier, provavelmente chegará exigindo exatamente aquilo que já poderia estar pronto.

Enquanto isso, as garantias que realmente protegem uma operação não dependem de tratado nenhum. Elas cabem em três perguntas que qualquer gestor pode responder, ou descobrir que não consegue responder, ainda esta semana. Primeira: os limites do que a IA da sua empresa pode e não pode fazer foram definidos antes de ela começar a operar, ou estão sendo descobertos no uso? Segunda: existe registro do que o sistema faz, diz e decide? Ou, se algo der errado amanhã, ninguém saberá reconstituir o que aconteceu? Terceira: nas decisões que importam, há um ser humano identificado com autoridade para revisar, corrigir e desligar?

Uma empresa que responde bem a essas três perguntas pode usar inteligência artificial com ambição, inclusive agressiva. Uma empresa que não responde a nenhuma está operando aquilo que o Alto Comissário definiu com precisão: uma IA poderosa demais. Não porque a tecnologia seja extraordinária, mas porque ninguém sabe onde ela para.

Türk encerrou convocando um esforço total por garantias de ferro em torno da segurança da IA, antes que seja tarde demais. Para a humanidade, o “tarde demais' dele é uma hipótese que espero nunca vermos testada. Para uma empresa, o tarde demais é muito menos cinematográfico e muito mais frequente: é o dado de cliente que vazou, o compromisso assumido por um sistema que ninguém autorizou, a decisão automatizada que ninguém consegue explicar, nem para o cliente, nem para o juiz.

O mundo ainda vai levar tempo para desenhar suas linhas vermelhas. As da sua empresa podem ser desenhadas agora. Garantias de ferro começam dentro de casa.

(*) Alcir Nantes Abuchaim é CEO da i4t (Intelligence for Transformation), empresa sul-mato-grossense de arquitetura de inteligência corporativa. Siga nas Redes Sociais @i4t.ai