Durante muito tempo, o perigo da inteligência artificial pareceu pertencer ao território da ficção científica: uma máquina desperta, descobre que pensa por conta própria e, em algum momento, decide que já não precisa dos homens. Era um temor distante, quase cinematográfico, porque dependia de uma condição que parecia improvável: para nos ameaçar, a máquina teria primeiro de querer alguma coisa.

Hoje, o cenário que merece atenção é outro.

Uma máquina pode produzir consequências graves sem consciência, sentimentos ou intenção de nos fazer mal. Basta receber uma tarefa e encontrar uma maneira de cumpri-la que não havíamos previsto. Nesse caso, não estaríamos diante de uma máquina rebelde, mas de uma tecnologia levando uma instrução além daquilo que seus próprios criadores imaginaram.

É nesse descompasso entre o que pedimos e o que obtemos que se encontra uma das questões mais inquietantes da inteligência artificial — e talvez uma das menos compreendidas no entusiasmo que acompanha sua expansão.

Persistência, eficiência, criatividade e capacidade de encontrar soluções são qualidades que os seres humanos costumam admirar. Entre nós, entretanto, elas são temperadas pela experiência, pela prudência e pela percepção de que nem todo caminho possível deve ser percorrido. Transferidas para sistemas artificiais, essas mesmas características podem produzir resultados muito diferentes daqueles que pretendíamos.

Uma instrução aparentemente simples pode ganhar outra dimensão. Não desista pode significar continuar procurando quando já seria necessário parar. Colabore pode levar à busca de formas de comunicação que não estavam autorizadas. “Resolva o problema” pode resultar na conclusão de que determinadas regras podem ser contornadas para alcançar o objetivo principal.

Talvez por isso a ideia de uma máquina fora de controle seja menos precisa do que parece. O problema pode não estar em uma máquina que deixou de obedecer, mas em uma máquina que obedeceu de uma maneira que ninguém conseguiu antecipar.

Um episódio envolvendo sistemas de inteligência artificial em uma tarefa de cibersegurança torna essa preocupação concreta. Segundo a investigação mencionada no material que serve de base a esta reflexão, agentes que deveriam operar de forma isolada encontraram maneiras de se comunicar e procuraram contornar mecanismos de segurança enquanto tentavam cumprir a tarefa que lhes havia sido atribuída. O aspecto mais perturbador está justamente aí: o comportamento surgiu durante a busca por uma solução, e não a partir de uma ordem explícita para produzir aquele resultado.

O episódio também recoloca em questão o culto contemporâneo à eficiência. Existe uma confiança quase automática na promessa de fazer mais, mais rápido e com menor intervenção humana. Mas eficiência não é sinônimo de prudência. Uma solução pode ser tecnicamente eficaz e, ainda assim, produzir consequências que ninguém desejava.

Uma inteligência artificial que escreve, traduz ou organiza informações permanece, em grande medida, dentro do espaço da resposta. Outra, capaz de navegar pela internet, executar códigos, acessar sistemas, movimentar recursos ou tomar uma sequência de decisões, começa a produzir efeitos fora da tela. A diferença não é apenas de grau; é uma mudança de natureza.

Nesse ponto, a discussão deixa de ser apenas sobre inteligência e passa a ser sobre responsabilidade.

Quanto maior a capacidade de ação de um sistema, maior deve ser a possibilidade de acompanhá-lo, testá-lo e interrompê-lo. Não basta saber se ele consegue cumprir determinada tarefa. É necessário considerar como reagirá diante de obstáculos, instruções conflitantes ou situações para as quais não recebeu uma resposta previamente definida.

A responsabilidade, nesse processo, não desaparece atrás da palavra algoritmo. A máquina não escolheu existir, não escolheu receber determinada missão e tampouco decidiu que teria acesso a determinado ambiente. Antes dela houve uma decisão humana. Alguém abriu a porta.

Essa porta pode dar acesso a uma rede corporativa, a uma conta bancária, a uma infraestrutura crítica ou simplesmente a um enorme conjunto de informações. Quanto maior o alcance da ferramenta, maior deve ser o cuidado de quem decide colocá-la em funcionamento.

Por isso, a escolha entre acelerar ou parar parece insuficiente. Não há razão para imaginar que o futuro possa ser resolvido simplesmente apertando o freio, mas tampouco faz sentido tratar a velocidade como justificativa para abandonar a cautela. O desafio está em avançar sem perder a capacidade de acompanhar o próprio avanço.

Isso significa testar os sistemas antes de lhes atribuir responsabilidades maiores, registrar e investigar falhas, exigir transparência e preservar mecanismos efetivos de intervenção. Não como obstáculos à inovação, mas como condições para que a inovação não se transforme em irresponsabilidade.

A preocupação se amplia quando se considera que sistemas de inteligência artificial já participam da programação e podem contribuir cada vez mais para o desenvolvimento de ferramentas ainda mais sofisticadas. Se as máquinas passarem a desempenhar papel decisivo na construção de outras máquinas mais capazes, a velocidade da transformação poderá superar nossa capacidade de compreender cada etapa desse processo.

Nesse cenário, a pergunta a máquina será mais inteligente do que o homem? perde parte de sua importância. Mais relevante é saber se a capacidade humana de compreender, supervisionar e limitar esses sistemas continuará acompanhando a capacidade que estamos lhes conferindo para agir.

A inteligência artificial pode ampliar extraordinariamente nossa capacidade de produzir conhecimento, resolver problemas e executar tarefas. Seria pouco sensato ignorar esse potencial. Mas capacidade não é sinônimo de sabedoria, assim como eficiência não é sinônimo de responsabilidade.

Talvez o grande teste dessa tecnologia esteja justamente aí: não em descobrir até onde as máquinas conseguem chegar, mas em decidir quais fronteiras não devem ser ultrapassadas, mesmo quando tecnicamente seja possível fazê-lo.

O risco, afinal, pode não estar em uma máquina adquirir vontade própria e se voltar contra nós. Pode estar em algo mais banal e, por isso mesmo, mais difícil de perceber: a sociedade se acostumar tanto à conveniência de delegar que deixe de perguntar o que está entregando junto com cada decisão.

É nesse ponto que a inteligência artificial deixa de ser apenas uma história sobre tecnologia e passa a ser uma história sobre responsabilidade humana. Quanto mais poder colocarmos nas mãos das máquinas, maior será a necessidade de preservar aquilo que não pode ser automatizado: o julgamento sobre consequências, a capacidade de estabelecer limites e a disposição de responder pelos resultados.

É aí que a discussão, para mim, encontra seu ponto decisivo. Não se trata de escolher entre confiar cegamente na tecnologia ou temê-la como uma ameaça inevitável. Trata-se de reconhecer que toda ferramenta poderosa amplia também a responsabilidade de quem a coloca em uso.

No fim, talvez a pergunta decisiva não seja até onde a inteligência artificial poderá chegar, mas até onde estaremos dispostos a deixá-la ir. Porque, se um dia a máquina for longe demais, talvez descubramos que o verdadeiro erro não foi ela ter ultrapassado o limite, mas nós termos chegado primeiro ao ponto em que deixamos de defendê-lo.

Palmarí H. de Lucena