A inteligência artificial chegou cercada de entusiasmo, mas também de preocupação. Em pouco tempo, essas ferramentas passaram de novidade tecnológica a presença constante no trabalho, nos estudos e na vida cotidiana. Ao mesmo tempo, alguns dos empresários e pesquisadores responsáveis por seu desenvolvimento começaram a falar sobre os riscos que elas podem trazer. Há quem preveja grandes mudanças no mercado de trabalho, quem espere máquinas cada vez mais capazes e quem veja, em um futuro distante, uma ameaça à sobrevivência humana. Diante disso, surge uma pergunta simples: por que os próprios criadores dessas máquinas parecem tão preocupados com aquilo que estão construindo?

Para entender essa preocupação, é preciso voltar aos anos 1990. Naquela época, Eliezer Yudkowsky conheceu os Extropianos, um grupo de futuristas que acreditava no poder da tecnologia para ampliar os limites da vida humana. Eles imaginavam vidas mais longas, novas formas de reparar o corpo e até possibilidades de levar a mente para além das limitações do organismo. Yudkowsky ficou especialmente interessado na criação de uma inteligência artificial superior à humana.

Com o tempo, esse entusiasmo deu lugar a uma preocupação mais profunda. Se uma máquina se tornasse muito mais inteligente do que seus criadores, como seria possível mantê-la sob controle? E como garantir que seus objetivos continuariam alinhados aos interesses humanos? Essas perguntas ajudaram a formar o Racionalismo, uma corrente que valorizava o pensamento lógico e procurava entender como evitar erros de raciocínio e riscos capazes de levar a humanidade à extinção.

Essas ideias encontraram espaço entre engenheiros, pesquisadores e empreendedores do Vale do Silício. Para alguns deles, desenvolver inteligência artificial não significava apenas criar novos produtos ou empresas. A tecnologia passou a ser vista como parte de uma transformação histórica, quase como uma missão capaz de definir o futuro da humanidade. Essa visão ajudou a aproximar diferentes grupos e comunidades interessados nos efeitos de tecnologias cada vez mais poderosas.

Com o passar dos anos, esse ambiente intelectual também se relacionou com o movimento do altruísmo eficaz e chegou a pessoas ligadas a empresas que hoje ocupam posições importantes no setor de inteligência artificial. O material de origem aponta conexões com nomes ligados à DeepMind, à OpenAI e à Anthropic.

Essa história ajuda a entender por que alguns dos atuais líderes da indústria falam tanto sobre os perigos da inteligência artificial. Sam Altman e Dario Amodei, por exemplo, já demonstraram preocupação com sistemas cada vez mais poderosos e com a dificuldade de garantir que eles permaneçam sob controle humano. Isso não significa que sigam integralmente o pensamento de Yudkowsky ou que façam parte do Racionalismo. Ideias, porém, podem continuar influentes mesmo quando as pessoas se afastam dos grupos que originalmente as defenderam.

O problema é que esse olhar voltado para um futuro distante pode tirar espaço de riscos que já estão diante de nós. Sistemas de inteligência artificial podem ser usados em ataques cibernéticos, espalhar informações falsas e produzir respostas erradas com aparência de verdade. Também estão mudando a maneira como estudamos e trabalhamos, enquanto aumentam a possibilidade de dependência de respostas automáticas. São problemas menos cinematográficos do que uma máquina fora de controle, mas já fazem parte da realidade.

Talvez o mais curioso seja que esses problemas já estejam acontecendo enquanto continuamos discutindo aquilo que pode acontecer daqui a décadas. É muito mais impressionante imaginar uma máquina consciente escapando ao controle humano do que falar dos erros de um sistema usado todos os dias. O futuro assusta, mas o presente também merece atenção.

Existe ainda outro ponto que merece atenção. Quando a inteligência artificial é apresentada como uma força inevitável, seus próprios criadores podem parecer simples espectadores de um processo que ninguém consegue interromper. Mas essas tecnologias não surgiram sozinhas. Foram desenvolvidas por pessoas, financiadas por empresas e colocadas nas mãos do público a partir de decisões concretas. Se houve escolha para criá-las e lançá-las, também existe responsabilidade sobre seus efeitos.

Imagine uma empresa de automóveis que descubra um defeito grave em um de seus modelos. Seria estranho se, em vez de resolver o problema, seus dirigentes começassem a falar sobre os riscos dos carros voadores que talvez existam daqui a vinte anos. A comparação ajuda a entender o debate atual: antes de imaginar tudo o que uma inteligência artificial poderá fazer no futuro, precisamos prestar atenção ao que ela já está fazendo hoje.

Isso não significa ignorar os riscos de longo prazo. É importante estudar o que pode acontecer quando os sistemas se tornarem mais poderosos e discutir regras capazes de reduzir possíveis danos. O cuidado necessário está em não transformar possibilidade em certeza. Um risco pode ser real sem que seu pior cenário seja inevitável.

Também seria um erro tratar a inteligência artificial apenas como ameaça. Ela pode ajudar profissionais, estudantes e pesquisadores, acelerar tarefas e facilitar o acesso a informações. Ao mesmo tempo, pode produzir erros, estimular dependência e reduzir o exercício de habilidades que antes faziam parte do trabalho e do estudo. A mesma ferramenta pode ser útil em uma situação e prejudicial em outra.

Talvez a transformação mais importante aconteça justamente de maneira silenciosa. Não precisamos esperar por máquinas conscientes ou por cenários de ficção científica. Basta observar quantas pessoas já usam inteligência artificial para escrever, pesquisar, resumir textos, escolher entre alternativas e organizar decisões. Quando essas pequenas mudanças se repetem em milhões de vidas, elas deixam de ser apenas escolhas individuais e passam a alterar a sociedade.

Por isso, algumas perguntas são mais urgentes do que imaginar o fim do mundo. Onde essas ferramentas realmente ajudam? Onde elas falham? Quem se beneficia delas e quem assume os riscos quando alguma coisa dá errado? E, principalmente, quanto da nossa capacidade de julgar estamos dispostos a entregar a sistemas que ainda podem cometer erros?

Não sei se a inteligência artificial vai salvar o mundo. Também não sei se vai destruí-lo. Desconfio de qualquer pessoa que trate uma dessas possibilidades como certeza. O que sabemos é mais simples: essas ferramentas já estão mudando nossa maneira de trabalhar, estudar e lidar com informações.

Por isso, talvez não seja necessário escolher entre entusiasmo e medo. Podemos aproveitar o que funciona, reconhecer os limites e corrigir os problemas à medida que eles aparecem. A inteligência artificial continuará avançando, mas a velocidade desse avanço não precisa determinar sozinha o lugar que essas máquinas ocuparão em nossas vidas.

No fim, a questão talvez não seja descobrir até onde a inteligência artificial pode chegar. É decidir até onde queremos que ela chegue. As máquinas podem se tornar cada vez mais capazes, mas ainda cabe a nós escolher quais tarefas entregar a elas, quais riscos aceitar e quais decisões continuarão sendo nossas.

Palmarí H. de Lucena