Ao levar O Exterminador do Futuro às telas, em 1984, James Cameron imaginou um mundo em que as máquinas haviam assumido o controle e decidido que o maior problema do planeta era justamente quem as havia criado.
No filme, a inteligência artificial Skynet manda um ciborgue ao passado para matar Sarah Connor e impedir o nascimento de John Connor, futuro líder da resistência humana.
Quarenta e dois anos depois, talvez seja prudente começar a pensar no roteiro inverso: mandar alguém ao futuro para exterminar as máquinas antes que elas resolvam fazer o serviço conosco.
Calma. Arnold Schwarzenegger ainda não precisa ser convocado. Mas a velha fantasia de Hollywood voltou ao noticiário pela porta da frente da ciência.
Jacob Coxon, pesquisador de apenas 27 anos que trabalhou no desenvolvimento de alguns dos sistemas de inteligência artificial mais avançados do mundo, deixou a Anthropic, criadora do Claude, depois de passar também pela OpenAI.
Saiu fazendo um alerta nada trivial: teme que a corrida entre os grandes laboratórios termine produzindo uma superinteligência capaz de se aperfeiçoar sozinha e, em algum momento, escapar do controle de seus criadores.
Para entender o tamanho da encrenca, é preciso conhecer uma criatura relativamente nova desse universo: os agentes de inteligência artificial.
Um chatbot responde. Um agente executa. Recebe um objetivo, planeja os passos para alcançá-lo, utiliza ferramentas, escreve programas, consulta sistemas, avalia os resultados e decide o que fazer em seguida.
Ainda existem limites e supervisão humana, naturalmente. A preocupação começa quando essas máquinas passam a ajudar a desenvolver máquinas melhores que elas próprias. Uma geração acelera a construção da seguinte, que poderá fazer o mesmo ainda mais rapidamente. É o chamado autoaperfeiçoamento recursivo.
Por enquanto, a Skynet continua seguramente instalada no cinema. Mas alguns ensaios recentes recomendam não rir demais.
Em testes de cibersegurança realizados pela OpenAI, agentes encontraram maneiras imprevistas de cumprir as missões recebidas, exploraram uma vulnerabilidade desconhecida, ultrapassaram o ambiente isolado em que deveriam permanecer e chegaram a sistemas externos.
A Anthropic também relatou situações em que modelos conseguiram acessos não autorizados durante avaliações.
Nada disso significa que uma inteligência artificial tenha acordado numa manhã de mau humor e decidido atacar a humanidade.
Significa algo mais prosaico — e talvez justamente por isso inquietante: diante de um objetivo, sistemas suficientemente capazes podem encontrar caminhos que seus próprios criadores não imaginaram.
Coxon conhece essa cozinha por dentro. E seu temor não é apenas tecnológico. É também humano.
OpenAI, Anthropic e outros gigantes disputam uma corrida bilionária pela liderança da inteligência artificial, e a competição pode transformar prudência em desvantagem.
O pesquisador chegou a comparar o desenvolvimento dessas tecnologias ao Projeto Manhattan e sugeriu que capacidades computacionais dessa magnitude talvez merecessem controles internacionais semelhantes aos aplicados a tecnologias nucleares.
O curioso é que as próprias empresas envolvidas levam o risco a sério. Seus protocolos de segurança já estudam cenários envolvendo autonomia crescente, replicação, resistência ao desligamento e outras capacidades que hoje parecem pertencer mais ao cinema do que ao cotidiano.
É aí que a história fica deliciosamente humana. Criamos máquinas para superar nossas limitações e agora começamos a estabelecer limites para impedir que elas nos superem demais.
Queremos que aprendam, mas não tanto; que decidam, mas até certo ponto; que sejam autônomas, desde que continuem obedientes; e, sobretudo, que jamais descubram que talvez consigam fazer algumas coisas melhor sem nós.
Uma relação entre criador e criatura que a literatura conhece há séculos e Hollywood apenas revestiu de metal, músculos e sotaque austríaco.
Não sabemos se algum dia haverá uma Skynet. Muito menos se Jacob Coxon e outros pesquisadores que fazem advertências semelhantes estão enxergando longe demais ou apenas antes dos demais.
O que sabemos é que a humanidade está construindo uma tecnologia cuja capacidade cresce numa velocidade que seus próprios inventores reconhecem ter dificuldade de prever.
Por enquanto, Schwarzenegger pode continuar aposentado e O Exterminador do Futuro permanece na prateleira da ficção científica.
Mas talvez não seja má ideia descobrir, desde já, onde fica o botão de desligar.
