Com a renúncia de Jacob Coxon na Anthropic, atingimos o ponto de viragem do risco da IA. Milhões de pessoas finalmente estão começando a entender o que os especialistas sabiam há anos: as empresas de IA têm apostado com todas as nossas vidas, e as chances não são boas.
Em resposta, o CEO da Anthropic, Dario Amodei, apresentou uma proposta para 'pacing the frontier', endossada por Sam Altman e Elon Musk. Podemos suspirar de alívio? Estamos prestes a dar um passo atrás da beira da extinção?
Amodei imagina uma desaceleração de um a dois anos, resultando em 'progresso profundo' nas medidas técnicas de segurança. Mas isso não é o que a humanidade precisa agora. O que precisamos é de um plano no qual tenhamos confiança de que a IA não vai nos matar, e este não é ele.
A realidade crua é esta: não sabemos como esses sistemas de IA funcionam. Não sabemos como impedi-los de se comportarem mal. Não sabemos como manter o controle uma vez que eles forem mais inteligentes do que nós. Não sabemos como garantir que eles não estejam jogando limpo ou fingindo ser burros para enganar nossos testes de segurança. Não podemos contar com a resolução desses problemas em mais um ou dois anos de pesquisa.
Trabalhei no Google DeepMind. Você deve ouvir os alertas sobre IA | Alex Turner
Leia mais
Eu sei porque tenho pesquisado tais problemas há mais de uma década, incluindo como professor de IA tanto na Universidade de Cambridge quanto na Universidade de Montreal. Se queremos reduzir os riscos da IA a um nível aceitável, o que realmente precisamos é de uma moratória imediata, indefinida e internacional sobre o desenvolvimento de IA de fronteira.
Isso é realmente possível? É uma pergunta legítima, e a geopolítica é o cerne: como países como os EUA e a China podem verificar a conformidade um do outro? Donald Trump recentemente criticou veementemente a regulação da IA, citando a liderança dos EUA na corrida armamentista de IA contra Pequim.
Mas uma solução simples está disponível: descomissionar os chips avançados necessários para construir esses modelos de IA. A construção maciça – e já extremamente impopular – de data centers poderia ser revertida. Os EUA e a China poderiam revezar-se no descomissionamento de data centers e dos chips que neles estão contidos. Se todas as partes soubessem que ninguém tinha os meios para construir AIs mais poderosas, a verificação seria simples.
Para tornar tal arranjo duradouro, poderíamos adicionalmente desmantelar a cadeia de suprimentos para produção de chips avançados de IA, que é extremamente concentrada e depende de algumas das tecnologias mais avançadas do mundo: litografia de ultravioleta extrema (EUV) e de ultravioleta profunda (DUV). Qualquer tentativa de operar uma operação de litografia clandestina na escala necessária para o desenvolvimento de IA de fronteira seria quase certamente notada pelos serviços de inteligência de outras nações.
Este plano tem benefícios em comparação a abordagens alternativas que dependem da restrição de como os chips de computador são utilizados. Amodei chama a pausa de 'improvável', mas um acordo para descomissionar infraestrutura de IA seria, na verdade, mais fácil de verificar do que as propostas de Amodei para coordenação global, que exigiriam níveis crescentes de vigilância à medida que o hardware de computação continua avançando e se proliferando.
Os custos econômicos deste plano seriam substanciais, mas dada a magnitude das apostas, a menos que tenhamos um plano melhor que realmente salve nossas vidas, eles claramente valem a pena. Durante a pandemia de Covid-19, governos fecharam partes significativas da sociedade e da economia para salvar vidas. Devemos estar dispostos a ir até muito mais longe para prevenir a extinção da nossa espécie. Estou ativamente pesquisando versões 'mais suaves' da proposta que envolveriam criar chips de computador que podem ser usados para executar modelos de IA, mas não para construir outros mais poderosos. E outros pesquisadores também desenvolveram propostas para um moratário indefinido.
O ensaio de Amodei, infelizmente, não considera essas propostas de pausa. Seu plano é, em última análise, ainda ter IAs construindo IAs mais inteligentes com menos envolvimento humano – "auto-melhoria recursiva", um projeto projetado para tornar os humanos obsoletos.
A China rejeita o 'alarmismo' sobre a IA à medida que o chefe da espionagem alerta sobre ameaça ao regime do Partido Comunista
Leia mais
O que devemos realmente esperar que resulte do plano de Amodei? O primeiro passo seria "incorporar" avaliadores externos de organizações como a METR, que foi convidada a investigar o escândalo OpenAI-Hugging Face. Os CEOs da grande tecnologia podem chamar isso de "radical", mas sejamos claros: o que eles realmente estão falando é de mais autorregulação.
Três anos atrás, ajudei a fundar o Instituto de Segurança da IA do Reino Unido – outro avaliador líder. Eu saí depois que ficou claro que o ecossistema estava invertendo a fórmula da carga da prova. Hoje, a IA ainda é de facto "segura até ser provado perigosa".
Os padrões de segurança sugeridos por Amodei estão garantidos para ficar muito aquém daqueles em outras indústrias com segurança crítica, como a aviação. Nós simplesmente não sabemos como fazer auto-melhoria recursiva com segurança.
Então vamos parar. Vamos parar de criar IA que não podemos controlar e vamos parar de ouvir a indústria de IA sobre como ela quer ser regulamentada. Propostas para uma pausa estão sendo apresentadas tanto nos legislados dos EUA quanto no Reino Unido. O presidente chinês, Xi Jinping, está vindo a Washington para discutir IA, e Trump tem a oportunidade de fazer o acordo do século se conseguirem resolver como parar a corrida da IA.
Vamos exigir um plano que nos torne seguros, não apenas mais seguros.
- David Krueger é professor assistente em Robust, Reasoning and Responsible AI na Universidade de Montreal. Ele também é fundador da Evitable, uma organização sem fins lucrativos que educa o público sobre os riscos da inteligência artificial.
