Jacob Coxon alegou que empresas como OpenAI, dona do ChatGPT, e Anthropic, dona do Claude, não atuam de maneira responsável e estão avançando em direção a uma superinteligência artificial
Na última terça-feira (8), o pesquisador Jacob Coxon, que já trabalhou na OpenAI, dona do ChatGPT, anunciou que deixou a Anthropic, criadora do Claude. Segundo ele, as empresas não agem de maneira responsável e caminham rápido demais rumo a uma IA capaz de se aprimorar sozinha. O caso repercutiu ainda mais quando Evan Hubinger, pesquisador da Anthropic que trabalha com alinhamento de IA, concordou publicamente com Coxon e ainda revelou acreditar que há uma chance maior que 10% de a IA matar todos os humanos na próxima década — embora isso não seja um fato ou consenso científico.
Neste sentido, Hubinger reconheceu que a Anthropic ainda não tem um plano para resolver o problema de alinhamento de uma possível inteligência artificial autônoma. Nas próximas linhas, o TechTudo explica o que é superinteligência, por que ela preocupa os pesquisadores da área e os motivos para as empresas continuarem avançando mesmo com os riscos.
🔎 Aceita todos os cookies'? Veja dados que podem ser coletados ao clicar
🔔Canal do TechTudo no WhatsApp: acompanhe as principais notícias, tutoriais e reviews
🔎 A marca d’água do Claude vai acabar com os detectores de IA? Entenda
IA pode acabar com a humanidade? Entenda alerta de ex-pesquisador da Anthropic — Foto: Distribuição: X (jacob coxon @hilbertspaess)
📝Como a inteligência artificial é implementada em chatbots? Veja no Fórum do TechTudo
📲 Comparador de celulares do TechTudo: como usar a ferramenta e economizar
🔎 Marca d'água do Claude: quem usa a IA para revisar textos será identificado?
1. O que aconteceu e por que o alerta viralizou
Jacob Coxon é um pesquisador que passou os últimos três anos trabalhando com pré-treinamento de inteligência artificial nas empresas OpenAI e Anthropic, donas dos chatbots ChatGPT e Claude, respectivamente. Na última terça-feira (8), em uma publicação no X (Twitter), ele anunciou que deixou a Anthropic, com a justificativa de que as duas empresas não atuam de forma responsável e estariam caminhando rumo a sistemas de superinteligência sem garantias suficientes de segurança e “apostando” com a vida das pessoas.
O post viralizou na rede social com mais de 100 milhões de visualizações, e ganhou ainda mais força quando recebeu a resposta de Evan Hubinger, pesquisador da Anthropic que trabalha com alinhamento de IA e que concordou com a avaliação de Coxon. Para Hubinger, há uma probabilidade maior do que 10% de que a IA possa matar todos os seres humanos na próxima década. Ele destacou que a Anthropic ainda não tem um plano para resolver o problema do alinhamento da superinteligência artificial. Vale destacar que a previsão dos 10% é uma estimativa pessoal de Hubinger, não um número oficial da Anthropic nem um consenso entre especialistas.
2. Afinal, como uma IA poderia causar uma catástrofe?
Existem alguns contextos que preocupam os pesquisadores de segurança de IA pelo potencial de causar uma catástrofe. Isso ocorreria, por exemplo, se a tecnologia tivesse a capacidade de se aprimorar de maneira autônoma. Com isso, a inteligência artificial poderia se tornar uma superinteligência artificial, com sistemas capazes de executar diversos tipos de tarefas sem supervisão humana. Na prática, a IA poderia acessar computadores, redes, dinheiro e demais ferramentas, além de encontrar e explorar vulnerabilidades digitais.
Neste cenário, os sistemas poderiam começar a desenvolver objetivos próprios e incompatíveis com os interesses humanos — e até mesmo os pesquisadores teriam dificuldades para controlar ou interromper as ações de uma IA muito mais capaz que seus criadores e supervisores. Sendo assim, quando Hubinger traz a ideia de que a IA poderia “matar todos os humanos”, não significa necessariamente que um robô irá atacar pessoas, como acontece nos filmes, mas sim que esses sistemas altamente autônomos poderiam perseguir objetivos de maneiras que os humanos não conseguem prever ou impedir.
3. O que é superinteligência e por que ela preocupa os pesquisadores?
O conceito de superinteligência artificial trata-se de uma IA hipotética, que seria capaz de superar os humanos em praticamente todas as tarefas cognitivas relevantes, ou seja, muito mais inteligente do que uma pessoa. Ela poderia raciocinar, aprender e ter habilidades cognitivas, como em um filme de ficção científica no qual a IA teria evoluído a ponto de entender sentimentos, ter emoções e desejos próprios.
Neste contexto, há também a ideia de recursive self-improvement (autoaperfeiçoamento recursivo), na qual os sistemas dessas superinteligências artificiais poderiam ser capazes de desenvolver versões mais poderosas de si mesmos e aumentar as capacidades, o que gera aumento na preocupação dos pesquisadores, como Hubinger.
Vale lembrar que a inteligência artificial atual, também chamada de IA limitada ou fraca, é treinada com aprendizado de máquina e executa tarefas específicas, sem capacidade de raciocínio ampla. Há também a inteligência artificial geral (AGI) ou “IA forte”, que seria capaz de aprender e realizar diferentes tarefas como os seres humanos ou de uma maneira mais inteligente, incluindo tomar decisões e planejar o futuro.
Superinteligência artificial é uma IA hipotética, que seria capaz de superar os humanos em todas as tarefas cognitivas — Foto: Reprodução/Magnific
4. O que significa “alinhamento” de IA?
Em linhas gerais, o termo AI alignment ou “alinhamento de IA” significa fazer com que os objetivos e comportamentos de um sistema de inteligência artificial continuem sendo compatíveis com os interesses, necessidades e intenções humanas, mesmo quando essa IA se torna muito mais capaz do que uma pessoa. É uma forma de manter a IA útil e segura, sem consequências perigosas.
Por exemplo, se um usuário pede ajuda a uma IA para resolver um problema, como é possível garantir que ela interprete corretamente o objetivo e não encontre uma solução extremamente eficiente, mas prejudicial? O alinhamento serve para estipular regras que evitem que as IAs simplesmente ofereçam respostas com eficiência máxima, porém perigosas e arriscadas, que não respeitem limites morais, por exemplo. Dessa forma, o problema fica mais complexo conforme a IA ganha mais autonomia e capacidade, visto que os humanos teriam menos controle sobre elas.
Alinhamento de IA significa fazer com que os objetivos de um sistema de IA continuem sendo compatíveis com os interesses humanos — Foto: Foto de Tara Winstead: https://www.pexels.com/pt-br/foto/mao-dedo-futuro-robo-8386440/
5. Por que as empresas continuam avançando se os próprios pesquisadores reconhecem os riscos?
Embora existam todos os riscos mencionados anteriormente na matéria, há uma crescente “corrida da IA” entre as empresas de tecnologia, como OpenAI, Anthropic e Google, que competem pelo desenvolvimento de modelos cada vez mais capazes. Mesmo com as preocupações em torno do avanço da tecnologia, essas companhias vivem uma pressão comercial para lançar produtos mais poderosos, sobretudo com o argumento de que, se uma empresa desacelerar, as outras continuarão avançando.
Coxon diz que é justamente esse raciocínio que estaria criando essa “corrida” em que as empresas seguem firmes, mesmo reconhecendo os riscos. O paradoxo está justamente no fato de que, por um lado, as empresas desenvolvem tecnologias que seus próprios pesquisadores consideram potencialmente perigosas, mas, ao mesmo tempo, buscam criar mecanismos para torná-las seguras.
Empresas de tecnologia, como OpenAI, Anthropic e Google, vivem uma "corrida de IA" — Foto: Imagem gerada por IA/OpenAI
6. A OpenAI e a Anthropic já têm mecanismos para controlar esses riscos?
Os alertas de Jacob Coxon e Evan Hubinger mostram que a Anthropic ainda não tem um mecanismo capaz de controlar os possíveis riscos do avanço da IA. Hubinger escreveu que “ainda não temos um plano para resolver o problema do alinhamento da superinteligência e não estamos claramente no caminho certo para isso”. Ele ainda completa o raciocínio, dizendo que não teme riscos associados aos modelos atuais: “O que me preocupa é o surgimento de uma superinteligência resultante do autoaperfeiçoamento recursivo — processo que, como já apontamos, está ocorrendo mais rapidamente do que prevíamos”.
Já no caso da OpenAI, existe o Preparedness Framework, que estabelece avaliações para riscos catastróficos, define níveis de segurança para desenvolvimento e implantação de modelos, além de considerar riscos relacionados à perda de controle sobre sistemas avançados. Contudo, mesmo com medidas de segurança, pesquisadores de dentro das empresas de tecnologia seguem dizendo que elas não são suficientes.
Pesquisadores de empresas de tecnologia criticam a falta de mecanismos de segurança no desenvolvimento de IAs — Foto: Reprodução/Marissa Leshnov/The New York Times
7. Coxon é o primeiro pesquisador a deixar uma empresa de IA por esse motivo?
Não, Coxon não é o primeiro pesquisador a sair de uma grande empresa de inteligência artificial pelos motivos citados anteriormente. O episódio atual não surgiu isoladamente, afinal, outros pesquisadores já deixaram seus trabalhos por questões de segurança e alinhamento de IA.
Um deles é Jan Leike, ex-chefe de alinhamento da OpenAI, que saiu da empresa em 2024, com críticas à prioridade dada ao desenvolvimento de produtos em relação à segurança. Outro exemplo é Mrinank Sharma, que saiu da Anthropic em 2026 e publicou uma carta sobre as dificuldades de fazer com que os valores de segurança orientassem as decisões da organização.
Coxon não é o primeiro pesquisador a sair de uma grande empresa de IA — Foto: Reprodução/Freepik
8. Devemos acreditar na previsão de “mais de 10%”?
Como explicado na matéria, a estimativa de que há uma chance maior do que 10% de que a IA possa matar todos os seres humanos na próxima década é uma opinião pessoal de Hubinger. Isso porque não há uma maneira objetiva de calcular atualmente a probabilidade de uma superinteligência causar a extinção humana. Portanto, o pesquisador traz uma avaliação subjetiva de risco, e reconhecer isso não significa necessariamente afirmar que essa extinção de fato acontecerá.
Por fim, vale destacar que os pesquisadores e as organizações divergem bastante sobre a probabilidade de uma superinteligência surgir. Portanto, o ponto mais relevante do episódio é que pesquisadores diretamente envolvidos no desenvolvimento dessas IAs consideram o risco suficientemente sério para defender mais cautela.
Previsão dos 10% não é um fato ou consenso científico — Foto: Alex Knight/Unsplash
Com informações de X (1 e 2)
Mais recente Próxima Limites do NotebookLM: veja o que a ferramenta do Google não consegue fazer
- Anthropic
- ChatGPT
- Claude.AI
- OpenAI
