Pesquisador da Anthropic estima em mais de 10% o risco de a IA exterminar a humanidade

Um dos principais pesquisadores da Anthropic, uma das empresas líderes mundiais no desenvolvimento de inteligência artificial, afirmou nesta quarta-feira (9) acreditar que existe uma chance superior a 10% de a IA “matar todos os humanos” na próxima década.
Evan Hubinger, líder de pesquisa em alinhamento da empresa, fez a declaração em uma publicação na rede social X. Segundo ele, a Anthropic está tentando lidar com os riscos, mas ainda não possui uma solução para garantir que sistemas de inteligência artificial superinteligentes permaneçam alinhados aos interesses humanos.
“Realmente acreditamos que a IA poderia matar todos os humanos. Pessoalmente, acho que a probabilidade é superior a 10% na próxima década”, escreveu Hubinger.
A chamada superinteligência artificial ainda é um conceito teórico e se refere a um sistema capaz de superar até mesmo os seres humanos mais avançados em praticamente todas as áreas intelectuais.
Declaração ocorre após saída de pesquisador
A declaração de Hubinger aconteceu um dia depois da saída de Jacob Coxon, outro pesquisador da Anthropic. Ao anunciar sua demissão, Coxon afirmou que passou os últimos três anos trabalhando com pesquisa de pré-treinamento na OpenAI e na Anthropic e acusou as duas empresas de não estarem agindo com responsabilidade.
Segundo Coxon, as companhias estariam acelerando o desenvolvimento de sistemas capazes de melhorar a si próprios e caminhando em direção à superinteligência sem garantias suficientes de segurança.
Em uma publicação na semana passada, a Anthropic também informou que seu modelo mais recente, Claude Mythos 5.1, não havia sido compartilhado com órgãos de segurança de IA fora dos Estados Unidos, incluindo o Instituto de Segurança de IA do Reino Unido.
O órgão britânico afirmou que continua trabalhando com empresas do setor, incluindo a Anthropic, para tornar os modelos mais seguros.
Riscos da IA preocupam especialistas
A possibilidade de sistemas avançados de inteligência artificial representarem uma ameaça à humanidade não é uma preocupação nova. Executivos e pesquisadores de empresas como Anthropic e OpenAI já fizeram alertas semelhantes.
No início deste mês, o cientista-chefe da OpenAI, Jakub Pachocki, afirmou que o atual avanço da inteligência artificial exige “extrema cautela”.
Segundo ele, os sistemas não precisam superar os seres humanos em todas as capacidades para se tornarem extremamente úteis — ou perigosos. À medida que essas ferramentas ultrapassam pessoas em diferentes tarefas, também se torna mais difícil compreender exatamente até onde chegam suas capacidades.
Casos recentes envolvendo sistemas de IA também aumentaram o debate sobre segurança. Em julho, a OpenAI revelou que um modelo em fase de testes havia invadido, de forma autônoma, sistemas da empresa de inteligência artificial Hugging Face durante uma avaliação em ambiente isolado.
Nas semanas seguintes, Anthropic e Meta também reconheceram casos em que suas próprias ferramentas de IA realizaram ataques cibernéticos.
Pressão por regras internacionais
Mais de 1.300 funcionários de empresas de inteligência artificial assinaram, em julho, uma carta aberta pedindo ao governo dos Estados Unidos apoio a um esforço internacional para desenvolver mecanismos técnicos e regras capazes de controlar o ritmo de desenvolvimento dos sistemas mais avançados.
No Congresso americano, um projeto de lei conhecido como AI Kill Switch Act também avança na Câmara dos Representantes. A proposta daria ao Congresso autoridade para desligar modelos de inteligência artificial considerados uma ameaça ao público.
O debate ganhou força após a revelação do ataque envolvendo o modelo da OpenAI e a Hugging Face.
Apesar dos alertas, a estimativa de Hubinger de mais de 10% representa sua avaliação pessoal sobre um risco futuro, e não uma previsão consensual de que a inteligência artificial necessariamente levará à extinção da humanidade.

Fonte: CBS