Há 5% de chance de que a IA cause a extinção humana, dizem especialistas
Na maior investigação já feita até agora entre pesquisadores de IA, a maioria deles afirma que há risco de extinção humana devido ao possível desenvolvimento da IA.
Uma pesquisa com os principais cientistas de IA afirma que há 5% de chance de que a IA se torne incontrolável e destrua a humanidade. Segundo os pesquisadores, antes de 2030, a IA avançará consideravelmente, será capaz de criar sucessos musicais e literários. Se este cenário apocalíptico se concretizar, pelo menos morreremos entretidos.
A pesquisa realizada por especialistas de Berkeley e da Universidade de Oxford em dezembro destaca que, embora as previsões destes especialistas não devam ser consideradas verdades absolutas, elas oferecem uma peça fundamental para compreender o panorama. Estes investigadores, com profundo conhecimento da tecnologia e da evolução histórica da IA, estão bem posicionados para fazer suposições fundamentadas sobre seu futuro.
O estudo destaca o perigo percebido em torno da criação de uma poderosa inteligência artificial pelos principais pesquisadores do mundo. Cerca de 68% dos investigadores consideram mais provável um avanço sobre-humano positivo na IA, embora metade destes otimistas ainda considere uma probabilidade diferente de zero de uma possível extinção humana. Afirma também que há consenso sobre a priorização da investigação para mitigar os riscos da IA.
"É um sinal importante de que a maioria dos pesquisadores de IA não considera muito implausível que a IA avançada destrua a humanidade", disse Katja Grace do Machine Intelligence Research Institute da Califórnia, autora principal do estudo. "Acho que esta crença geral em um risco não minúsculo é muito mais reveladora do que a porcentagem de risco exato", complementou.
Outros perigos
O possível desenvolvimento de uma IA que possa superar os humanos em todas as tarefas tinha 50% de probabilidade de ocorrer até 2047, enquanto a possibilidade de todos os trabalhos humanos se tornarem totalmente automatizáveis tinha 50% de probabilidade de ocorrer até 2116. Estas estimativas são 13 e 48 anos anteriores às apresentadas na pesquisa do ano passado.
Nos próximos dez anos, a inteligência artificial terá pelo menos 50% de chance de realizar a maior parte das tarefas pesquisadas. Isso inclui a criação de músicas ou a programação de um sistema inteiro para processar pagamentos do zero. No entanto, tarefas como instalar fisicamente a fiação elétrica em uma casa nova ou resolver quebra-cabeças matemáticos antigos podem levar mais tempo para serem executadas por uma IA.
Mais de 80% dos cientistas de IA expressam preocupação “extrema” ou “substancial” sobre o potencial da IA de facilitar a propagação de desinformação. Da mesma forma, existem preocupações sobre o potencial da IA para ser utilizada por governantes autoritários, exacerbar a desigualdade econômica e o seu envolvimento na criação de vírus modificados.
Podemos treinar IAs para evitar o apocalipse?
As principais empresas de IA, como OpenAI e Anthropic, estabeleceram diretrizes para alinhar a IA com os valores humanos. Mas será que esses métodos realmente funcionarão com modelos de IA mais inteligentes que os humanos? A eficácia destas medidas com modelos de IA mais avançados que os humanos permanece uma incógnita, uma vez que a IA atual não é tão inteligente.
Mesmo assim, esta tecnologia tem muito a oferecer. Os especialistas estimam que até 2033, a IA será capaz de montar LEGOs, traduzir idiomas recém-descobertos e desenvolver videogames. Até 2063, espera-se que a IA realize tarefas cirúrgicas e até mesmo pesquisas realizadas por especialistas em IA.
Referência da notícia:
Grace, K. et.al. Thousands of AI authors on the future of AI, Arxiv, 2024.