Um grupo de líderes da indústria de IA no mundo, formado por quase 400 pesquisadores, engenheiros e executivos de inteligência artificial, incluindo do Brasil, emitiu um novo alerta sobre a ameaça que a tecnologia pode representar para a existência da humanidade. A sugestão é que os riscos representados pela tecnologia sejam equiparados ao de uma pandemia e de guerras nucleares.
“Mitigar o risco de extinção da IA deve ser uma prioridade global, juntamente com outros riscos em escala social, como pandemias e guerra nuclear”, diz a declaração, que foi publicada no site da organização sem fins lucrativos Center for AI Safety e assinada por nomes como Demis Hassabis, CEO do Google DeepMind, e Sam Altman, CEO da OpenAI.
Este é o segundo documento do tipo elaborado nos últimos meses. Em março, mais de 1mil especialistas, dentre eles Elon Musk, CEO da Tesla e da SpaceX, e Steve Wozniak, cofundador da Apple, assinaram outro que pedia uma pausa de seis meses no desenvolvimento de inteligência artificial.
A carta foi bastante criticada na ocasião. Dessa vez, segundo relatou Dan Hendrycks, diretor executivo do Center for AI Safety, ao The New York Times, a brevidade da declaração e a sua não sugestão maneiras potenciais de mitigar a ameaça representada pela IA pretendiam evitar tal problema e unir especialistas em IA. “Não queríamos forçar um menu muito grande de 30 possíveis intervenções. Quando isso acontece, dilui a mensagem”, afirmou ele.
Hendrycks descreveu a que a mensagem representa uma “revelação” para alguns líderes do setor que expressaram preocupação – mas apenas em particular – sobre os riscos da tecnologia que estavam desenvolvendo.
“Há um equívoco muito comum, mesmo na comunidade de IA, de que há apenas um punhado de pessimistas. Mas, na verdade, muitas pessoas expressariam suas preocupações em particular sobre essas coisas”, afirmou ao NYT.
O portal The Verge observa que os debates envolvendo os sistemas de IA são intermináveis, baseados em cenários hipotéticos nos quais eles aumentam rapidamente em capacidade e não funcionam mais com segurança. Outros temores são relacionados ao uso da tecnologia para vigilância em massa, fortalecimento de algoritmos de “policiamento preditivo” defeituosos e facilitação da criação e propagação de notícias falsas e desinformação.
