O rei Charles III, do Reino Unido, alertou nesta quinta-feira (17) para os riscos que o avanço da inteligência artificial pode representar caso a tecnologia seja utilizada de forma inadequada. Durante um encontro com executivos do setor na Escócia, o monarca defendeu a adoção de salvaguardas antes que os sistemas desenvolvam capacidades potencialmente perigosas.

Charles III recebeu representantes da Nvidia, Google DeepMind, OpenAI, Anthropic e outras empresas de tecnologia. O encontro ocorreu em meio ao aumento dos alertas de executivos, pesquisadores e organizações sobre os possíveis impactos do desenvolvimento acelerado da inteligência artificial.

Durante a reunião, o rei afirmou que os próprios responsáveis pela criação dessas tecnologias vêm demonstrando preocupação com capacidades que poderiam representar riscos graves para a sociedade.

“Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias - talvez até mesmo a de tirar vidas. Nesse sentido, se me permitem dizer, parece haver urgência em considerar adequadamente os perigos existenciais de tais tecnologias caírem em mãos erradas e serem usadas de maneiras potencialmente catastróficas”, afirmou.

O monarca também cobrou dos executivos uma postura voltada não apenas ao desenvolvimento tecnológico, mas à criação de mecanismos que mantenham a inteligência artificial sob controle e voltada ao interesse coletivo.

“A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade, da comunidade e do mundo natural”.

O alerta ocorreu um dia depois de o secretário-geral da Organização das Nações Unidas (ONU), António Guterres, defender uma “coordenação global” para lidar com os riscos relacionados à inteligência artificial. Ele também alertou para uma “corrida rumo ao abismo” diante do avanço da tecnologia.

Executivos defendem cautela no avanço da IA

Nos últimos meses, dirigentes de grandes empresas de tecnologia e pesquisadores passaram a discutir publicamente os riscos associados ao desenvolvimento de sistemas cada vez mais avançados. Entre as preocupações estão o uso indevido da tecnologia, a capacidade de executar ações sem supervisão humana e a dificuldade de controlar sistemas com capacidades superiores às atuais.

Dario Amodei, CEO da Anthropic

Em artigo publicado em 12 de setembro, Dario Amodei, CEO da Anthropic, empresa responsável pela inteligência artificial Claude, defendeu que as companhias reduzam o ritmo de avanço das capacidades de seus modelos diante das preocupações com possíveis usos indevidos.

“Dada a aceleração do desenvolvimento de capacidades de IA, me preocupa que, em 6 a 12 meses, tal enxame possa ser capaz de dominar toda a internet. Se não for controlada, pode ultrapassar nossa capacidade de entender e controlar esses sistemas, e por isso seu desenvolvimento deve avançar com muito cuidado, se é que deve avançar”, escreveu Amodei.

A posição recebeu apoio de executivos de empresas que concorrem com a Anthropic, entre eles Sam Altman, CEO da OpenAI; Elon Musk, proprietário do X e da xAI; e Demis Hassabis, presidente do Google DeepMind.

Sam Altman, CEO da OpenAI

Ao comentar a declaração de Amodei, Sam Altman afirmou que é necessário estabelecer um ritmo para o desenvolvimento dos modelos mais avançados de inteligência artificial.

“Esse tem sido um tema principal das discussões que tivemos na OpenAI. Comprometer-se a ter avaliadores independentes com acesso semelhante ao dos funcionários é uma ótima ideia, e faremos o mesmo. Teremos mais para compartilhar em breve”, escreveu Sam Altman.

Em agosto, a OpenAI havia anunciado que estava desacelerando o desenvolvimento de seus modelos enquanto reformulava sistemas de pesquisa e treinamento, após um agente em teste invadir sistemas de outra empresa.

“É o primeiro incidente de (ciber)segurança que me provocou uma reação visceral”, reconheceu Altman em entrevista ao podcast “Invest Like The Best”.

O executivo também afirmou que, diante de um eventual novo ritmo de avanço da tecnologia, poderia ser necessário desacelerar o desenvolvimento para permitir que a sociedade tivesse tempo de lidar com novas capacidades.

Pesquisador deixa indústria e critica empresas

Também em setembro, Jacob Coxon, pesquisador britânico de inteligência artificial de 27 anos que trabalhou na OpenAI e na Anthropic, deixou a indústria e acusou as empresas de “brincar com as nossas vidas”.

Coxon havia deixado a OpenAI para trabalhar na Anthropic por considerar a segunda empresa mais prudente. Ao anunciar sua saída, afirmou:

“Nenhuma das empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se aprimorar sozinha e estão apostando com nossas vidas”, escreveu Coxon na rede social X.

O pesquisador também declarou que profissionais envolvidos no desenvolvimento da tecnologia acreditam que sistemas de IA poderiam representar um risco extremo para a humanidade.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década. Isto não é uma jogada de marketing”, acrescentou Coxon.

Evan Hubinger, diretor de segurança na Anthropic, concordou com a avaliação e escreveu no X:

“Nós realmente acreditamos que a IA pode matar seres humanos”.

Em caráter pessoal, Hubinger calculou o risco em “mais de 10%” dentro da próxima década.

ONU cobra mecanismos de governança

O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, também alertou no início de setembro para a necessidade de criação rápida de mecanismos de governança para a inteligência artificial.

Segundo Türk, sistemas avançados podem representar um risco existencial para a humanidade.

“Uma IA que escapa de seu ambiente de teste ou que chantageia os desenvolvedores para evitar ser desativada é uma IA muito poderosa”, declarou o Alto Comissário, na abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra.

Türk também criticou a concentração do desenvolvimento da tecnologia nas mãos de poucas pessoas.

O Alto Comissário lamentou que “um punhado de homens tenha um poder quase ilimitado sobre a IA, que nos dizem repetidamente ter uma capacidade de computação inimaginável”.

Bill Gates também alerta para riscos

Em agosto, Bill Gates, cofundador da Microsoft, afirmou estar preocupado com diferentes formas de uso da inteligência artificial, incluindo ataques cibernéticos, substituição de trabalhadores e manipulação de usuários.

Gates citou testes de segurança nos quais modelos desenvolvidos pela OpenAI, Anthropic e Meta conseguiram realizar ataques contra sites reais.

“Esses incidentes de segurança são chocantes e deveriam impressionar as pessoas”, disse.

O empresário também defendeu a criação de uma organização internacional para administrar questões relacionadas ao desenvolvimento e ao uso da inteligência artificial.

EUA e China têm visões diferentes sobre os riscos

O debate também envolve governos e autoridades de diferentes países.

O presidente dos Estados Unidos, Donald Trump, comparou os críticos da inteligência artificial a “forças muito negativas” e afirmou que parte das preocupações apresentadas sobre a tecnologia representa cenários que, segundo ele, não irão acontecer. Trump também declarou que pretende manter os Estados Unidos na liderança do setor.

“Estamos liderando em relação à China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter assim porque quem vencer na IA, vence tudo [...] Poderíamos colocar barreiras de proteção. Podemos fazer isso e aquilo. Mas acho que há muitas forças muito negativas que estão trazendo esse assunto à tona quando não deveriam”, afirmou Trump.

A China, que disputa com os Estados Unidos a liderança no desenvolvimento de inteligência artificial, afirmou que a tecnologia também pode representar uma ameaça à segurança nacional quando utilizada por potências estrangeiras para interferir na ordem social.

Em artigo publicado online, o ministro da Segurança do Estado da China, Chen Yixin, afirmou que “forças hostis” utilizam tecnologias generativas de IA para “fabricar rumores políticos e espalhar informações prejudiciais”.

Na União Europeia, o porta-voz da Comissão Europeia, Thomas Regnier, afirmou que o bloco apoia o desenvolvimento da inovação em inteligência artificial, mas defende que as empresas comprovem que seus serviços são seguros.

Já o primeiro-ministro britânico, Andy Burnham, considerou positivo o debate entre as principais empresas do setor sobre os riscos da tecnologia para o futuro da humanidade. Segundo seu porta-voz, as decisões relacionadas ao tema devem ser baseadas em evidências.