Altman e Amodei informam o Conselho de Segurança da ONU sobre os riscos da IA; EUA rejeitam "governação global"

O Conselho de Segurança da ONU reuniu-se a 23 de setembro para discutir inteligência artificial e segurança internacional, sob a presidência do ministro dos Negócios Estrangeiros francês, Jean-Noël Barrot. Entre os oradores estiveram líderes das principais empresas de IA.

Os executivos

O CEO da OpenAI, Sam Altman, presente na sala, disse que o mundo enfrenta uma escolha entre uma IA que seja “um novo Renascimento de criatividade e descoberta” ou “uma nova Revolução Industrial de convulsão e desordem”. Como os modelos ajudam cada vez mais a construir os seus sucessores — o chamado autoaperfeiçoamento recursivo —, afirmou que o momento “exige extremo cuidado”, mas alertou contra o “otimismo cego” e o catastrofismo. Segundo o The Guardian, defendeu que as decisões mais importantes “não podem ser tomadas apenas por laboratórios em São Francisco” e devem passar por processos democráticos.

O CEO da Anthropic, Dario Amodei, por videoconferência, defendeu acordos “restritos” capazes de reunir amplo apoio — por exemplo, a proibição de usar IA para fabricar armas biológicas —, bem como sistemas de avaliação e verificação e normas comuns para testar modelos quanto a uso indevido e perda de controlo.

O CEO da Hugging Face, Clément Delangue, pediu normas mais fortes para monitorizar e divulgar incidentes informáticos provocados por IA. Yoshua Bengio, copresidente do Painel Científico Internacional Independente da ONU sobre IA, descreveu a atual corrida ao desenvolvimento como “uma corrida em que todos perdem”.

Os Estados

França, Dinamarca e Reino Unido manifestaram-se a favor de um quadro comum para gerir os riscos dos modelos de fronteira; o ministro britânico dos Negócios Estrangeiros, Ed Miliband, disse que os governos não podem entregar a empresas privadas o dever de proteger as suas populações. O conselheiro científico da Casa Branca, Michael Kratsios, afirmou que o diálogo internacional “não pode derivar para uma governação global”. O representante da Rússia questionou se o tema genérico da IA cabe no mandato do Conselho, e a China promoveu a sua própria iniciativa de governação global da IA.