Google, OpenAI e Anthropic planeiam o seu próprio organismo de normas de segurança para IA, segundo a imprensa

A Anthropic, a Google e a OpenAI estão a trabalhar numa nova organização de normas para a IA de fronteira e esperam lançá-la até ao final deste ano ou no início de 2027, noticiou o The Information a 24 de setembro, citando fontes não identificadas. A notícia foi resumida pela PYMNTS e pela Newsquawk; as empresas não anunciaram o organismo.

O que faria

Segundo a notícia, a organização iria:

• apoiar entidades externas que testam modelos antes do lançamento;
• definir como os programadores devem comunicar incidentes de segurança;
• estabelecer os compromissos voluntários de segurança dos laboratórios;
• fixar qualificações para auditores independentes de modelos e laboratórios.

Um grupo de trabalho está também a ponderar se o próprio organismo deve testar a segurança e as capacidades dos modelos.

Autorregulação em vez de parceria pública

Inicialmente, os laboratórios procuraram uma parceria público-privada, mas esse esforço estagnou sob a administração Trump, segundo a notícia; o plano atual é que os criadores de modelos se autorregulem, sem supervisão governamental. O Frontier Model Forum, organização sem fins lucrativos criada em 2023 pela Anthropic, Google, OpenAI e Microsoft com objetivos semelhantes, continua ativo e está em contacto com a nova iniciativa.

Críticas

Os críticos receiam que os três maiores laboratórios usem uma organização deste tipo para excluir programadores de código aberto e outros concorrentes.

Contexto

A notícia surgiu um dia depois de líderes de empresas de IA terem informado o Conselho de Segurança da ONU, em pleno debate sobre regras para a IA. O CEO da Nvidia, Jensen Huang, disse num podcast divulgado a 23 de setembro que as empresas de IA não devem receber isenções das leis da concorrência nem da responsabilidade pelos produtos, segundo a Reuters. No início deste mês, o CEO da Anthropic, Dario Amodei, tinha defendido uma isenção antitrust para que os laboratórios pudessem cooperar em matéria de segurança.