Altman y Amodei informan al Consejo de Seguridad de la ONU sobre los riesgos de la IA; EE. UU. rechaza la "gobernanza global"

El Consejo de Seguridad de la ONU se reunió el 23 de septiembre para debatir sobre inteligencia artificial y seguridad internacional, bajo la presidencia del ministro de Exteriores francés, Jean-Noël Barrot. Entre los ponentes hubo líderes de las principales empresas de IA.

Los directivos

El consejero delegado de OpenAI, Sam Altman, que intervino en persona, dijo que el mundo debe elegir entre una IA que sea “un nuevo Renacimiento de creatividad y descubrimiento” o “una nueva Revolución Industrial de convulsión y desorden”. Como los modelos ayudan cada vez más a construir a sus sucesores —la llamada automejora recursiva—, afirmó que el momento “exige un cuidado extremo”, aunque advirtió contra el “optimismo ciego” y el catastrofismo. Según The Guardian, sostuvo que las decisiones más importantes “no pueden tomarlas solo laboratorios en San Francisco” y deben pasar por procesos democráticos.

El consejero delegado de Anthropic, Dario Amodei, conectado por vídeo, pidió acuerdos “acotados” que puedan lograr amplio apoyo —por ejemplo, prohibir el uso de la IA para fabricar armas biológicas—, junto con sistemas de evaluación y verificación y normas comunes para probar los modelos frente al mal uso y la pérdida de control.

Clément Delangue, consejero delegado de Hugging Face, reclamó normas más estrictas para vigilar y divulgar incidentes cibernéticos causados por IA. Yoshua Bengio, copresidente del Grupo Científico Internacional Independiente de la ONU sobre IA, describió la actual carrera de desarrollo como “una carrera en la que todos pierden”.

Los Estados

Francia, Dinamarca y el Reino Unido se mostraron a favor de un marco común para gestionar los riesgos de los modelos de frontera; el ministro británico de Exteriores, Ed Miliband, dijo que los gobiernos no pueden delegar en empresas privadas su deber de proteger a la población. El asesor científico de la Casa Blanca, Michael Kratsios, afirmó que el diálogo internacional “no puede derivar hacia una gobernanza global”. El representante de Rusia cuestionó que el tema general de la IA corresponda al Consejo, y China promovió su propia iniciativa de gobernanza global de la IA.