Google, OpenAI и Anthropic, по данным СМИ, готовят собственный орган по стандартам безопасности ИИ
По информации The Information, три лаборатории хотят запустить отраслевую саморегулируемую организацию к концу 2026-го или в начале 2027 года — без государственного надзора. Критики опасаются, что она оттеснит разработчиков открытых моделей и небольшие компании.
Anthropic, Google и OpenAI работают над созданием новой организации по стандартам для передовых ИИ-моделей и надеются запустить её к концу этого года или в начале 2027-го, сообщило 24 сентября издание The Information со ссылкой на неназванные источники. Сообщение пересказали PYMNTS и Newsquawk; сами компании о создании органа не объявляли.
Чем она будет заниматься
Согласно публикации, организация будет:
- поддерживать сторонние структуры, которые тестируют модели до выпуска;
- определять, как разработчики должны сообщать об инцидентах безопасности;
- формулировать добровольные обязательства лабораторий в области безопасности;
- устанавливать квалификационные требования к независимым аудиторам моделей и лабораторий.
Рабочая группа также обсуждает, не должна ли организация сама тестировать безопасность и возможности моделей.
Саморегулирование вместо партнёрства с государством
Сначала лаборатории добивались государственно-частного партнёрства, но, как говорится в публикации, эта попытка застопорилась при администрации Трампа; теперь план состоит в том, чтобы разработчики регулировали себя сами, без надзора со стороны государства. Некоммерческий Frontier Model Forum, созданный в 2023 году Anthropic, Google, OpenAI и Microsoft со схожими целями, продолжает работу и поддерживает контакт с новой инициативой.
Критика
Критики опасаются, что три крупнейшие лаборатории могут использовать такую организацию, чтобы вытеснить разработчиков открытых моделей и других конкурентов.
Контекст
Публикация появилась на следующий день после выступления руководителей ИИ-компаний в Совбезе ООН, на фоне широкой дискуссии о правилах для ИИ. Глава Nvidia Дженсен Хуанг в подкасте, вышедшем 23 сентября, заявил, что ИИ-компании не должны получать исключений из антимонопольного законодательства и законов об ответственности за продукцию, передаёт Reuters. Ранее в этом месяце глава Anthropic Дарио Амодеи призывал к антимонопольному исключению, чтобы лаборатории могли сотрудничать в вопросах безопасности.