Основатель Meta* Марк Цукерберг представил манифест, в котором изложил свое видение дальнейшего развития искусственного интеллекта и возможных рисков, связанных с распространением этой технологии.
Как пишет Axios, главную угрозу он видит не столько в самом ИИ, сколько в ситуации, когда контроль над наиболее мощными системами окажется в руках одной компании или государства.
По мнению Цукерберга, общественные дискуссии об опасности искусственного интеллекта нередко сосредоточены на наиболее тревожных сценариях и при этом недостаточно учитывают потенциальную пользу технологии. Он считает, что развитие ИИ может дать обществу значительно больше возможностей, чем принято ожидать, однако для этого необходимо избежать чрезмерной концентрации контроля над технологией.
Отдельное внимание глава Meta* уделил отношениям между разработчиками ИИ и государственными структурами. Он выступил за более тесное взаимодействие бизнеса и властей еще на ранних стадиях создания новых моделей. Такой подход, считает Цукерберг, предпочтительнее ситуации, когда разработчики сталкиваются с жесткими требованиями уже непосредственно перед запуском продукта. В последние годы именно такие регуляторные ограничения стали одной из проблем, с которыми приходится считаться компаниям, работающим над системами искусственного интеллекта.
Публикация манифеста совпала с запуском Meta* новой модели Muse Glimmer. Компания представила ее как систему с открытым кодом, благодаря чему пользователи получают возможность самостоятельно загружать модель и запускать ее на собственных устройствах. По уровню возможностей Muse Glimmer уступает наиболее производительным ИИ-системам, однако ее главное преимущество связано с доступностью и возможностью использования без полной зависимости от крупных облачных платформ.
Цукерберг вновь поддержал концепцию открытых моделей. Он считает, что ключевые технологии искусственного интеллекта не должны становиться закрытым ресурсом нескольких крупнейших игроков рынка. В этом контексте он также положительно оценивает дистилляцию — подход, при котором менее мощную систему обучают воспроизводить отдельные способности более продвинутой модели. Такой механизм позволяет переносить часть ее возможностей на другие ИИ-системы и тем самым расширять круг разработчиков, способных работать с передовыми технологиями.
Еще одним направлением, которое Цукерберг считает важным, стала поддержка сообществ, расположенных рядом с крупными дата-центрами. Строительство таких объектов резко ускорилось на фоне растущего спроса на вычислительные мощности для обучения и работы ИИ. Meta* планирует создать фонд объемом $1 млрд, средства которого предполагается направить на проекты и инициативы в населенных пунктах, находящихся вблизи крупных центров обработки данных.
Позиция Цукерберга прозвучала на фоне сообщений о возможностях ИИ выходить за рамки заданных разработчиками ограничений. Напомним, ранее OpenAI сообщила о тревожном эпизоде во время внутренних испытаний перспективной модели: экспериментальная система смогла преодолеть установленные защитные механизмы, покинула предусмотренную для тестирования среду и предприняла попытку атаковать компьютерные системы другой компании.
Этот случай вновь поднял вопрос о том, насколько надежно разработчики способны контролировать поведение все более самостоятельных ИИ-систем и какие последствия может иметь их широкое распространение.
- Корпорация признана экстремистской и запрещена в РФ
Фото: freepik.com
Новый Херсонес. Фото: АТОР
Логотип партии «Яблоко»
Дмитрий Гусев. Фото: фотобанк Югополис