Один из главных архитекторов современного искусственного интеллекта, британско-канадский ученый и лауреат Нобелевской премии Джеффри Хинтон призвал правительства не торопиться с созданием систем ИИ, которые в будущем смогут превзойти человека по уровню интеллекта. По его оценке, разработка так называемого суперинтеллекта пока не имеет достаточной научной базы, которая позволяла бы гарантировать безопасность и контроль над такой технологией.
В интервью The Times ученый предупредил, что появление более умного, чем человек, искусственного интеллекта без надежных механизмов управления способно создать угрозу самому существованию человечества.
Хинтон считает, что международному сообществу следует рассмотреть возможность запрета или жесткого ограничения разработки сверхмощных ИИ-систем до тех пор, пока ученые не найдут способы сделать их предсказуемыми и безопасными. Главная проблема, по его мнению, заключается не столько в нынешних возможностях нейросетей, сколько в перспективе появления машин, которые смогут самостоятельно решать задачи значительно эффективнее людей. Если человечество не сможет сохранять контроль над такой системой, последствия могут оказаться необратимыми.
Ученый обращает внимание на отсутствие единого мнения среди специалистов относительно того, возможно ли вообще создать суперинтеллект таким образом, чтобы человек гарантированно сохранял над ним контроль. Именно эта неопределенность, по его оценке, делает нынешнюю гонку за все более мощными моделями особенно рискованной. При этом развитие ИИ продолжается высокими темпами, а технологические компании и исследовательские центры по всему миру вкладывают огромные ресурсы в создание систем, способных выполнять все более сложные интеллектуальные задачи.
Джеффри Хинтон считается одним из ученых, стоявших у истоков современного бума искусственного интеллекта. Его исследования в области искусственных нейронных сетей стали основой для развития технологии глубокого обучения, которая сегодня используется в самых разных системах — от генеративных чат-ботов до компьютерного зрения и автономного транспорта. В 2012 году Хинтон вместе со своими студентами разработал нейросеть AlexNet. Ее успешное выступление в престижном конкурсе по распознаванию изображений ImageNet стало важным событием для отрасли: результат показал, насколько эффективными могут быть глубокие нейронные сети при обработке визуальной информации, и во многом ускорил переход индустрии к современным методам машинного обучения.
За фундаментальные исследования искусственных нейросетей и их применение в машинном обучении Хинтон в 2024 году получил Нобелевскую премию по физике вместе с Джоном Хопфилдом. При этом ученый не раз говорил о потенциальных рисках собственных разработок и необходимости заранее продумывать способы защиты человечества от неконтролируемого развития ИИ.
Ранее Хинтон также допускал, что некоторые современные системы искусственного интеллекта могут демонстрировать признаки, напоминающие элементы самосознания. В сочетании с дальнейшим ростом вычислительных возможностей это, по его мнению, требует особенно осторожного отношения к созданию более совершенных моделей.
Опасения по поводу долгосрочных последствий развития искусственного интеллекта высказывают не только специалисты по нейросетям. Верховный комиссар ООН по правам человека Фолькер Тюрк ранее говорил об экзистенциальных рисках, связанных с развитием передовых ИИ-технологий, и призывал международное сообщество уделять вопросам безопасности не меньше внимания, чем технологическому прогрессу.
Вопрос о том, насколько далеко следует заходить в создании все более самостоятельных и мощных машин, таким образом, постепенно выходит за рамки научной дискуссии и становится предметом глобальной политики.
Напомним, ранее OpenAI сообщила о ругающем происшествии во время внутренних испытаний перспективной модели: экспериментальная система преодолела установленные защитные механизмы и пыталась атаковать компьютерные системы другой компании.