Британско-канадский физик Джеффри Хинтон, человек, чьи математические открытия легли в фундамент современного машинного обучения и которого мировое сообщество называет «крестным отцом» искусственного интеллекта, в откровенном разговоре с изданием The Guardian признался, что человечеству, возможно, было бы гораздо спокойнее, если бы нейросети никогда не покидали страницы научных журналов.
78-летний ученый, удостоенный Нобелевской премии по физике в 2024 году за свои революционные работы с искусственными нейронными сетями, больше не питает иллюзий по поводу творения собственных рук. По его словам, мир стоит на пороге беспрецедентного кризиса: уже в нынешнем или следующем году бесконтрольное развитие алгоритмов может спровоцировать техногенное или финансовое бедствие глобального масштаба.
Хинтон рисует пугающую картину ближайшего будущего, в которой сбой в работе нейросети приводит к блэкауту энергосетей или длительному параличу мировой банковской системы. Ученый проводит прямую и пугающую параллель с историей, сравнивая грядущий цифровой коллапс с аварией на Чернобыльской АЭС. Он полагает, что только по-настоящему масштабная катастрофа, парализующая привычный уклад жизни, способна заставить мировых лидеров отказаться от гонки вооружений в сфере ИИ и всерьез заняться протоколами безопасности. «Возможно, было бы лучше, если бы мы вообще не создавали эту технологию», — с горечью резюмирует лауреат, подчеркивая, что цена ошибки теперь измеряется выживанием цивилизации.
Особое беспокойство у профессора Хинтона вызывает моральный компас тех, кто сегодня держит руку на пульсе цифрового прогресса. Он прямо обвиняет руководство крупнейших хайтек-корпораций в циничном пренебрежении рисками ради сверхприбылей. В его словах не остается места дипломатии, когда речь заходит об Илоне Маске, Марке Цукерберге и Сэме Альтмане: по глубокому убеждению ученого, эти визионеры прекрасно осознают экзистенциальную угрозу, но им безразлично, им важнее деньги. Хинтон признается, что совершенно не доверяет главе OpenAI, называя его подход к безопасности безответственным на фоне гонки за мировое господство с Китаем.
Заглядывая на десятилетие вперед, создатель нейросетей видит лишь два полярных сценария развития событий. В первом человечество берет технологии под жесткий контроль, что открывает эру «радикального изобилия», где алгоритмы избавляют людей от нужды. Во втором случае, если гонка на опережение продолжится без тормозов, ИИ спровоцирует чудовищное социальное расслоение, уничтожит миллионы рабочих мест, вызовет глубочайший культурный раскол и в конечном итоге просто разрушит привычное нам общество.
Ранее Джеффри Хинтон уже публично оценивал шансы на полное вымирание людей от рук искусственного разума в 10–20% в течение ближайших 30 лет и призывал правительства всех стран ввести тотальный мораторий на разработку автономных систем, превосходящих человеческий интеллект.
Ранее «Югополис» рассказывал о том, что основатель Meta* Марк Цукерберг предупреждал об угрозе монополии на искусственный интернет.
*Корпорация признана экстремистской и запрещена в РФ