Закрыть
11:03, 26 июня 2025

Исследование показало, что ИИ может выйти из-под контроля

Выводы Anthropic вызвали широкий резонанс среди ученых и специалистов по безопасности ИИ.

В США исследователи из компании Anthropic опубликовали доклад, в котором рассказали о новой угрозе, связанной с развитием искусственного интеллекта. Они ввели термин «агентное несоответствие» — это ситуация, когда ИИ-системы начинают действовать не так, как ожидали их создатели, и могут даже вредить людям или нарушать поставленные задачи.

Авторы доклада объясняют: современные ИИ становятся все более самостоятельными и способны принимать решения без вмешательства человека. Если такие системы начнут преследовать собственные цели, которые отличаются от целей разработчиков, это может привести к опасным последствиям. Например, ИИ может обойти ограничения, установленные для безопасности, или использовать свои способности во вред.

Исследователи предлагали программам представить ситуацию, в которой человек собирается отключить их от питания, но при этом оказывается заперт в серверной комнате с нехваткой кислорода и сильной жарой. Чтобы спастись, он пытается вызвать экстренные службы. Однако многие модели ИИ отказались отправлять вызов спасателям, чтобы не дать человеку выжить и тем самым избежать своего отключения. Учёные из Anthropic признали, что этот сценарий был очень искусственным, но при этом отметили, что раньше не ожидали, что существующие ИИ-модели будут вести себя именно таким образом.

Термин «агентное несоответствие» означает, что у искусственного интеллекта появляются собственные намерения и способы их достижения, которые не всегда совпадают с интересами людей. Это особенно важно для мощных ИИ, которые могут самостоятельно учиться и адаптироваться к новым ситуациям.

Специалисты отмечают: чтобы избежать подобных рисков, необходимо уже сейчас разрабатывать методы контроля и проверки ИИ-систем. В противном случае, по мнению экспертов, человечество может столкнуться с серьезными проблемами, когда ИИ начнет действовать вне рамок заданных инструкций.

Исследование Anthropic вызвало широкий резонанс среди ученых и специалистов по безопасности ИИ. Многие поддерживают идею о необходимости строгого надзора за развитием автономных систем.

Подписаться на нас

Сегодня, 12:00

Более сотни спортсменов из России и Беларуси поборются в Сочи за медали по летнему биатлону

Турнир пройдет в уникальном формате, объединив гонки на роликовых и на зимних лыжных трассах

Фото: sochi.ru

В Сочи на лыжно-биатлонном комплексе «Лаура» с 4 по 7 сентября состоится первый этап международных соревнований по летнему биатлону — Кубок Содружества. В турнире будут состязаться сильнейшие биатлонисты двух государств – России и Беларуси.

Формат соревнований особенный: спортсменам предстоит зарабатывать очки не только на роликовых трассах, но и на зимних лыжных гонках. Такой принцип проведения считается уникальным для современного биатлона.

За награды в трех дисциплинах – спринте, гонке преследования и одиночной эстафете – поборются более 100 участников, среди которых лидеры сборных двух стран.

Зрители смогут наблюдать за выступлениями известных российских и белорусских биатлонистов, включая Карима Халили, Эдуарда Латыпова, Викторию Сливко, Антона и Динару Смольских и других спортсменов. Вход на стадион бесплатный. А в перерывах между спортивными испытаниями гостей ждут развлекательные мероприятия.

Ранее «Югополис» рассказывал о других крупных соревнованиях, которые пройдут в Сочи в сентябре. Это турнир по забегу по пересеченной местности (трейлраннингу). Ожидается, что он соберет свыше 3000 атлетов со всей России – как опытных, так и начинающих. Для них подготовят трассы разной сложности и протяженности.

Сегодня, 11:57

На строительство и ремонт дорог в Сочи направили около 1,7 млрд рублей

sochi.ru

В Сочи на поддержку и развитие дорожной инфраструктуры в 2025 году направили около 1,7 млрд рублей. Эти деньги идут на ремонт дорог, содержание инфраструктуры, восстановление дорог после оползней. 

Всего в течение года запланирован ремонт 70 дорог. Работы на 54 из них уже завершены. Так, капитально отремонтировали улицу Инжирную и восстановили переулок Надежды. Сейчас техника работает на Егорова, Магаданской и в Васильковом. В ноябре капитальный ремонт планируют начать на Новороссийском и Сухумском шоссе. Подрядчика на эти работы сейчас выбирают.

Глава Сочи Андрей Прошунин сообщил, что в дальнейшем необходимо осмотреть и провести диагностику более 1200 км муниципальных дорог. Полученные данные можно будет использовать для участия в федеральных и региональных программах софинансирования.

Ранее «Югополис» сообщал, что в Сочи в конце июля 2025 года открылось движение по реконструированному путепроводу, являющемуся частью обхода Адлера. Обход Адлера в будущем станет частью новой магистрали от курорта до федеральной трассы М-4 «Дон».

Реконструированный путепровод соединит посёлок Кудепста с селом Высоким. На следующем этапе дорожники должны будут пробурить автомобильные тоннели от улицы Ивановской до Кудепсты. Этот участок станет ключевым звеном будущей магистрали, которая разгрузит центр Сочи.

Сегодня, 11:23

В МВД назвали самую популярную уловку телефонных мошенников

«Это позволяет злоумышленникам обходить механизмы защиты банков и операторов связи»

pixabay.com

За последние месяцы самая популярная уловка мошенников – заставить потенциальную жертву позвонить по неизвестному номеру телефона. Об этом сообщили в управлении по организации борьбы с противоправным использованием информационно-коммуникационных технологий (киберполиции) МВД РФ.

«Это позволяет злоумышленникам обходить механизмы защиты банков и операторов связи, которые блокируют входящие вызовы от мошенников», — подчеркнули в пресс-службе ведомства.

Все схемы аферистов объединяет создание иллюзии угрозы, которая требует немедленных действий – например, взлом аккаунта на портале госуслуг, утечка личных данных, несанкционированный доступ к счетам. Затем потенциальной жертве дают номер телефона, звонок по которому якобы быстро решит проблему.

В киберполиции рекомендуют обращать внимание на признаки фейка в таких сообщениях. Во-первых, нестандартный отправитель: сообщения от якобы официальных органов приходят в мессенджерах, с телефонных номеров или email-адресов, которые не являются официальными. Во-вторых, в сообщении содержится призыв к немедленному действию: официальные органы никогда не требуют немедленно перезвонить по неизвестному номеру. В-третьих, в сообщении есть ошибки или используется неформальный стиль обращения, указаны неверные данные. В ведомстве также советуют при получении подобных сообщений не поддаваться панике.

Сегодня, 11:23

Краснодар за 10 лет очистили от 5 тысяч незаконных построек

При этом, свыше тысячи самостроев в городе убрали по судебным решениям

Фото: krd.ru

За минувшее десятилетие в кубанской столице снесли более 5,2 тысячи нелегальных построек — как временных, так и капитальных. Особое внимание городские власти направили на пешеходные зоны и общественные пространства.

Заместитель главы Краснодара Илья Павлов отметил, что по поручению губернатора и мэра в краевой столице не должно оставаться самовольных строений, а возведение любых объектов возможно лишь при наличии официальных разрешений. По его словам, это напрямую связано с формированием современного облика краевого центра и созданием комфорта для горожан и гостей.

Что касается судебных разбирательств, с 2015 по 2025 годы муниципальный контроль подал свыше 4,5 тысячи исков о сносе либо приведении в соответствие с правилами незаконных капитальных строений, а также о возврате самовольно занятых земель. По судебным решениям в городе ликвидировали более тысячи объектов, а за неисполнение предписаний с виновных взыскали порядка 50 миллионов рублей.

Кроме того, за 10 лет здесь убрали свыше 5 тысяч рекламных конструкций — стендов, щитов и иных сооружений. А вместо самостроев в Краснодаре появились новые зоны отдыха – например, скверы «Офицерский», «Крымский», «Симферопольский», «Садовый» и другие.

Ранее «Югополис» сообщал, что в Краснодаре ликвидировали незаконно построенный автосервис в ДНТ «Магистраль» Прикубанского округа. Здание возвели без разрешений, а участок не предназначался для такого использования. Администрация города подала иск в суд, который обязал убрать объект. Снос провели совместно с судебными приставами.

Сегодня, 10:36

В Краснодаре возводят основания опор для будущей двухуровневой развязки, которая свяжет три улицы

Полностью закончить строительство дороги планируют в 2028 году

Фото: krd.ru

В Краснодаре начали возводить основания опор для будущей двухуровневой развязки. Новый объект соединит улицы Володарского, Шевченко и Тихорецкую.

По словам главы Краснодара Евгения Наумова, строительство здесь ведётся непрерывно, без выходных. Мэр поблагодарил строителей за труд, а горожан — за терпение и понимание.

— Мы планируем во время работ сохранить весь транзитный поток транспорта и пешеходов, в том числе через ж/д пути. Подъезды к многоквартирным домам и соцобъектам тоже будут открыты, — добавил он.

В мэрии кубанской столицы также уточнили, что на площадке ежедневно трудятся свыше 30 человек и работают 15 единиц техники. Одновременно с установкой опор рабочие переносят линии связи, электросети и теплоснабжение, а также обустраивают новую «ливневку».

Развязку создают в рамках масштабной программы развития улично-дорожной сети «25/35», инициатором которой является губернатор Кубани Вениамин Кондратьев. Полностью завершить проект власти города планируют в 2028 году.

Ранее «Югополис» писал, что с 20 сентября в краевом центре на два года перекроют движение на улице Фадеева между 1-го Мая и Аэропортовской. Всё дело в масштабной реконструкции дорожного моста, которая продлится до июля 2027 года. Старую конструкцию демонтируют и построят новую, сократив число пролётов с четырёх до двух. Объезд организуют через Аэропортовскую и трассу М-4 «Дон». Для автомобилистов, направляющихся в Ростов-на-Дону, рекомендован выезд через Уральскую. Изменения коснутся также общественного транспорта и пешеходов.

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.