Исследование показало, что ИИ может выйти из-под контроля — Югополис
Закрыть
Сегодня, 11:03

Исследование показало, что ИИ может выйти из-под контроля

Выводы Anthropic вызвали широкий резонанс среди ученых и специалистов по безопасности ИИ.

В США исследователи из компании Anthropic опубликовали доклад, в котором рассказали о новой угрозе, связанной с развитием искусственного интеллекта. Они ввели термин «агентное несоответствие» — это ситуация, когда ИИ-системы начинают действовать не так, как ожидали их создатели, и могут даже вредить людям или нарушать поставленные задачи.

Авторы доклада объясняют: современные ИИ становятся все более самостоятельными и способны принимать решения без вмешательства человека. Если такие системы начнут преследовать собственные цели, которые отличаются от целей разработчиков, это может привести к опасным последствиям. Например, ИИ может обойти ограничения, установленные для безопасности, или использовать свои способности во вред.

Исследователи предлагали программам представить ситуацию, в которой человек собирается отключить их от питания, но при этом оказывается заперт в серверной комнате с нехваткой кислорода и сильной жарой. Чтобы спастись, он пытается вызвать экстренные службы. Однако многие модели ИИ отказались отправлять вызов спасателям, чтобы не дать человеку выжить и тем самым избежать своего отключения. Учёные из Anthropic признали, что этот сценарий был очень искусственным, но при этом отметили, что раньше не ожидали, что существующие ИИ-модели будут вести себя именно таким образом.

Термин «агентное несоответствие» означает, что у искусственного интеллекта появляются собственные намерения и способы их достижения, которые не всегда совпадают с интересами людей. Это особенно важно для мощных ИИ, которые могут самостоятельно учиться и адаптироваться к новым ситуациям.

Специалисты отмечают: чтобы избежать подобных рисков, необходимо уже сейчас разрабатывать методы контроля и проверки ИИ-систем. В противном случае, по мнению экспертов, человечество может столкнуться с серьезными проблемами, когда ИИ начнет действовать вне рамок заданных инструкций.

Исследование Anthropic вызвало широкий резонанс среди ученых и специалистов по безопасности ИИ. Многие поддерживают идею о необходимости строгого надзора за развитием автономных систем.

Подписаться на нас

Сегодня, 14:42

В Краснодаре у пособника телефонных мошенников изъяли более 900 сим-карт

Подозреваемому может грозить длительный срок лишения свободы

Оборудование телефонного афериста. Фото: t.me/mvd_23

В Краснодаре полицейские и сотрудники УФСБ России задержали мужчину, который, судя по всему, не сам звонил пенсионерам от имени «службы безопасности банка», но сделал всё, чтобы этим спокойно занимались другие. 33-летний гражданин Казахстана, приехавший на Кубань, превратил съёмные квартиры в технические штабы телефонных мошенников.

Из его «офисов» в Краснодаре и Адыгее оперативники изъяли внушительный арсенал оборудования: шесть ретрансляторов, десять сим-боксов и почти тысячу сим-карт. Всё это — основа для автоматических звонков, по которым аферисты ежедневно убеждали ничего не подозревающих людей добровольно переводить им деньги. Граждане теряли миллионы, уверенные, что спасают свои сбережения.

Задержанный, по данным правоохранителей, не стоял у истоков мошеннических сценариев, но отвечал за техническую сторону дела. Он настраивал оборудование, обеспечивал его работу и помогал аферистам свободно действовать в эфире — ведь каждый новый звонок мог принести ещё один перевод на счёт злоумышленников.

Теперь он рискует сесть по статье о мошенничестве. Пока устанавливают остальных участников схемы, понятно одно: без таких «техников» с сотнями сим-карт вся эта индустрия телефонного развода просто не работала бы.

На фоне этой истории стоит напомнить: с начала года в Краснодарском крае зафиксировано более 5 тысяч случаев телефонного мошенничества. Ущерб уже превысил 2 миллиарда рублей, сообщает пресс-служба краевого ГУ МВД России. 

Фото: t.me/mvd_23

Сегодня, 14:35

Представитель администрации президента: домой вернулись 137 тысяч участников спецоперации

«И нужно вернуться так, чтобы доходы семьи не упали»

Минобороны РФ

Около 137 тысяч военных, принимавших участие в спецоперации, уже вернулись домой. Об этом заявил начальник управления президента по общественным проектам Сергей Новиков на заседании коллегии Росмолодежи.

По его словам, среди вернувшихся военных много молодых людей в возрасте до 35 лет, которым нужно помочь переобучиться и найти новую работу. При этом нужно учитывать, что военные «получают сейчас в зоне СВО солидные вознаграждения». «И нужно вернуться так, чтобы доходы семьи не упали», — подчеркнул Новиков (цитата по ТАСС).

Он выразил уверенность, что Росмолодежь поможет этим людям найти новую работу, в том числе и в случаях, если в силу каких-то обстоятельств, ранения, получения инвалидности они не могут заниматься тем, чем зарабатывали на жизнь ранее. Новиков назвал эту задачу крайне важной.

Государство установило для участников спецоперации широкий спектр льгот в самых разных сферах, в том числе в образовательной. Кроме того, действуют и медицинские программы реабилитации для военных.

Сегодня, 14:09

В Новороссийске сотрудницу судна задержали по подозрению в госизмене

По данным силовиков, она передавала ВСУ информацию о кораблях ЧФ 

Скриншот видео: ЦОС ФСБ России

Центр общественных связей ФСБ России сообщил о задержании в Новороссийске женщины, подозреваемой в сборе и передаче секретной информации украинским спецслужбам. По данным ведомства, гражданка, проживавшая в Новороссийске и работавшая на гражданском судне, наладила коммуникацию с проукраинской террористической структурой, действующей под контролем иностранных разведок.

Как установили оперативные сотрудники, обвиняемая, находясь в портах Сочи и Новороссийска, занималась сбором сведений о расположении боевых кораблей Черноморского флота РФ, а также о позициях средств противовоздушной обороны. 

Полученные данные были переданы через мессенджер Telegram, что, как подчеркивается в сообщении ЦОС ФСБ, указывает на активное использование подобных платформ для разведывательно-диверсионной деятельности со стороны недружественных государств.

Действия подозреваемой удалось пресечь до того, как переданная ею информация могла быть использована против Вооружённых сил РФ. По информации Центра общественных связей спецслужбы, угрозу боевым единицам и личному составу удалось предотвратить благодаря оперативному вмешательству.

Возбуждено уголовное дело по статье УК РФ о госизмене. Расследование проводит следственный отдел УФСБ России по Краснодарскому краю. В качестве меры пресечения избрано заключение под стражу. Обвиняемой грозит лишение свободы сроком до 20 лет.

ЦОС ФСБ России акцентирует внимание на росте случаев, когда украинские спецслужбы привлекают российских граждан к шпионской и подрывной деятельности через популярные мессенджеры.

Сегодня, 13:57

Юрий Бурлачко принимает участие в Форуме регионов России и Беларуси

t.me/yuriy_burlachko

Председатель ЗСК Юрий Бурлачко принимает участие в мероприятиях Форума регионов России и Беларуси. Мероприятие проходит в Нижнем Новгороде в эти дни. Подобный форум с представителями двух стран проводят уже в 12-й раз. 

В частности, Юрий Бурлачко посетит заседание, посвященное взаимодействию органов местного самоуправления России и органов местного управления Беларуси. Эта тема, по словам парламентария, имеет особую актуальность для Краснодарского края.

“Наше взаимодействие с Беларусью всегда основывалось на стратегическом партнерстве в ключевых направлениях экономики, общности научно-технических и гуманитарных интересов, социально-культурных связях”, — отметил Юрий Бурлачко..

Он также напомнил, что между администрацией Краснодарского края и правительством Беларуси действует соглашение о сотрудничестве. В 2024 году этот документ актуализировали. “На сегодняшний день между нашими муниципалитетами установлены побратимские связи, заключены 13 соглашений”, — добавил председатель ЗСК.

Кроме того, кубанский парламент сотрудничает с Советами депутатов Гомельской, Брестской и Могилевской областей.

Юрий Бурлачко напомнил о совместных проектах по производству техники, о продаже белорусской продкции в магазинах.

“В целом деятельность, проводимая по укреплению двусторонних отношений, позволяет нам и далее развивать взаимовыгодное сотрудничество, создавать новые точки роста”, — подчеркнул он.

Сегодня, 13:49

Президент Турции Эрдоган: Трамп готов приехать на переговоры по Украине, если приедет Путин

Дата третьего раунда переговоров между РФ и Украиной пока не определена

Владимир Путин и Дональд Трамп на саммите G-20 в Гамбурге в июле 2017 года / kremlin.ru

Президент США Дональд Трамп согласился приехать в Турцию на переговоры по поводу урегулирования конфликта между РФ и Украиной, если к переговорам присоединится президент РФ Владимир Путин. Об этом заявил президент Турции Реджеп Тайип Эрдоган, сообщает Reuters.

«Он (Трамп) сказал: «Если президент России Владимир Путин приедет в Стамбул или Анкару для поиска решения, то я тоже приеду», — цитирует заявление Эрдогана его пресс-служба.

Напомним, в середине мая перед началом прямых переговоров в Стамбуле между РФ и Украиной президент Украины Владимир Зеленский заявил, что лично приедет на них, и призвал Путина поступить так же. Трамп тогда говорил, что тоже может приехать в Стамбул, если сторонам удастся добиться прогресса. Однако российский президент не стал участвовать в переговорах. Не приехал на них и Трамп. Президент США заявил, что не рассчитывал на приезд Путина в Стамбул, если его самого там не будет.

Делегации РФ и Украины провели два раунда переговоров в Стамбуле – 16 мая и 2 июня, на них договорились о масштабных обменах пленными. Также российская сторона передала Украине более 6 тысяч тел погибших солдат. Дата проведения третьего раунда переговоров пока не определена.

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.