Закрыть
16:32, 17 марта 2025

Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине

Фото создано с помощью GigaChat

Исследователи из Школы Data Science UTSA разрабатывают инструменты, которые позволят искусственному интеллекту давать более точные и правдивые ответы на медицинские вопросы, минимизируя риски неверных диагнозов и рекомендаций.

Ученые из Школы Data Science (SDS) при Университете Техаса в Сан-Антонио (UTSA) совершили прорыв в области искусственного интеллекта (ИИ) для медицины. Их проект, получивший грант в размере 35 000 долларов, направлен на значительное снижение «галлюцинаций» в больших языковых моделях (LLM) при ответах на вопросы, касающиеся личной медицинской истории. Разработка позволит сделать ИИ более надежным и безопасным помощником для врачей и пациентов, пишет UTSA Today (https://www.utsa.edu/today/2025/03/story/SDS-faculty-improve-AI-reliability-in-medical-field.html). 

Исследовательская группа, возглавляемая доцентом компьютерных наук Ке Янг, совместно с доцентами информационных систем и кибербезопасности Энтони Риосом и Юэся Чжан, сосредоточена на решении проблемы «галлюцинаций» ИИ.  «Галлюцинации» ИИ – это термин, описывающий ситуации, когда ИИ уверенно предоставляет ложную или вводящую в заблуждение информацию. Это происходит из-за того, что LLM, подобные Chat GPT, обучаются на огромных массивах данных, выявляя закономерности, но не обладая реальным пониманием мира.  В результате, ИИ может казаться убедительным, даже если его ответы не соответствуют действительности.

Особенно опасны такие «галлюцинации» в сфере здравоохранения, где неверный диагноз или некорректная рекомендация лечения могут привести к серьезным последствиям для пациента.  Недавнее исследование Гарвардского университета показало, что многие люди предпочитают медицинские советы, сгенерированные чат-ботами, ответам врачей, что подчеркивает острую необходимость в разработке более надежного и точного ИИ для медицины.

Для решения этой проблемы исследователи UTSA разрабатывают AI модель, способную самостоятельно перепроверять информацию. Ключевым элементом разработки является создание Causal Knowledge Graph (CKG) – структурированной базы знаний, содержащей проверенную медицинскую информацию из надежных источников. CKG позволит ИИ устанавливать связи между различными медицинскими концепциями и формировать более точные и обоснованные ответы.  Другими словами, CKG действует как «медицинская энциклопедия» для ИИ, помогая ему не «выдумывать» информацию, а находить её в проверенных источниках.

Команда также разрабатывает систему фильтрации данных, использующую субграфы, для более эффективного поиска релевантной информации в CKG.  Субграфы – это меньшие, целевые разделы данных внутри CKG, которые действуют как индекс, помогая ИИ сосредоточиться только на наиболее полезной информации, вместо того чтобы искать во всем массиве знаний.

Помимо разработки инструмента для улучшения ответов ИИ, команда планирует создать эталонную базу данных – коллекцию «безошибочных» вопросов и ответов, которая станет стандартом для оценки и улучшения других моделей ИИ.

Большинство европейцев видят позитивные стороны внедрения ИИ на рабочих местах.

Несмотря на опасения по поводу потери работы и приватности, опрос Евробарометра показал, что большинство жителей ЕС считают искусственный интеллект полезным для экономики, повышения производительности и улучшения качества жизни.

Новое исследование Евробарометра показало, что большинство европейцев положительно относятся к внедрению искусственного интеллекта (ИИ) и других цифровых технологий на рабочих местах, несмотря на обеспокоенность по поводу потенциальных рисков. Опрос «Искусственный интеллект и будущее работы», проведенный в апреле-мае 2024 года среди 26 415 жителей ЕС, выявил, что 62% респондентов считают роботов и ИИ позитивным явлением на работе, а 70% полагают, что эти технологии повышают производительность, сообщает Staffing Industry Analysts (https://www.staffingindustry.com/news/global-daily-news/most-europeans-positive-about-ai-in-the-workplace).

Однако, исследование также выявило значительную обеспокоенность по поводу необходимости регулирования использования ИИ. 84% опрошенных считают, что ИИ требует тщательного управления для защиты приватности и обеспечения прозрачности на рабочем месте.  Кроме того, 66% опасаются, что ИИ и роботы скорее отнимут рабочие места, чем создадут новые.  Эти опасения касаются, в частности, автоматического увольнения работников (78%), мониторинга сотрудников (63%), оценки их производительности (57%) и сбора, обработки и хранения персональных данных (49%).

Несмотря на эти опасения, исследование показало, что 67% респондентов оптимистично настроены относительно использования цифровых технологий, включая ИИ, для улучшения здоровья и безопасности работников. Большинство европейцев также поддерживают четкие правила использования цифровых технологий, такие как защита приватности работников (82%).

«Примечательно, что более шести из десяти европейцев считают, что роботы и ИИ – это хорошо для общества, с оговоркой, что подавляющее большинство также говорят, что такие технологии нуждаются в тщательном управлении», – говорится в отчете ЕС.  Опрос подчеркивает, что потенциал роботов и ИИ в облегчении рабочей нагрузки за счет выполнения скучной и повторяющейся работы или использования для принятия точных решений ценится, но респонденты опасаются их воздействия на социальные области, такие как общение между коллегами.

Искусственный интеллект (ИИ) – это широкое понятие, обозначающее способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, распознавание образов и принятие решений.  В контексте рабочих мест, ИИ может использоваться для автоматизации рутинных задач, анализа больших объемов данных и предоставления сотрудникам более точной информации для принятия решений.

Евробарометр – это серия регулярных опросов общественного мнения, проводимых Европейской комиссией в странах-членах ЕС и некоторых других странах. Эти опросы позволяют оценить общественное мнение по различным вопросам, касающимся политики, экономики и социальной жизни в Европе.

Подписаться на нас

Сегодня, 19:08

На Кубани найден мёртвым депутат Тихорецкого районного Совета

Обстоятельства его смерти вызывают вопросы, ответа на которые пока нет

Виталий Капустин. Фото: ideputat.er.ru

В Краснодарском крае следственным органам предстоит выяснить обстоятельства гибели депутата Тихорецкого районного Совета Виталия Капустина. 

Как сообщает «КП-Кубань», его тело было обнаружено утром 25 сентября в лесополосе рядом с автотрассой неподалёку от станицы Новорождественской. Позже личность погибшего была установлена — это 43-летний Виталий Капустин, депутат от партии «Единая Россия» и руководитель строительной компании ООО «Кубаньспецстрой». В районном Совете он возглавлял комиссию по вопросам сельского хозяйства, транспорта, благоустройства и связи.

Относительно обстоятельств и причин смерти версии расходятся. По данным «КП-Кубань», ссылающейся на источник, смерть не носит криминальный характер. В то же время издание «93.ру» со ссылкой на показания проезжавших по трассе очевидцев сообщает, что тело было найдено висящим на дереве, а рядом стоял внедорожник.

Следственные органы пока не прокомментировали эту тревожную информацию.

Виталий Капустин родился в 1982 году в станице Архангельской. Он получил техническое образование в Новочеркасском политехническом институте и с 2016 года руководил строительной компанией. С 2019 года работал в местном Совете, занимаясь социальными, коммунальными и инфраструктурными вопросами.

Местные жители отзываются о нём как о человеке, активно вовлечённом в развитие района. 

Сегодня, 19:01

Инициатива по смене названий казачьих станиц в Чечне вызвала споры в Госдуме

Несмотря на критику, переименование, видимо, неизбежно

Шелковская. Фото: ru.wikipedia.org

На заседании Государственной Думы 25 сентября депутат от партии «Единая Россия», генерал-полковник Владимир Шаманов резко высказался против инициативы чеченских властей переименовать в республике три населённых пункта, имеющих казачьи исторические корни. 

Речь идёт о станицах Серноводское, Шелковская и Наурская. В рамках представленного законопроекта предполагается изменить их названия: Серноводское — на Серноводск, Шелковская — на Терек (в честь реки, на берегу которой расположен город), а Наурская — на Невре, что в переводе с чеченского означает «север». Эти территории были преобразованы в города в феврале 2024 года. 

В пояснительной записке к проекту указано, что переименование направлено на приведение топонимов в соответствие с нормами русского языка и традициями региона. 

Однако инициатива вызвала критику среди части депутатов. Владимир Шаманов, принимавший участие в обеих чеченских кампаниях и долгое время командовавший федеральными силами в регионе, заявил: «Мало того, что сначала русскоязычное население вышвырнули оттуда, теперь и названия стираете. Это история нашего государства. Вы что творите, я вас спрашиваю?!» 

Он подчеркнул, что эти станицы являются частью исторического наследия России и их переименование воспринимается как попытка стереть важную часть прошлого. 

С критикой проекта выступила также депутат от КПРФ Анжелика Глазкова. Она напомнила, что Чечня остаётся глубоко дотационным регионом, и реализация подобной инициативы будет финансироваться из федерального бюджета, а значит, за изменения заплатят налогоплательщики со всей страны. 

В свою очередь, один из авторов законопроекта, депутат от Чеченской Республики Шамсаил Саралиев отметил, что расходы на реализацию составят порядка 1,3 млн рублей и пойдут на замену указателей, штампов и табличек. Он также подчеркнул, что в решении нет националистической составляющей и что новые названия отражают мнения местных жителей, представляющих разные национальности, сообщает «Коммерсант». 

Саралиев отверг обвинения в вытеснении русскоязычного населения, заявив, что исход произошёл в 1990-х годах в результате политических решений федерального руководства, а не действий самих жителей республики. 

Несмотря на разногласия, законопроект был принят в первом чтении.

Сегодня, 18:34

В Новороссийске продолжается восстановление поврежденных из-за атаки ВСУ домов

Принимаются меры, чтобы помощь людям была оказана максимально оперативно

Фото: t.me/kravchenko_glava_nvrsk

После массированной атаки на Новороссийск 24 сентября, последствия которой затронули многие дома и районы города, власти оперативно организовали работу по их восстановлению и поддержке пострадавших. О текущей ситуации регулярно сообщает в своём телеграм-канале глава города Андрей Кравченко.

В течение всего дня 25 сентября специалисты обходят дома, фиксируют повреждения и составляют списки для последующих компенсаций. На данный момент от жителей поступило 121 обращение о повреждениях в квартирах. Осмотрено уже 98 из них.

Комиссия экспертов также обследовала конструктивные элементы семи многоквартирных домов, пострадавших в результате ударов. По предварительным данным, несущие конструкции не пострадали настолько, чтобы это представляло угрозу: разрушений, которые могли бы привести к обрушению, не обнаружено. Основной ущерб касается окон, фасадов, перегородок и внутренней отделки. Итоги официальной экспертизы ещё предстоит получить.

Электричество уже вернули в дома на улицах Шевченко, 55 и Энгельса, 98. При этом одной из приоритетных задач остаётся восстановление крыши дома на улице Шевченко, 55. Там требуется полностью заменить стропильную систему и кровельное покрытие. По словам Кравченко, городские службы рассматривают все возможные способы, чтобы завершить работы как можно быстрее.

Коммунальные службы и управляющие компании продолжают расчистку территорий от мусора и последствий повреждений. Сотрудники Центра озеленения занимаются обрезкой и удалением деревьев, пострадавших при атаке.

К работам подключились и волонтёры из штаба #МЫВМЕСТЕ — они помогают жителям наводить порядок в пострадавших квартирах.

Кроме того, пожарные проверяют состояние вентиляционных каналов, а специалисты из газовых служб уже осмотрели жильё в двух многоквартирных домах, чтобы исключить утечки и восстановить газоснабжение.

Для тех, чьи дома пострадали серьёзно, предусмотрены варианты временного проживания. Андрей Кравченко напомнил, что все вопросы можно задавать в администрации Центрального района по адресу: улица Энгельса, 35 или по телефону 8 (8617) 64-22-04. Также работает служба 112.

О подробностях самой атаки, которая унесла жизни двух человек, читайте в материале «Югополиса» — «Шок, страх и тревога: на Кубани в ходе чудовищной атаки беспилотников погибли два человека».

Видео: t.me/kravchenko_glava_nvrsk

Сегодня, 18:09

Краснодарская актриса отдала мошенникам больше 1,2 миллиона рублей

Поверив в «безопасный счет», она стала жертвой обмана

Фото: Югополис

Телефонные мошенники обвели вокруг пальца  21-летнюю актрису из Краснодара. Девушка попалась на хорошо отработанную аферу, с которой за последние месяцы столкнулись уже десятки человек.

Сценарий развивался по знакомому многим шаблону. Сначала девушке позвонил якобы курьер. Он заявил, что у него есть посылка, но для подтверждения получения нужно продиктовать код из СМС. Ничего не подозревая, она назвала цифры. Этого оказалось достаточно, чтобы мошенники получили доступ к её персональной информации.

Следующий звонок поступил уже от «сотрудников Госуслуг». Они сообщили, что её профиль якобы взломан и теперь нужно срочно спасать деньги. Аферисты мастерски манипулировали эмоциями: давили на страх, запутывали терминологией и создавали ощущение срочности. Девушке посоветовали перевести все накопления на «безопасный счет» для защиты от злоумышленников.

Находясь под психологическим прессингом, актриса взяла кредит, собрала все личные средства и перевела мошенникам в общей сложности 1 215 000 рублей. И только после этого поняла, что стала жертвой обмана, сообщает пресс-служба УМВД РФ по Краснодару.

Подобные случаи в крае происходят всё чаще. Как ранее сообщал «Югополис», полиция Краснодара и других городов Кубани фиксирует изощрённые формы телефонного и онлайн-мошенничества — от обмана подростков до инсценировок со «службами безопасности».

В Тихорецке, например, мошенники довели 13-летнего мальчика до того, что он сбежал из дома, увёз родительские деньги, банковские карты и телефоны и направился в другой город, чтобы перевести деньги через банкомат. Всё это — якобы ради «безопасности семьи», как ему объясняли злоумышленники. К счастью, его успели найти и остановить до того, как деньги оказались в чужих руках.

В Краснодаре 33-летней женщине позвонили лже-сотрудники налоговой и Центробанка. Под видом спасения от кибератаки они убедили её взять кредит, оформить перевод и в итоге украли более 1,2 млн рублей — включая заемные средства и личные накопления.

По данным аналитиков, зафиксированы случаи, когда злоумышленники звонили жертве 17 тысяч раз в течение одного дня, не давая ей шанса подумать или посоветоваться с кем-либо.

Мошенники становятся всё изобретательнее, но схема у них одна: вызвать тревогу, заставить торопиться и действовать под давлением. Главное — не поддаваться эмоциям, не сообщать данные из СМС и не переводить деньги незнакомцам, даже если они представляются сотрудниками госструктур.

Сегодня, 17:47

КТК возобновил отгрузку нефти в Новороссийске после приостановки из-за атак ВСУ

Подобные инциденты не только несут угрозу жизни и здоровью людей, но и создают риски для окружающей среды и стабильности производственного процесса

Выносное причальное устройство. Фото: cpc.ru

Погрузка нефти на морском терминале Каспийского трубопроводного консорциума (КТК) в районе Новороссийска была возобновлена вечером 24 сентября. Ранее операция была временно приостановлена в связи с объявлением тревоги из-за атаки беспилотных летательных аппаратов и надводных дронов. 

По информации пресс-службы КТК, после поступления сигнала тревоги суда были выведены на рейдовые стоянки по распоряжению капитана морского порта. Это стандартная мера безопасности, которая применяется в подобных ситуациях. Отгрузка была восстановлена сразу после отмены сигнала.

Напомним, в результате ночного обстрела в Новороссийске погибли два человека, еще 12 получили ранения, среди них — двое сотрудников КТК. Пресс-служба консорциума уточнила, что пострадавшие работники получили первую медицинскую помощь и находятся под наблюдением врачей, некоторым проведены хирургические операции.

Консорциум работает в непрерывном цикле, в его структуру входят промышленные объекты с повышенным уровнем опасности. Приостановка отгрузки, по заявлению компании, нарушает стабильную схему поставок нефти, значительная часть которой предназначена для международного рынка.

Каспийский трубопроводный консорциум — ключевое логистическое звено для экспорта нефти, добываемой на крупнейших месторождениях Казахстана. В прошлом году объем транспортировки по маршруту «Тенгиз — Новороссийск» достиг примерно 63 миллионов тонн, при этом около 74% от общего объема составили поставки зарубежных компаний.

КТК подчеркивает, что его деятельность не подпадала под международные санкции, что, по мнению компании, отражает признание её важности со стороны западных акционеров и стран-партнеров. Консорциум рассматривает свою работу как элемент международного энергетического сотрудничества и один из инструментов поддержки глобальной энергетической стабильности.

Пресс-служба КТК также отметила, что атака на гражданскую инфраструктуру в Новороссийске рассматривается как угроза мирным инициативам и диалогу между странами. В компании выразили обеспокоенность тем, что такие действия подрывают усилия по деэскалации международной напряженности, в том числе при участии государств, представленных в составе акционеров консорциума.

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.