Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине — Югополис
Закрыть
16:32, 17 марта 2025

Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине

Фото создано с помощью GigaChat

Исследователи из Школы Data Science UTSA разрабатывают инструменты, которые позволят искусственному интеллекту давать более точные и правдивые ответы на медицинские вопросы, минимизируя риски неверных диагнозов и рекомендаций.

Ученые из Школы Data Science (SDS) при Университете Техаса в Сан-Антонио (UTSA) совершили прорыв в области искусственного интеллекта (ИИ) для медицины. Их проект, получивший грант в размере 35 000 долларов, направлен на значительное снижение «галлюцинаций» в больших языковых моделях (LLM) при ответах на вопросы, касающиеся личной медицинской истории. Разработка позволит сделать ИИ более надежным и безопасным помощником для врачей и пациентов, пишет UTSA Today (https://www.utsa.edu/today/2025/03/story/SDS-faculty-improve-AI-reliability-in-medical-field.html). 

Исследовательская группа, возглавляемая доцентом компьютерных наук Ке Янг, совместно с доцентами информационных систем и кибербезопасности Энтони Риосом и Юэся Чжан, сосредоточена на решении проблемы «галлюцинаций» ИИ.  «Галлюцинации» ИИ – это термин, описывающий ситуации, когда ИИ уверенно предоставляет ложную или вводящую в заблуждение информацию. Это происходит из-за того, что LLM, подобные Chat GPT, обучаются на огромных массивах данных, выявляя закономерности, но не обладая реальным пониманием мира.  В результате, ИИ может казаться убедительным, даже если его ответы не соответствуют действительности.

Особенно опасны такие «галлюцинации» в сфере здравоохранения, где неверный диагноз или некорректная рекомендация лечения могут привести к серьезным последствиям для пациента.  Недавнее исследование Гарвардского университета показало, что многие люди предпочитают медицинские советы, сгенерированные чат-ботами, ответам врачей, что подчеркивает острую необходимость в разработке более надежного и точного ИИ для медицины.

Для решения этой проблемы исследователи UTSA разрабатывают AI модель, способную самостоятельно перепроверять информацию. Ключевым элементом разработки является создание Causal Knowledge Graph (CKG) – структурированной базы знаний, содержащей проверенную медицинскую информацию из надежных источников. CKG позволит ИИ устанавливать связи между различными медицинскими концепциями и формировать более точные и обоснованные ответы.  Другими словами, CKG действует как «медицинская энциклопедия» для ИИ, помогая ему не «выдумывать» информацию, а находить её в проверенных источниках.

Команда также разрабатывает систему фильтрации данных, использующую субграфы, для более эффективного поиска релевантной информации в CKG.  Субграфы – это меньшие, целевые разделы данных внутри CKG, которые действуют как индекс, помогая ИИ сосредоточиться только на наиболее полезной информации, вместо того чтобы искать во всем массиве знаний.

Помимо разработки инструмента для улучшения ответов ИИ, команда планирует создать эталонную базу данных – коллекцию «безошибочных» вопросов и ответов, которая станет стандартом для оценки и улучшения других моделей ИИ.

Большинство европейцев видят позитивные стороны внедрения ИИ на рабочих местах.

Несмотря на опасения по поводу потери работы и приватности, опрос Евробарометра показал, что большинство жителей ЕС считают искусственный интеллект полезным для экономики, повышения производительности и улучшения качества жизни.

Новое исследование Евробарометра показало, что большинство европейцев положительно относятся к внедрению искусственного интеллекта (ИИ) и других цифровых технологий на рабочих местах, несмотря на обеспокоенность по поводу потенциальных рисков. Опрос «Искусственный интеллект и будущее работы», проведенный в апреле-мае 2024 года среди 26 415 жителей ЕС, выявил, что 62% респондентов считают роботов и ИИ позитивным явлением на работе, а 70% полагают, что эти технологии повышают производительность, сообщает Staffing Industry Analysts (https://www.staffingindustry.com/news/global-daily-news/most-europeans-positive-about-ai-in-the-workplace).

Однако, исследование также выявило значительную обеспокоенность по поводу необходимости регулирования использования ИИ. 84% опрошенных считают, что ИИ требует тщательного управления для защиты приватности и обеспечения прозрачности на рабочем месте.  Кроме того, 66% опасаются, что ИИ и роботы скорее отнимут рабочие места, чем создадут новые.  Эти опасения касаются, в частности, автоматического увольнения работников (78%), мониторинга сотрудников (63%), оценки их производительности (57%) и сбора, обработки и хранения персональных данных (49%).

Несмотря на эти опасения, исследование показало, что 67% респондентов оптимистично настроены относительно использования цифровых технологий, включая ИИ, для улучшения здоровья и безопасности работников. Большинство европейцев также поддерживают четкие правила использования цифровых технологий, такие как защита приватности работников (82%).

«Примечательно, что более шести из десяти европейцев считают, что роботы и ИИ – это хорошо для общества, с оговоркой, что подавляющее большинство также говорят, что такие технологии нуждаются в тщательном управлении», – говорится в отчете ЕС.  Опрос подчеркивает, что потенциал роботов и ИИ в облегчении рабочей нагрузки за счет выполнения скучной и повторяющейся работы или использования для принятия точных решений ценится, но респонденты опасаются их воздействия на социальные области, такие как общение между коллегами.

Искусственный интеллект (ИИ) – это широкое понятие, обозначающее способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, распознавание образов и принятие решений.  В контексте рабочих мест, ИИ может использоваться для автоматизации рутинных задач, анализа больших объемов данных и предоставления сотрудникам более точной информации для принятия решений.

Евробарометр – это серия регулярных опросов общественного мнения, проводимых Европейской комиссией в странах-членах ЕС и некоторых других странах. Эти опросы позволяют оценить общественное мнение по различным вопросам, касающимся политики, экономики и социальной жизни в Европе.

Подписаться на нас

Сегодня, 07:23

Стали известны соперники ФК “Краснодар” в Кубке России

Проведенная РФС жеребьевка вызвала вопросы в некоторых клубах

Pxhere.com

В Российском футбольном союзе состоялась жеребьевка FONBET Кубка России сезона 2025/26. В нем примут участие 16 команд. Их разделили на четыре группы.

В группу В попали сразу две кубанские команды — “Краснодар” и “Сочи”. Их соперниками также станут “Крылья Советов” (Самара) и “Динамо” (Москва).

В группу А попали: “Зенит” (Санкт-Петербург), “Рубин” (Казань), “Ахмат” (Грозный), “Торпедо” (Москва) 

“Ростов” попал в группу C вместе с “Спартак” (Москва), “Динамо” (Махачкала) и “Пари НН” (Нижний Новгород).

За выход из группы D будут бороться: ЦСКА (Москва), “Локомотив” (Москва), “Акрон” (Тольятти) и “Балтика” (Калининград).

Жеребьевка, проведенная исполкомом РФС, вызвала бурю негодования в клубах. Представители команд указывали на то, что никого из них не вызвали на процедуру жеребьевки, и ее не транслировали в прямом эфире.

“Не было никакой возможности контроля, что жеребьевка проходит честно и, самое главное, однократно. Мы не знаем, сколько раз были вытянуты шары, сколько раз могла делаться техническая запись жеребьевки”, — говорится в заявлении пресс-службы ФК “Динамо”.

“РФС считает оскорбительными и полностью противоречащими здравому смыслу любые обвинения в возможных манипуляциях в ходе жеребьевки. Что касается присутствия на жеребьевке представителей клубов, то их участие не является обязательным по регламенту жеребьевки”, — передает “СпортЭкспресс” сообщение пресс-службы РФС.

Вчера, 19:17

Кубанские синоптики предупредили о продолжающем действовать штормовом предупреждении

В горах ночью и днем будет холодно

23.mchs.gov.ru

В Краснодарском крае продолжает действовать штормовое предупреждение по неблагоприятной погоде. По информации Краснодарского ЦГМС, осадки продолжатся и в понедельник, 30 июня.  

Вечером и предстоящей ночью местам ожидается сильный дождь и ливень с грозой. Порывы ветра составят 20-25 м/с. В отдельных районах ночью и утром будет туманно. Днем ветер ослабеет до 4-9 м/с с порывами 12-14 м/с. 

Температура воздуха ночью составит 12…17°, а днем потеплеет до 22…27°. Примерно такая же температура будет и на Черноморском побережье. А вот в горах значительно похолодает. Ночью столбики термометра покажут 4…9°, днём 11…16°. 

В Краснодаре ночь пройдет без осадков. А днем и вечером 30 июня может моросить дождь. Ветер будет несильный. Ночью температура воздуха составит 13…15°, днём: 24…26°. 

Ведущий специалист центра погоды «Фобос» Михаил Леус объяснил нелетнюю погоду на Кубани прохождением холодного атмосферного фронта. «На своём пути он будет сгущать облака и вызовет кратковременные дожди, местами пройдут лини с грозами, что существенно ограничит дневной прогрев», — объяснил специалист необходимость брать с собой на улицу зонты и кофты.

Вчера, 18:39

“Как мертвому припарка”: специалисты высказались о судьбе пшеницы на Дону после прошедших дождей

Более того, июньские осадки только мешают собирать урожай

Pxhere.com

Прошедшие в Ростовской области дожди в начале лета не смогут оказать влияние на урожай пшеницы. Более того, они только мешают аграриям сейчас собирать урожай зерновых (тех, что выжили после засухи и заморозков).

“Эти дожди для пшеницы уже как мертвому припарка, поэтому тут вряд ли что-то [улучшится]. Дожди помогут только яровым культурам — тут они на большую пользу, а с пшеницей всё уже — поезд ушел. Как правило, в 90% случаях”, — цитирует 161.ru слова гендиректора Института конъюнктуры аграрного рынка (ИКАР) Дмитрия Рылько. 

Президент донской Ассоциации крестьянских хозяйств и сельскохозяйственных кооперативов (АККОР) Александр Родин отметил, что если в прошлом году сложная ситуация была преимущественно на севере области, то в этом году посевы страдают по всему региону.  

“Урожайность будет очень низкая. Конечно, в каждом районе ситуация разная, но во всех районах есть состав пострадавших”, — высказал он свое мнение.

В 10 муниципалитетах Дона уже ввели режим ЧС в связи с засухой. Ранее “Югополис” писал, что эта мера позволит застраховавшим посевы хозяйствам получить страховые выплаты. «По просьбе аграриев мы обязательно отработаем с федеральным центром вопрос пролонгации банковских кредитов и отсрочки лизинговых платежей. Хозяйства, которые пострадали от непогоды, должны получить поддержку», —  говорил об этом врио губернатора Ростовской области Юрий Слюсарь.

Тяжелая ситуация складывается и в Краснодарском крае. Режим ЧС из-за засухи объявили в 8 муниципалитетах. Губернатор Вениамин Кондратьев отмечал, что наиболее тяжёлая ситуация наблюдается в северной части края, где сосредоточено почти 50% всех посевных площадей озимых культур.

Вчера, 17:50

В Сочи в разгар туристического сезона арестовали гостевой дом

Только после этой меры владелец дома оплатил долг по налогам

Закрытый гостевой дом / УФССП по Краснодарскому краю

В Сочи судебные приставы опечатали гостевой дом в Адлерском районе. К такой мере пришлось прибегнуть, потому что предприниматель — владелец дома — накопил долг по налогам, превышавший 2,2 млн рублей. 

Пользоваться гостевым домом в самый разгар туристического сезона оказалось нельзя. И только после этого коммерсант нашел возможность полностью долг погасить.

Ранее “Югополис” сообщал о временном закрытии двух ресторанов в Сочи в то время, когда в городе туристов с каждым днем становится все больше. В одном заведении, расположенном в Адлере, посетители массово отравились из-за острой кишечной инфекции. Проверка показала, что в ресторане систематически нарушались санитарные нормы.   

Второе заведение находится в Центральном районе Сочи. Там работали граждане без специального разрешения.

Вчера, 17:12

В Адыгее завершился межрегиональный фестиваль казачьей культуры

В этом году мероприятие впервые прошло в поселке Каменномостский

admkrai.krasnodar.ru

В Адыгее завершился межрегиональный фестиваль казачьей культуры. В этом году из поселка Тульский он перебрался в поселок Каменномостский и значительно увеличил масштабы. Вместо 20 коллективов, которые принимали участие в 2024 году, в этом году на сцене выступили 50 ансамблей из разных регионов и более 100 мастеров народных ремесел.

В течение трех дней на площадке фестиваля звучали казацкие песни и пляски, состоялся конкурс военно-патриотической песни, гости могли отведать блюда национальной кухни и поучаствовать в мастер-классах. Взвод Почетного караула Кубанского казачьего войска продемонстрировал церемониал “Час славы Кубани”.

В церемонии закрытия фестиваля принял участие вице-губернатор Краснодарского края, атаман Кубанского казачьего войска Александр Власов. “Фестиваль является площадкой для обмена опытом, помогает сохранять и преумножать традиции казачества как часть большого наследия предков. На территории Республики Адыгея активно развивается казачество, что символизирует межнациональное единство, дружбу народов, взаимоуважение”, — сказал он.  

Фестиваль казачьей культуры в Адыгее впервые прошел в 1992 году по инициативе казаков поселка Тульский. А с 2015 году мероприятие стало межрегиональным.

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.