Закрыть
17 марта 2025 в 16:32

Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине

Фото создано с помощью GigaChat

Исследователи из Школы Data Science UTSA разрабатывают инструменты, которые позволят искусственному интеллекту давать более точные и правдивые ответы на медицинские вопросы, минимизируя риски неверных диагнозов и рекомендаций.

Ученые из Школы Data Science (SDS) при Университете Техаса в Сан-Антонио (UTSA) совершили прорыв в области искусственного интеллекта (ИИ) для медицины. Их проект, получивший грант в размере 35 000 долларов, направлен на значительное снижение «галлюцинаций» в больших языковых моделях (LLM) при ответах на вопросы, касающиеся личной медицинской истории. Разработка позволит сделать ИИ более надежным и безопасным помощником для врачей и пациентов, пишет UTSA Today (https://www.utsa.edu/today/2025/03/story/SDS-faculty-improve-AI-reliability-in-medical-field.html). 

Исследовательская группа, возглавляемая доцентом компьютерных наук Ке Янг, совместно с доцентами информационных систем и кибербезопасности Энтони Риосом и Юэся Чжан, сосредоточена на решении проблемы «галлюцинаций» ИИ.  «Галлюцинации» ИИ – это термин, описывающий ситуации, когда ИИ уверенно предоставляет ложную или вводящую в заблуждение информацию. Это происходит из-за того, что LLM, подобные Chat GPT, обучаются на огромных массивах данных, выявляя закономерности, но не обладая реальным пониманием мира.  В результате, ИИ может казаться убедительным, даже если его ответы не соответствуют действительности.

Особенно опасны такие «галлюцинации» в сфере здравоохранения, где неверный диагноз или некорректная рекомендация лечения могут привести к серьезным последствиям для пациента.  Недавнее исследование Гарвардского университета показало, что многие люди предпочитают медицинские советы, сгенерированные чат-ботами, ответам врачей, что подчеркивает острую необходимость в разработке более надежного и точного ИИ для медицины.

Для решения этой проблемы исследователи UTSA разрабатывают AI модель, способную самостоятельно перепроверять информацию. Ключевым элементом разработки является создание Causal Knowledge Graph (CKG) – структурированной базы знаний, содержащей проверенную медицинскую информацию из надежных источников. CKG позволит ИИ устанавливать связи между различными медицинскими концепциями и формировать более точные и обоснованные ответы.  Другими словами, CKG действует как «медицинская энциклопедия» для ИИ, помогая ему не «выдумывать» информацию, а находить её в проверенных источниках.

Команда также разрабатывает систему фильтрации данных, использующую субграфы, для более эффективного поиска релевантной информации в CKG.  Субграфы – это меньшие, целевые разделы данных внутри CKG, которые действуют как индекс, помогая ИИ сосредоточиться только на наиболее полезной информации, вместо того чтобы искать во всем массиве знаний.

Помимо разработки инструмента для улучшения ответов ИИ, команда планирует создать эталонную базу данных – коллекцию «безошибочных» вопросов и ответов, которая станет стандартом для оценки и улучшения других моделей ИИ.

Большинство европейцев видят позитивные стороны внедрения ИИ на рабочих местах.

Несмотря на опасения по поводу потери работы и приватности, опрос Евробарометра показал, что большинство жителей ЕС считают искусственный интеллект полезным для экономики, повышения производительности и улучшения качества жизни.

Новое исследование Евробарометра показало, что большинство европейцев положительно относятся к внедрению искусственного интеллекта (ИИ) и других цифровых технологий на рабочих местах, несмотря на обеспокоенность по поводу потенциальных рисков. Опрос «Искусственный интеллект и будущее работы», проведенный в апреле-мае 2024 года среди 26 415 жителей ЕС, выявил, что 62% респондентов считают роботов и ИИ позитивным явлением на работе, а 70% полагают, что эти технологии повышают производительность, сообщает Staffing Industry Analysts (https://www.staffingindustry.com/news/global-daily-news/most-europeans-positive-about-ai-in-the-workplace).

Однако, исследование также выявило значительную обеспокоенность по поводу необходимости регулирования использования ИИ. 84% опрошенных считают, что ИИ требует тщательного управления для защиты приватности и обеспечения прозрачности на рабочем месте.  Кроме того, 66% опасаются, что ИИ и роботы скорее отнимут рабочие места, чем создадут новые.  Эти опасения касаются, в частности, автоматического увольнения работников (78%), мониторинга сотрудников (63%), оценки их производительности (57%) и сбора, обработки и хранения персональных данных (49%).

Несмотря на эти опасения, исследование показало, что 67% респондентов оптимистично настроены относительно использования цифровых технологий, включая ИИ, для улучшения здоровья и безопасности работников. Большинство европейцев также поддерживают четкие правила использования цифровых технологий, такие как защита приватности работников (82%).

«Примечательно, что более шести из десяти европейцев считают, что роботы и ИИ – это хорошо для общества, с оговоркой, что подавляющее большинство также говорят, что такие технологии нуждаются в тщательном управлении», – говорится в отчете ЕС.  Опрос подчеркивает, что потенциал роботов и ИИ в облегчении рабочей нагрузки за счет выполнения скучной и повторяющейся работы или использования для принятия точных решений ценится, но респонденты опасаются их воздействия на социальные области, такие как общение между коллегами.

Искусственный интеллект (ИИ) – это широкое понятие, обозначающее способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, распознавание образов и принятие решений.  В контексте рабочих мест, ИИ может использоваться для автоматизации рутинных задач, анализа больших объемов данных и предоставления сотрудникам более точной информации для принятия решений.

Евробарометр – это серия регулярных опросов общественного мнения, проводимых Европейской комиссией в странах-членах ЕС и некоторых других странах. Эти опросы позволяют оценить общественное мнение по различным вопросам, касающимся политики, экономики и социальной жизни в Европе.

Подписаться на нас

Сегодня, 21:07

В Крыловском районе Кубани раскрыта схема обмана пожилых людей

Громкое дело о «пенсионных» миллионах получило логическое завершение

Фото: t.me/mvd23krasnodar

В Крыловском районе Краснодарского края завершено расследование уголовных дел о масштабном мошенничестве, жертвами которого стали пожилые жители, лишившиеся в общей сложности более восьми миллионов рублей, сообщает пресс-служба прокуратуры Краснодарского края. 

Надзорное ведомство утвердило обвинительные заключения в отношении двух 20-летних жителей Ростовской области, которым вменяют участие в серии афер, совершенных группой по предварительному сговору в крупном и особо крупном размере, а также попытку хищения значительных сумм. 

По данным следствия, молодые люди сознательно включились в преступную схему ради заработка: их задачей было лично забирать деньги у введенных в заблуждение пенсионеров под предлогом необходимости «декларирования» средств, после чего они уговаривали потерпевших перевести деньги на счета, подконтрольные организаторам. 

За такую работу исполнители получали процент от похищенного — около одного процента от каждой суммы. 

В результате действий злоумышленников пострадали пять человек, лишившиеся накоплений на сумму свыше восьми миллионов рублей. Еще один мошеннический эпизод на миллион рублей довести до конца злоумышленникам не удалось — вмешались правоохранительные органы, которые пресекли преступление и помогли вернуть деньги владельцу. 

Материалы дел уже переданы в Крыловский районный суд, где их рассмотрят по существу, а прокуратура параллельно обратилась с исками, добиваясь возмещения ущерба с владельцев счетов, через которые проходили похищенные средства.

Ранее «Югополис» рассказывал о нескольких случаях телефонного мошенничества в Краснодаре, жертвами которых стали пожилые люди.

Больше новостей о судебных делах, криминале, новинках законодательства и мнениях экспертов в соцсетях «ВКонтакте» и Telegram.  

Сегодня, 20:23

В Новороссийске судовому повару вынесли приговор по делу о госизмене

Вину обвиняемая так и не признала

Скриншот видео: УФСБ России по Краснодарскому краю

Краснодарский краевой суд огласили приговор 63-летней жительнице Новороссийска, которую признали виновной в государственной измене. Как сообщили в объединённой пресс-службе судов края, речь идёт о женщине, работавшей судовым поваром и, по версии следствия, сотрудничавшей с иностранной структурой.

Суд установил, что она намеревалась уехать из России и рассчитывала перебраться на постоянное место жительства в США. Для осуществления своего плана она вышла на связь с организацией, связанной со Службой безопасности Украины, и начала выполнять поступающие оттуда задания. При этом женщина понимала, что действует по собственной воле и помогает структуре, чья деятельность направлена против безопасности России.

Работая на плавкране, она собирала сведения о военных объектах и кораблях Вооружённых сил РФ и Черноморского флота ВМФ России. Информацию, как следует из приговора, она передавала кураторам. Речь шла об объектах, расположенных в Новороссийске, Сочи и Севастополе.

Деятельность женщины выявили и остановили сотрудники УФСБ России по Краснодарскому краю. В суде подсудимая заявила, что признаёт сами действия, однако не согласна с тем, что они образуют состав преступления.

Суд назначил ей 13 лет лишения свободы с отбыванием в колонии общего режима, а также дополнительное ограничение свободы сроком на один год. Приговор пока не вступил в законную силу, уточнили в объединённой пресс-службе судов края.

Ранее «Югополис» рассказывал о приговоре за госизмену, вынесенном ростовскому военнослужащему.

Больше новостей о судебных делах, криминале, новинках законодательства и мнениях экспертов в соцсетях «ВКонтакте» и Telegram.  

Оперативное видео: УФСБ России по Краснодарскому краю.

Сегодня, 20:08

В Тамани при строительстве дороги погиб водитель грузовика

Мужчину убило током

Фото: t.me/git_kk

Трагический случай произошел во время выполнения работ по строительству автодороги в Темрюкском поселке Тамань. 

О несчастном случае на производстве рассказали в пресс-службе Гострудинспекции в Краснодарском крае и Республике Адыгея. По словам замруководителя ведомства И. Кондратенко, кузов грузовика задел линию электропередач, водитель получил смертельный удар током.

Причины и обстоятельства случившегося устанавливают специалисты. Инициирован внеплановый рейдовый осмотр и изучение условий проведения работ.

Ранее «Югополис» рассказывал о другом трагическом случае: в Павловском районе Кубани при откачке сточных вод на нефтебазе погиб ее сотрудник в результате воспламенения газовоздушной смеси.

Сегодня, 19:36

Шашлык дорожает: как изменилась стоимость набора для пикника на Кубани

Специалисты объясняют изменения не только ценами, но и внешними обстоятельствами 

Фото: Людмила Лата

За последний год собрать базовый комплект для шашлыка в Краснодарском крае стало заметно дороже: средняя сумма выросла на 9% и в апреле 2026 года достигла 3 489 рублей. К таким выводам пришли аналитики, изучив массив чеков и покупательских данных. При этом интерес к самому главному ингредиенту — мясу — ощутимо снизился: его стали покупать на 13% реже.

Если смотреть по составляющим, картина выглядит неоднородно. Готовое мясо для жарки подорожало умеренно — примерно на 6%, и теперь обходится почти в тысячу рублей за покупку. Однако спрос на него заметно просел. Шампуры прибавили в цене немного — около 3%, но и их стали брать реже. Самый ощутимый рост показали мангалы: плюс 13% за год, при этом продажи сократились почти на пятую часть. 

Древесный уголь также подорожал — на 11%, хотя снижение спроса здесь оказалось не таким резким. Интересно, что средства для розжига выбились из общей тенденции: они стали чуть дороже, но покупать их начали даже чаще.

Покупательские привычки тоже остаются стабильными: мясо по-прежнему в подавляющем большинстве случаев берут в обычных магазинах, тогда как мангалы все чаще заказывают онлайн — более чем в каждом пятом случае, сообщает BFM Кубань.

В этом году сезон шашлыков стартовал позже обычного — подвела погода, а также сыграла роль Страстная неделя перед Пасхой. 

Сегодня, 19:13

В Анапе уже три песчаных пляжа признаны безопасными

Зоны отдыха после проверок и очистки соответствуют нормативам

Анапа. Фото: t.me/opershtab23

В Анапе постепенно восстанавливают курортную инфраструктуру, и уже три песчаных пляжа официально признаны пригодными для отдыха и купания. Речь идет о территориях курорта Miracleon, детского санаторно-оздоровительного комплекса «Жемчужина России» и пляже детского курорта «Вита».

Решение по каждому объекту принималось на основе санитарно-эпидемиологических проверок. Так, для Miracleon экспертизу провело аккредитованное подразделение «Центр гигиены и эпидемиологии в Краснодарском крае», специалисты которого в апреле изучили состояние пляжа. По итогам проверки подтвердилось, что территория соответствует всем необходимым требованиям: песок в норме, санитарное состояние поддерживается, а значит, отдыхать здесь можно без опасений.

Отдельное заключение получили и в комплексе «Жемчужина России». Там подчеркнули, что подготовка к сезону ведется строго по установленным правилам, а условия для детей — как с точки зрения безопасности, так и оздоровления — полностью соответствуют нормам. Как сообщал «Югополис», похожая оценка дана и пляжу курорта «Вита» в Витязево: эксперты подтвердили, что он отвечает всем санитарным требованиям и подходит для безопасного пребывания детей.

В Роспотребнадзоре допускают, что при сохранении текущей динамики пляжи Анапы смогут открыть к началу летнего сезона. Однако ключевым условием остается завершение работ по восстановлению песчаного слоя и соблюдение всех регламентов. На федеральном уровне эту задачу также считают приоритетной: 15 апреля министр экономического развития Максим Решетников заявил, что усилия направлены на то, чтобы открыть пляжи не позднее 1 июня.

Тем временем на побережье продолжаются восстановительные работы. В частности, на центральном пляже Анапы завершается очистка береговой линии, сообщили в оперштабе Краснодарского края. В операции задействованы силы Кубань-СПАС, МЧС России и Морспасслужбы. Ранее, 12 и 13 апреля, к ликвидации последствий загрязнения подключались волонтеры и специализированная техника: пляжи очищали от выбросов нефтепродуктов.

Ожидания отрасли напрямую связаны с тем, насколько быстро удастся вернуть курорту полноценную работу. В Ассоциация туроператоров России считают, что своевременное открытие пляжей способно заметно увеличить поток туристов. По их оценкам, в 2026 году Анапа может принять до 3,5 миллиона гостей

Видео: t.me/opershtab23

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.