Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине — Югополис
Закрыть
16:32, 17 марта 2025

Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине

Фото создано с помощью GigaChat

Исследователи из Школы Data Science UTSA разрабатывают инструменты, которые позволят искусственному интеллекту давать более точные и правдивые ответы на медицинские вопросы, минимизируя риски неверных диагнозов и рекомендаций.

Ученые из Школы Data Science (SDS) при Университете Техаса в Сан-Антонио (UTSA) совершили прорыв в области искусственного интеллекта (ИИ) для медицины. Их проект, получивший грант в размере 35 000 долларов, направлен на значительное снижение «галлюцинаций» в больших языковых моделях (LLM) при ответах на вопросы, касающиеся личной медицинской истории. Разработка позволит сделать ИИ более надежным и безопасным помощником для врачей и пациентов, пишет UTSA Today (https://www.utsa.edu/today/2025/03/story/SDS-faculty-improve-AI-reliability-in-medical-field.html). 

Исследовательская группа, возглавляемая доцентом компьютерных наук Ке Янг, совместно с доцентами информационных систем и кибербезопасности Энтони Риосом и Юэся Чжан, сосредоточена на решении проблемы «галлюцинаций» ИИ.  «Галлюцинации» ИИ – это термин, описывающий ситуации, когда ИИ уверенно предоставляет ложную или вводящую в заблуждение информацию. Это происходит из-за того, что LLM, подобные Chat GPT, обучаются на огромных массивах данных, выявляя закономерности, но не обладая реальным пониманием мира.  В результате, ИИ может казаться убедительным, даже если его ответы не соответствуют действительности.

Особенно опасны такие «галлюцинации» в сфере здравоохранения, где неверный диагноз или некорректная рекомендация лечения могут привести к серьезным последствиям для пациента.  Недавнее исследование Гарвардского университета показало, что многие люди предпочитают медицинские советы, сгенерированные чат-ботами, ответам врачей, что подчеркивает острую необходимость в разработке более надежного и точного ИИ для медицины.

Для решения этой проблемы исследователи UTSA разрабатывают AI модель, способную самостоятельно перепроверять информацию. Ключевым элементом разработки является создание Causal Knowledge Graph (CKG) – структурированной базы знаний, содержащей проверенную медицинскую информацию из надежных источников. CKG позволит ИИ устанавливать связи между различными медицинскими концепциями и формировать более точные и обоснованные ответы.  Другими словами, CKG действует как «медицинская энциклопедия» для ИИ, помогая ему не «выдумывать» информацию, а находить её в проверенных источниках.

Команда также разрабатывает систему фильтрации данных, использующую субграфы, для более эффективного поиска релевантной информации в CKG.  Субграфы – это меньшие, целевые разделы данных внутри CKG, которые действуют как индекс, помогая ИИ сосредоточиться только на наиболее полезной информации, вместо того чтобы искать во всем массиве знаний.

Помимо разработки инструмента для улучшения ответов ИИ, команда планирует создать эталонную базу данных – коллекцию «безошибочных» вопросов и ответов, которая станет стандартом для оценки и улучшения других моделей ИИ.

Большинство европейцев видят позитивные стороны внедрения ИИ на рабочих местах.

Несмотря на опасения по поводу потери работы и приватности, опрос Евробарометра показал, что большинство жителей ЕС считают искусственный интеллект полезным для экономики, повышения производительности и улучшения качества жизни.

Новое исследование Евробарометра показало, что большинство европейцев положительно относятся к внедрению искусственного интеллекта (ИИ) и других цифровых технологий на рабочих местах, несмотря на обеспокоенность по поводу потенциальных рисков. Опрос «Искусственный интеллект и будущее работы», проведенный в апреле-мае 2024 года среди 26 415 жителей ЕС, выявил, что 62% респондентов считают роботов и ИИ позитивным явлением на работе, а 70% полагают, что эти технологии повышают производительность, сообщает Staffing Industry Analysts (https://www.staffingindustry.com/news/global-daily-news/most-europeans-positive-about-ai-in-the-workplace).

Однако, исследование также выявило значительную обеспокоенность по поводу необходимости регулирования использования ИИ. 84% опрошенных считают, что ИИ требует тщательного управления для защиты приватности и обеспечения прозрачности на рабочем месте.  Кроме того, 66% опасаются, что ИИ и роботы скорее отнимут рабочие места, чем создадут новые.  Эти опасения касаются, в частности, автоматического увольнения работников (78%), мониторинга сотрудников (63%), оценки их производительности (57%) и сбора, обработки и хранения персональных данных (49%).

Несмотря на эти опасения, исследование показало, что 67% респондентов оптимистично настроены относительно использования цифровых технологий, включая ИИ, для улучшения здоровья и безопасности работников. Большинство европейцев также поддерживают четкие правила использования цифровых технологий, такие как защита приватности работников (82%).

«Примечательно, что более шести из десяти европейцев считают, что роботы и ИИ – это хорошо для общества, с оговоркой, что подавляющее большинство также говорят, что такие технологии нуждаются в тщательном управлении», – говорится в отчете ЕС.  Опрос подчеркивает, что потенциал роботов и ИИ в облегчении рабочей нагрузки за счет выполнения скучной и повторяющейся работы или использования для принятия точных решений ценится, но респонденты опасаются их воздействия на социальные области, такие как общение между коллегами.

Искусственный интеллект (ИИ) – это широкое понятие, обозначающее способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, распознавание образов и принятие решений.  В контексте рабочих мест, ИИ может использоваться для автоматизации рутинных задач, анализа больших объемов данных и предоставления сотрудникам более точной информации для принятия решений.

Евробарометр – это серия регулярных опросов общественного мнения, проводимых Европейской комиссией в странах-членах ЕС и некоторых других странах. Эти опросы позволяют оценить общественное мнение по различным вопросам, касающимся политики, экономики и социальной жизни в Европе.

Подписаться на нас

Сегодня, 11:48

В Новороссийске КПРФ инициировала проверку протоколов собрания домовладельцев

Жители Новороссийска, проживающие в многоквартирных домах Южного и Приморского округов, бьют тревогу. У них есть подозрение в масштабной фальсификации протоколов общих собраний собственников, повлекшей за собой смену управляющей компании на ООО «Репино» и повышение тарифов. Ситуация, получившая общественный резонанс благодаря вмешательству КПРФ, показала серьёзные проблемы в сфере жилищно-коммунального хозяйства.

Согласно информации, предоставленной представителями КПРФ, с декабря 2024 по январь 2025 года в Государственной информационной системе ЖКХ (ГИС ЖКХ) появились протоколы собраний, на которых якобы собственники единогласно одобрили передачу управления домами ООО «Репино». Список “принятых” жильцами решений впечатляет: изменение управляющей организации, повышение тарифов, заключение прямых договоров с ресурсоснабжающими организациями и даже передача прав на распоряжение средствами и имуществом дома.

Однако, по утверждениям жителей, эти собрания не проводились. Они заявляют о полном отсутствии уведомлений, подписи в протоколах им не принадлежат, а указанные данные не соответствуют действительности. Более того, сами документы в ГИС ЖКХ, по словам КПРФ, содержат грубые нарушения: отсутствуют бюллетени для голосования, реестры собственников, копии договоров и прочие обязательные приложения.

Депутат Государственной Думы от КПРФ Николай Осадчий, к которому обратились жители, подтверждает наличие серьёзных нарушений. Его помощник, секретарь крайкома КПРФ Александр Сафронов, сообщает, что были поданы заявления в полицию, но оттуда получены лишь формальные ответы. Следствие, по его словам, отказывает в возбуждении уголовных дел, ссылаясь на якобы проведенные проверки или нахождение документов в суде. При этом, внимание сосредоточено лишь на одном доме – 41Г по Анапскому шоссе, в то время как проблема носит системный характер и затрагивает множество домов в Южном и Приморском округах.

Жители пытались добиться справедливости самостоятельно: направляли обращения в администрацию, ГЖИ, полицию. Результат — игнорирование или отписки. Сафронов считает, что речь идёт не о единичном нарушении, а о слаженной и организованной схеме, направленной на незаконное перераспределение сфер влияния в системе ЖКХ. В итоге Сафронов направил депутатские запросы в ГЖИ, МВД и прокуратуру края.

«Вероятно мы опять имеем дело с типичной картиной — махинации с подписями, липовые собрания, повышение тарифов за счёт фиктивного «волеизъявления». Всё это делается в интересах узкой группы лиц, часто при полном попустительстве или прямом участии местных властей. КПРФ требует жёсткой реакции от контролирующих и надзорных органов. Управляющие компании должны избираться действительно жильцами, а не назначаться «в тёмную» через фальшивые протоколы», — прокомментировала Сафронов.

Сегодня, 11:29

На Кубани за январь-апрель 2025 года выпуск лекарств вырос на треть

Региональные предприятия произвели медикаментов на сумму более 2 миллиардов рублей

Фото: Photl

По информации Краснодарстата, с января по апрель текущего года объем отгрузки химической продукции в регионе достиг 18,3 миллиарда рублей, что на 4,5% больше по сравнению с тем же периодом 2024 года. Особенно заметен рост в фармацевтическом направлении: выпуск медикаментов и медматериалов местного производства вырос почти на 30% — до 2,4 миллиарда рублей. Такую информацию опубликовал «Ъ-Кубань».

В Краснодарском крае в целом за последние три года заметно увеличилось количество предприятий, работающих в сфере химии. По данным регионального Минпромполитики, ссылающегося на статистику УФНС, на начало мая 2025 года, в крае сейчас функционируют 1219 химпредприятий. Это на 7,5% больше, чем в 2022 году. Эти предприятия охватывают широкий спектр производства — от химических соединений и медицинских препаратов до изделий из резины и пластика. Также в крае выпускают удобрения, краски и лаки, парфюмерию и косметику.

Как ранее отмечали представители отрасли, уход иностранных производителей с российского рынка и санкционное давление подстегнули развитие отечественной химии. Местные компании начали активнее расширять производство и выходить на внешние рынки. Однако среди главных трудностей остаются нехватка квалифицированных специалистов и проблемы с импортным оборудованием — его поставкой и обслуживанием.

Напомним, что в ближайшие 5 лет кубанским промпредприятиям понадобится 18 тысяч специалистов в различных отраслях. Это связано с активным строительством промпарков – в регионе к 2030 году их появится еще 8.

Сегодня, 11:20

В Крыму задержали двух мужчин по подозрению в передаче Украине координат важных объектов

На допросах оба задержанных во всем признались

кадр из видео / ЦОС ФСБ РФ

ФСБ РФ сообщила о задержании в Крыму двух местных жителей. Их подозревают в передаче Службе безопасности Украины фото и видеоматериалов с расположением стратегических объектов и военной техники. 

Оба задержанных — граждане России. Одному из них 32 года, второму — 48 лет. В ФСБ сообщили, что обоих завербовали через мессенджер. Оба задержанных на допросах признались в содеянном. 

“В городе Ялте, проезжая мимо военного объекта, я осуществил видеосъемку, зафиксировал место расположения российских военнослужащих, после передал фотографии этому Николаю через Telegram-канал. Потом меня задержали сотрудники ФСБ”, — рассказал один из задержанных.

Второй задержанный сообщил, что сам снял на видео поезд, перевозивший нефтепродукты и отправил в видеозапись в чат-бот. Кроме того, он указал, где расположен Зенитный ракетно-артиллерийский комплекс “Панцирь-М” около нефтебазы.

Ранее “Югополис” сообщал, что в Крыму задержали двух женщин (38 и 39 лет) по подозрению в сотрудничестве с Службой безопасности Украины. Они якобы передавали украинской разведке интересующие их данные и координаты, в том числе — точные координаты полевого склада с горюче-смазочными материалами, принадлежащего одной из российских воинских частей.

Сегодня, 10:59

Власти хотят поднять госпошлины для автовладельцев и ввести 7 новых сборов с мигрантов

В частности, сбор за получение водительских прав планируется повысить в два раза

pixabay.com

Минфин РФ разработал законопроект, предусматривающий повышение нескольких транспортных госпошлин, а также введение семи новых пошлин для мигрантов. Об этом сообщают «Известия» со ссылкой на законопроект.

В частности, с сентября нынешнего года сбор за получение водительских прав хотят повысить в два раза. За удостоверение старого образца – до 4 тысяч рублей, нового образца – до 6 тысяч рублей. За выдачу водительских прав международного образца нужно будет заплатить 3,2 тысячи рублей (сейчас 1,6 тысячи), за паспорт транспортного средства – 1,2 тысячи рублей, а внесение изменений в документ обойдётся в 525 рублей (сейчас 350 рублей).

Пошлина за выдачу свидетельства о регистрации транспортного средства на бумажном носителе вырастет с 500 рублей до 1,5 тысячи рублей, на пластиковом – с 1,5 тысячи рублей до 4,5 тысячи. Получение госномеров на машину обойдётся в 3 тысячи рублей (сейчас 2 тысячи), регистрационных знаков на прицепы и мотоциклы – в 2,25 тысячи рублей, свидетельства о соответствии ТС требованиям безопасности – в 4,5 тысячи рублей. Также появится пошлина в 500 рублей за внесение сведений в единую автоматизированную информационную систему техосмотра при оформлении диагностической карты после прохождения ТО.

Мигрантам за постановку на учёт по месту пребывания нужно будет платить пошлину в 500 рублей (сейчас это бесплатно), за продление сроков на временное пребывание – 1 тысячу рублей, за разрешение на работу – 4,2 тысячи рублей. Вводятся сборы за выдачу дубликатов некоторых документов (например, разрешения на работу), за внесение изменений в них нужно будет платить 2,1 тысячу рублей. Пошлина за выдачу или переоформление патента составит 4,2 тысячи рублей. За регистрацию иностранца по месту жительства нужно будет заплатить 1 тысячу рублей (сейчас 420 рублей).

Власти планируют, что повышение пошлин позволит пополнить федеральный бюджет на 28,3 миллиарда рублей. Документ, по информации «Известий», уже согласован с профильными ведомствами, 30 июня его должна рассмотреть правительственная комиссия по законопроектной деятельности.

Сегодня, 10:24

В Кремле рассказали, от чего зависит динамика переговоров между РФ и Украиной

По словам пресс-секретаря президента РФ, все факторы образуют общую сложную картину

Дмитрий Песков / kremlin.ru

Динамика переговоров по урегулированию конфликта между РФ и Украиной во многом зависит от позиции Киева и эффективности посредничества США, поскольку российская позиция понятна. Об этом заявил пресс-секретарь президента РФ Дмитрий Песков.

«Зависит очень многое, естественно, от позиции киевского режима. Зависит от того, насколько эффективно будут дальше продолжаться посреднические усилия Вашингтона», — сказал он (цитата по ТАСС), отвечая на вопрос, от чего зависит ускорение переговорного процесса.

Также Песков указал на важность учёта реалий на земле. По его словам, все эти факторы образуют общую картину, которая является сложной.

Напомним, в середине мая и начале июня РФ и Украина провели два раунда прямых переговоров в Стамбуле. На них были достигнуты договорённости об обмене пленными и возвращении тел погибших. Также стороны обменялись меморандумами, в которых описали, как видят переход к прекращению огня и урегулированию конфликта. Когда и где пройдёт третий раунд переговоров, пока не определено.

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.