Закрыть
16:32, 17 марта 2025

Ученые UTSA работают над устранением «галлюцинаций» ИИ в медицине

Фото создано с помощью GigaChat

Исследователи из Школы Data Science UTSA разрабатывают инструменты, которые позволят искусственному интеллекту давать более точные и правдивые ответы на медицинские вопросы, минимизируя риски неверных диагнозов и рекомендаций.

Ученые из Школы Data Science (SDS) при Университете Техаса в Сан-Антонио (UTSA) совершили прорыв в области искусственного интеллекта (ИИ) для медицины. Их проект, получивший грант в размере 35 000 долларов, направлен на значительное снижение «галлюцинаций» в больших языковых моделях (LLM) при ответах на вопросы, касающиеся личной медицинской истории. Разработка позволит сделать ИИ более надежным и безопасным помощником для врачей и пациентов, пишет UTSA Today (https://www.utsa.edu/today/2025/03/story/SDS-faculty-improve-AI-reliability-in-medical-field.html). 

Исследовательская группа, возглавляемая доцентом компьютерных наук Ке Янг, совместно с доцентами информационных систем и кибербезопасности Энтони Риосом и Юэся Чжан, сосредоточена на решении проблемы «галлюцинаций» ИИ.  «Галлюцинации» ИИ – это термин, описывающий ситуации, когда ИИ уверенно предоставляет ложную или вводящую в заблуждение информацию. Это происходит из-за того, что LLM, подобные Chat GPT, обучаются на огромных массивах данных, выявляя закономерности, но не обладая реальным пониманием мира.  В результате, ИИ может казаться убедительным, даже если его ответы не соответствуют действительности.

Особенно опасны такие «галлюцинации» в сфере здравоохранения, где неверный диагноз или некорректная рекомендация лечения могут привести к серьезным последствиям для пациента.  Недавнее исследование Гарвардского университета показало, что многие люди предпочитают медицинские советы, сгенерированные чат-ботами, ответам врачей, что подчеркивает острую необходимость в разработке более надежного и точного ИИ для медицины.

Для решения этой проблемы исследователи UTSA разрабатывают AI модель, способную самостоятельно перепроверять информацию. Ключевым элементом разработки является создание Causal Knowledge Graph (CKG) – структурированной базы знаний, содержащей проверенную медицинскую информацию из надежных источников. CKG позволит ИИ устанавливать связи между различными медицинскими концепциями и формировать более точные и обоснованные ответы.  Другими словами, CKG действует как «медицинская энциклопедия» для ИИ, помогая ему не «выдумывать» информацию, а находить её в проверенных источниках.

Команда также разрабатывает систему фильтрации данных, использующую субграфы, для более эффективного поиска релевантной информации в CKG.  Субграфы – это меньшие, целевые разделы данных внутри CKG, которые действуют как индекс, помогая ИИ сосредоточиться только на наиболее полезной информации, вместо того чтобы искать во всем массиве знаний.

Помимо разработки инструмента для улучшения ответов ИИ, команда планирует создать эталонную базу данных – коллекцию «безошибочных» вопросов и ответов, которая станет стандартом для оценки и улучшения других моделей ИИ.

Большинство европейцев видят позитивные стороны внедрения ИИ на рабочих местах.

Несмотря на опасения по поводу потери работы и приватности, опрос Евробарометра показал, что большинство жителей ЕС считают искусственный интеллект полезным для экономики, повышения производительности и улучшения качества жизни.

Новое исследование Евробарометра показало, что большинство европейцев положительно относятся к внедрению искусственного интеллекта (ИИ) и других цифровых технологий на рабочих местах, несмотря на обеспокоенность по поводу потенциальных рисков. Опрос «Искусственный интеллект и будущее работы», проведенный в апреле-мае 2024 года среди 26 415 жителей ЕС, выявил, что 62% респондентов считают роботов и ИИ позитивным явлением на работе, а 70% полагают, что эти технологии повышают производительность, сообщает Staffing Industry Analysts (https://www.staffingindustry.com/news/global-daily-news/most-europeans-positive-about-ai-in-the-workplace).

Однако, исследование также выявило значительную обеспокоенность по поводу необходимости регулирования использования ИИ. 84% опрошенных считают, что ИИ требует тщательного управления для защиты приватности и обеспечения прозрачности на рабочем месте.  Кроме того, 66% опасаются, что ИИ и роботы скорее отнимут рабочие места, чем создадут новые.  Эти опасения касаются, в частности, автоматического увольнения работников (78%), мониторинга сотрудников (63%), оценки их производительности (57%) и сбора, обработки и хранения персональных данных (49%).

Несмотря на эти опасения, исследование показало, что 67% респондентов оптимистично настроены относительно использования цифровых технологий, включая ИИ, для улучшения здоровья и безопасности работников. Большинство европейцев также поддерживают четкие правила использования цифровых технологий, такие как защита приватности работников (82%).

«Примечательно, что более шести из десяти европейцев считают, что роботы и ИИ – это хорошо для общества, с оговоркой, что подавляющее большинство также говорят, что такие технологии нуждаются в тщательном управлении», – говорится в отчете ЕС.  Опрос подчеркивает, что потенциал роботов и ИИ в облегчении рабочей нагрузки за счет выполнения скучной и повторяющейся работы или использования для принятия точных решений ценится, но респонденты опасаются их воздействия на социальные области, такие как общение между коллегами.

Искусственный интеллект (ИИ) – это широкое понятие, обозначающее способность компьютерных систем выполнять задачи, которые обычно требуют человеческого интеллекта, такие как обучение, распознавание образов и принятие решений.  В контексте рабочих мест, ИИ может использоваться для автоматизации рутинных задач, анализа больших объемов данных и предоставления сотрудникам более точной информации для принятия решений.

Евробарометр – это серия регулярных опросов общественного мнения, проводимых Европейской комиссией в странах-членах ЕС и некоторых других странах. Эти опросы позволяют оценить общественное мнение по различным вопросам, касающимся политики, экономики и социальной жизни в Европе.

Подписаться на нас

Сегодня, 20:52

Пройдена половина пути в масштабной реконструкции Тургеневского моста в Краснодаре

Важное сооружение постепенно обретает новую жизнь

Фото: t.me/karpenkoNovoross

В Краснодаре продолжается реконструкция Тургеневского моста, соединяющего город с Адыгеей. Работы на стратегически важном объекте достигли ключевой отметки — около 50 процентов всех запланированных мероприятий уже выполнено.

Как сообщил депутат Законодательного собрания Краснодарского края Александр Карпенко, с начала реконструкции мост заметно преобразился. Рабочие компании ООО «Основа» под руководством проектного менеджера Александра Сурина уже завершили установку 75 балок и 20 плит пролетного строения. Это — основа новой, более прочной и безопасной конструкции моста.

Металлоконструкции прошли тщательную пескоструйную обработку, и почти полностью (на 80 процентов) завершены работы по их грунтовке. На очереди — покраска металлических элементов, которая обеспечит дополнительную защиту от коррозии.

На объекте параллельно ведётся несколько важных этапов: продолжается ремонт плит сталежелезобетонного пролетного строения, идет омоноличивание консольных блоков, а также укладывается выравнивающий слой. Кроме того, рабочие занимаются восстановлением лестничных сходов башенного типа, которые также подвергнутся обновлению.

Особое внимание сейчас уделяется опорным конструкциям моста: завершается их пескоструйная очистка, и уже начато оштукатуривание бетонных поверхностей. Следующий шаг — нанесение лакокрасочного покрытия, которое придаст опорам не только эстетичный вид, но и защитит от неблагоприятных погодных условий.

В ближайшее время стартуют работы по гидроизоляции пролетных конструкций, укладке бетонного защитного слоя и формированию новой дорожной одежды — это позволит обеспечить прочное и ровное покрытие проезжей части.

Кульминацией первого этапа станет перекрытие второй половины моста и открытие движения по уже отремонтированной части, что запланировано на конец ноября 2025 года. Отдельно стоит отметить, что в сентябре были установлены новые опоры, заменив старые элементы буквально за сутки — пример высокой организации и технологичности проекта.

Реконструкция не только продлит срок эксплуатации Тургеневского моста, но и повысит безопасность и комфорт для тысяч автомобилистов, ежедневно пользующихся этим маршрутом.

Фото: t.me/karpenkoNovoross

Сегодня, 20:32

Двое раненых при атаке в Новороссийске остаются в тяжёлом состоянии

В больнице их посетил мэр города Андрей Кравченко

Фото: t.me/kravchenko_glava_nvrsk

Двое пострадавших в результате атаки беспилотников, произошедшей 24 сентября в центре Новороссийска, продолжают находиться в тяжелом состоянии. Мужчину, местного жителя, и женщину, приехавшую в город на отдых, накануне доставили в Краевую клиническую больницу №1 Краснодара. Их госпитализация в главную кубанскую больницу стала необходимой мерой из-за серьезных травм, полученных в результате взрывов.

25 сентября в медицинское учреждение приехал мэр Новороссийска Андрей Кравченко. Он ознакомился с состоянием пострадавших и провел встречу с медицинским персоналом, курирующим их лечение. По словам градоначальника, жизни пострадавших вне опасности, несмотря на тяжесть полученных ран. Врачи продолжают круглосуточно следить за их состоянием.

Андрей Кравченко выразил уверенность в том, что пациенты получат всю необходимую помощь, а городская администрация, по его словам, сделает всё возможное, чтобы ускорить их восстановление. Он отметил важность поддержки в подобных ситуациях, подчеркнув, что каждый пострадавший может рассчитывать не только на внимание медиков, но и на помощь со стороны местных властей.

«Югополис» ранее сообщал, что в результате атаки были повреждены жилые дома, а сейчас в городе продолжаются восстановительные работы. Нападение стало причиной гибели двух человек и оставило заметный след в жизни Новороссийска. 

Подробности трагедии можно найти в специальном материале «Югополиса», посвящённом последствиям удара.

Сегодня, 20:05

На стройке в Сочи опрокинулся экскаватор, водителя извлекали спасатели

В настоящее время пострадавший госпитализирован

Скриншот видео: t.me/urpso_mchs

В Хостинском районе Сочи произошёл несчастный случай на строительной площадке. Во время выполнения земляных работ экскаватор по неизвестной причине потерял устойчивость и перевернулся. В этот момент в кабине находился 40-летний оператор техники, который оказался зажат конструкциями машины и не мог выбраться самостоятельно.

На место происшествия оперативно прибыли специалисты Южного регионального поисково-спасательного отряда МЧС России, а также сотрудники городской службы спасения. Для освобождения мужчины они задействовали мотолебёдку, способную поднимать до пяти тонн. С её помощью экскаватор был приподнят, что позволило добраться до пострадавшего.

После извлечения водителя из деформированной кабины его передали врачам скорой помощи. О состоянии мужчины в сообщении пресс-службы спасотряда не уточняется, однако подчёркивается, что спасательная операция прошла успешно.

Инцидент стал поводом для привлечения внимания к вопросам безопасности на строительных объектах и важности соблюдения всех технических норм при эксплуатации тяжёлой техники.

Сегодня, 19:47

Жительнице Кубани, напавшей на сотрудницу полиции, не удалось оспорить приговор

Обвиняемая проведёт три года в колонии

Заседание суда. Фото: t.me/sud_kas_4

Как сообщает пресс-служба Четвёртого кассационного суда общей юрисдикции, суд не нашёл оснований для смягчения наказания или пересмотра дела. Кассационная инстанция оставила в силе решения Центрального районного суда Сочи и апелляционного суда, признав приговор законным и справедливым.

Речь идёт о происшествии, случившемся осенью 2023 года в сочинском парке «Ривьера» во время торжественного мероприятия, посвящённого освобождению Краснодарского края от фашистских захватчиков. По материалам дела, Алсу Намирова, находясь в состоянии алкогольного опьянения, вела себя агрессивно и нарушала общественный порядок. Очевидцы вызвали полицию. 

Женщину, сопротивлявшуюся требованиям правоохранителей, доставили на стационарный пост. Именно там, по данным следствия, она набросилась на сотрудницу полиции и попыталась её задушить.

Суд признал Намирову виновной в применении насилия, опасного для жизни, в отношении представителя власти, находившегося при исполнении. За это она получила три года лишения свободы в колонии общего режима.

Адвокат осуждённой пытался обжаловать приговор, ссылаясь на недостаточную доказанность вины и ошибки в действиях судов первой и второй инстанций. Однако Четвёртый кассационный суд общей юрисдикции, рассмотрев жалобу, признал эти доводы несостоятельными: в ходе разбирательства, по мнению суда, были полноценно изучены все обстоятельства дела и представленные доказательства.

Таким образом, приговор вступил в законную силу и не подлежит изменению.

Сегодня, 19:08

На Кубани найден мёртвым депутат Тихорецкого районного Совета

Обстоятельства его смерти вызывают вопросы, ответа на которые пока нет

Виталий Капустин. Фото: ideputat.er.ru

В Краснодарском крае следственным органам предстоит выяснить обстоятельства гибели депутата Тихорецкого районного Совета Виталия Капустина. 

Как сообщает «КП-Кубань», его тело было обнаружено утром 25 сентября в лесополосе рядом с автотрассой неподалёку от станицы Новорождественской. Позже личность погибшего была установлена — это 43-летний Виталий Капустин, депутат от партии «Единая Россия» и руководитель строительной компании ООО «Кубаньспецстрой». В районном Совете он возглавлял комиссию по вопросам сельского хозяйства, транспорта, благоустройства и связи.

Относительно обстоятельств и причин смерти версии расходятся. По данным «КП-Кубань», ссылающейся на источник, смерть не носит криминальный характер. В то же время издание «93.ру» со ссылкой на показания проезжавших по трассе очевидцев сообщает, что тело было найдено висящим на дереве, а рядом стоял внедорожник.

Следственные органы пока не прокомментировали эту тревожную информацию.

Виталий Капустин родился в 1982 году в станице Архангельской. Он получил техническое образование в Новочеркасском политехническом институте и с 2016 года руководил строительной компанией. С 2019 года работал в местном Совете, занимаясь социальными, коммунальными и инфраструктурными вопросами.

Местные жители отзываются о нём как о человеке, активно вовлечённом в развитие района. 

Пользуясь нашим сайтом, вы соглашаетесь с политикой обработки персональных данных использованием файлов cookie.