«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

Татьяна Гениберг: Рынок недвижимости переходит от рынка собственников к рынку арендаторов

Собственникам коммерческих объектов рекомендуют внимательно отслеживать состояние партнеров, чтобы не опоздать с принятием управленческих решений

0
0

Аналитики оценили потенциальный эффект для рубля от возврата бюджетного правила

Возобновление бюджетных операций, анонсированное Министерством финансов 16 апреля, потенциально может оказать негативное воздействие на российский рубль. Тем не менее участники рынка пока не отреагировали на эти потенциальные риски соответствующим образом. Об этом сообщил начальник управления торговых операций ВТБ Мои Инвестиции Сергей Селютин.

Ранее министр финансов Антон Силуанов отмечал, что правительство в скором времени определит параметры возвращения данного механизма. Участники рынка допускают, что уже в мае Центробанк может возобновить операции по покупке иностранной валюты в соответствии с бюджетным правилом.

Читать полностью

Бум рефинансирования ипотеки ожидают в России в ближайшие 2-3 года

Российский ипотечный рынок стоит на пороге бума рефинансирования. Об этом заявил вице-президент, директор по кредитованию физлиц Т-Банка Кирилл Григорьев в подкасте Домклика «Под одной крышей».

— Ключевая ставка будет планомерно снижаться в перспективе ближайших трёх лет. Это запустит масштабный цикл пересмотра условий по действующим жилищным кредитам, — уверен Григорьев.

Читать полностью

Доллар в России обновил трехлетние минимумы

На сегодняшний день (18 апреля 2026 года) российский рубль продолжает укрепляться по отношению к доллару США и евро. Этот процесс протекает на фоне сочетания нескольких экономических факторов и является прямым следствием мартовских решений Центрального банка, отмечает доцент кафедры экономики и менеджмента ИМиСК Новосибирского государственного педагогического университета (НГПУ) Елена Ельцова.

Курсы валют на текущий момент:

Читать полностью

Как новые кредитные условия повлияют на рынок ИЖС

ВТБ внес коррективы в условия предоставления кредитов для девелоперов, занимающихся индивидуальным жилищным строительством (ИЖС). Согласно информации, полученной от финансовой организации, начиная с августа 2024 года, для застройщиков ИЖС, относящихся к категории малого и среднего бизнеса (МСБ), будет действовать программа кредитования, предусматривающая использование эскроу-счетов. Основной целевой аудиторией данной программы являются именно застройщики, причем более половины участников программы, получающих финансирование, представляют собой субъекты малого предпринимательства и индивидуальных предпринимателей.

Иван Розинский, руководитель департамента кредитования регионального бизнеса — старший вице-президент ВТБ, отметил, что в настоящее время одобрено свыше тысячи проектов для застройщиков ИЖС. На их реализацию выделено более 5 миллиардов рублей. Изменения в программе кредитования позволят более эффективно управлять финансовыми потоками проектов, сократить объем необходимой документации и ускорить получение денежных средств. Это представляет особую ценность для малого бизнеса, чья деятельность связана с поэтапным строительством и требует постоянного и надежного доступа к финансированию.

Читать полностью

Весенние каникулы: «Пушкинская карта» демонстрирует трехкратный рост

Во время весенних каникул ученики и студенты со всей России с энтузиазмом воспользовались программой «Пушкинская карта». Согласно статистике ВТБ, в период с 28 марта по 5 апреля молодые люди приобрели около 700 тысяч билетов на культурные мероприятия, такие как походы в кино, театр и музеи. Общая сумма потраченных средств по этим картам достигла более 350 миллионов рублей.

Наблюдается традиционный рост интереса к программе во время каникул: за этот период было выпущено свыше 120 тысяч новых карт, что в три раза превышает показатель весенних каникул прошлого года. С начала текущего года общее количество оформленных карт среди молодежи по всей стране составило 6,5 миллиона.

Читать полностью

На рынке продолжается процесс дедолларизации

Согласно данным ВТБ, совокупный объём привлечённых средств на рынке за первые три месяца текущего года вырос свыше чем на 489 миллиардов рублей, достигнув показателя в 66,3 триллиона рублей. Ключевым фактором этого подъёма остаются депозиты и сберегательные счета, номинированные в российской валюте. Общая сумма рублевых пассивов преодолела отметку в 62,9 триллиона рублей, продемонстрировав прирост в 519 миллиардов. Тенденция к снижению доли долларовых накоплений на рынке сохраняется: за отчётный период объём валютных вкладов уменьшился ещё на 31 миллиард рублей.

Эксперты подсчитали, что в марте объём рынка сбережений пополнился на 283 миллиарда рублей, при этом доля рублевых инструментов в этом приросте составила 199 миллиардов.

Читать полностью

Татьяна Гениберг: Рынок недвижимости переходит от рынка собственников к рынку арендаторов

Собственникам коммерческих объектов рекомендуют внимательно отслеживать состояние партнеров, чтобы не опоздать с принятием управленческих решений

Баннер
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.


Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности

Я согласен (согласна)

 
×
Поиск по автору:
×
Апрель 2026
Пн Вт Ср Чт Пт Сб Вс
 12345
6789101112
13141516171819
20212223242526
27282930  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности
    Я согласен (согласна)


    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:


      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности