«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

0
0

В Новосибирске за год резко сократилось количество кофеен

С февраля 2025 по февраль 2026 года количество ресторанов в Новосибирске почти не изменилось и составляет 212 точек. Об этом в ответ на запрос редакции Infopro54 сообщили в пресс-службе геосервиса 2ГИС. Стоит отметить, что в январе 2026 года в Новосибирске закрылись рестораны «IL Патио» и «Шикари», расположенные в ТРЦ «Аура».

Число кафе за год в регионе сократилось на 3% (до 600 заведений), а ресторанов быстрого питания — на 5% (около 1,6 тыс. точек).  Например, в феврале закрыла все филиалы в Новосибирске сеть «Подорожник». Сегменты сокращаются несмотря на то, что новосибирцы уходят из ресторанов именно в фастфуд и кофейни.

Читать полностью

Новосибирец обратился за страховыми выплатами по ОСАГО 146 раз

Более 300 сообщений о преступлениях в сфере автострахования зарегистрированы в Новосибирске в 2025 году. В результате их рассмотрения по 251 преступлению были возбуждены уголовные дела. Это практически в пять раз больше, чем в 2024 году. Об этом сообщил начальник ГУ МВД по Новосибирской области Андрей Кульков в ходе ежегодного доклада на февральской сессии регионального парламента.

— В суд направлены уголовные дела по 74 эпизодам, 60 из которых были совершены членами организованных преступных групп. В настоящее время в производстве органов предварительного расследования региона находятся уголовные дела по 215 преступлениям, лица, по которым установлены, — подчеркнул Кульков.

Читать полностью

Новосибирская область демонстрирует рекордный рост вкладов физических лиц

К концу 2025 года, по данным ВТБ, общий объем средств, размещенных физическими лицами в Новосибирской области, увеличился на 20%, достигнув отметки свыше 260 миллиардов рублей. Об этом сообщил Сергей Никулин, занимающий пост управляющего банком в регионе.

В четвертом квартале прошлого года наблюдался повышенный интерес новосибирцев к сберегательным продуктам, пик которого пришелся на декабрь. В конце года рублевые сбережения активно росли, что было обусловлено сохранением высоких процентных ставок по накопительным счетам. При этом клиенты предпочитали краткосрочные вложения сроком на 3-4 месяца.

Читать полностью

СФО в числе лидеров по объему финансирования по программе зонтичных поручительств

В 2025 году ВТБ оказал существенную поддержку малому и среднему бизнесу, предоставив предприятиям около 61,8 миллиарда рублей в рамках программы зонтичных поручительств Корпорации МСП. Благодаря этому банк занял лидирующую позицию среди кредитных организаций, участвующих в данной инициативе. Доля банка в общем объеме программы увеличилась с 10% в 2024 году до 25% в 2025 году.

Объём финансирования в 2025 году, предоставленного банком под зонтичные поручительства, составил четверть от всех зонтичных поручительств по России. Лидером по объему привлеченных средств стал Центральный федеральный округ, на который пришлось 26,2 миллиарда рублей. Приволжский федеральный округ занял второе место с 13,2 миллиарда рублей, продемонстрировав впечатляющий рост в 35%. Сибирский федеральный округ также вошел в число лидеров, показав рекордный прирост объемов финансирования на 59% (7,18 миллиарда рублей). Среди отдельных регионов выделяются Самарская область (увеличение в 3,5 раза, до 2,54 млрд рублей), Республика Башкортостан (в 2,6 раза, до 2,9 млрд рублей), Республика Татарстан (в 2,3 раза, до 0,9 млрд рублей), Новосибирская область (в 2,2 раза, до 3 млрд рублей) и Иркутская область (в 2 раза, до 1,2 млрд рублей), продемонстрировавшие значительный рост финансирования.

Читать полностью

Квадратный метр в ожидании: новосибирские застройщики готовятся к долгой осаде

Рынок недвижимости Новосибирска вошел в 2026 год с ощущением дежавю: высокая ключевая ставка, сворачивание массовой льготной ипотеки и падение продаж. Однако за сухими цифрами статистики скрывается глубинная трансформация. Рынок покидает эра «легких денег», и на смену ей приходит время прагматизма, выживания и поиска новых точек опоры.

Экономическая турбулентность перестала быть теорией и превратилась в будни застройщиков. Участники рынка все чаще говорят о падении спроса, сократившегося, по некоторым оценкам, вдвое. Однако эта цифра не отражает всей глубины проблемы. Снижение наполнения счетов эскроу при формально позитивной статистике договоров — вот где скрывается главная угроза. Доля рассрочек растет, реальные деньги поступают медленнее, а банки ужесточают требования к проектному финансированию. По сути, застройщики сегодня работают как кредиторы своих клиентов, замораживая собственные оборотные средства. Это напрямую бьет по экономике проектов.

Читать полностью

Как биометрия защитит от мошенников

Пользователи, чья биометрия прошла верификацию*, смогут осуществлять вход в мобильное приложение банка, используя технологию распознавания лица. Данное нововведение обеспечит дополнительный уровень защиты личного кабинета от несанкционированного доступа.

Система распознавания лиц обладает высокой степенью надежности, исключая возможность обмана с помощью фотографий, видеозаписей или масок. Точность идентификации составляет 99,99%. Исследования показывают, что среди людей, использующих биометрические данные, процент случаев хищения средств с их счетов крайне низок – всего 0,0025%. Внедрение входа в онлайн-банк по биометрии станет очередным шагом в укреплении безопасности финансовых средств.

Читать полностью
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.


Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности

Я согласен (согласна)

 
×
Поиск по автору:
×
Март 2026
Пн Вт Ср Чт Пт Сб Вс
 1
2345678
9101112131415
16171819202122
23242526272829
3031  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности
    Я согласен (согласна)


    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:


      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно







        [recaptcha size:compact]
        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности