«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

Алла Литвинова: На рынок труда в Новосибирске массово пошли «белые воротнички»

Большинству таких специалистов не удается снова устроиться по специальности

0
0

Роскошь общения стала продуктом: почему банки выводят человека на «последнюю милю»

О новом тренде на рынке в интервью «Ъ FM» на ПМЭФ-2026 рассказал член правления ВТБ Дмитрий Брейтенбихер. По его словам, на фоне массового внедрения искусственного интеллекта парадоксальным образом растёт ценность живого общения.

«Рутинная алгоритмическая часть может уходить. Мы скопировали это из работы с состоятельными клиентами. Но последняя миля, возможность оперативного получения обратной связи остаются, на мой взгляд, пока за человеком. Сейчас роскошь человеческого общения действительно становится уникальным продуктом», — заявил топ-менеджер.

Читать полностью

ПМЭФ-2026: Андрей Костин дал советы россиянам по управлению деньгами

В ходе выступления в студии VK Видео на Петербургском международном экономическом форуме глава ВТБ Андрей Костин поделился своими соображениями относительно инфляционных ожиданий и дал россиянам рекомендации по управлению личными сбережениями. Он подчеркнул, что банковская система России обладает устойчивостью, выдержав в прошлом гораздо более сильные кризисы, такие как в 1998 и 2008 годах. Несмотря на беспрецедентное санкционное давление, превышающее 30 тысяч ограничений, текущее состояние отечественной экономики он охарактеризовал как «совсем неплохое».

По мнению банкира, нынешнее замедление экономического роста стало следствием целенаправленной политики Центрального банка, направленной на сдерживание инфляции. Эти меры уже продемонстрировали свою эффективность, приведя к существенному снижению темпов роста цен. Костин выразил уверенность, что дальнейшее снижение инфляции откроет путь к уменьшению ключевой ставки, что, в свою очередь, будет способствовать оживлению экономики.

Читать полностью

Новые льготы, обучение и поддержка: ВТБ и РЖД запускают комплексную программу для семей железнодорожников

Крупный банк и ключевой оператор железнодорожных перевозок России заключили соглашение об усилении мер социальной поддержки для работников. Данное партнерство выходит за рамки предоставления стандартных зарплатных карт, предполагая формирование комплексной системы, которая охватывает как образовательные мероприятия по финансовой грамотности, так и индивидуальную помощь семьям железнодорожников.

Церемония подписания договора о стратегическом сотрудничестве состоялась в рамках Петербургского международного экономического форума. Документ был завизирован руководителями двух организаций: Олегом Белозёровым, генеральным директором – председателем правления ОАО «РЖД», и Андреем Костиным, президентом – председателем правления банка ВТБ.

Читать полностью

Россия внедряет эквайринг цифрового рубля через терминалы

Российская платежная система интенсивно движется к цифровизации, переходя от теоретических разработок к реальным действиям. Основное препятствие успешно преодолевается благодаря внедрению универсального платежного кода. ВТБ начал масштабное тестирование приема цифровых рублей в розничной торговле. Основной акцент, сделанный банком на Петербургском международном экономическом форуме 2026, заключается в том, что предприятиям не потребуется инвестировать в новое кассовое оборудование.

Как отметил Денис Бортников, заместитель президента – председателя правления ВТБ, некоторые представители малого и среднего бизнеса уже успешно осуществляют реальные транзакции. Планируется, что к сентябрю 2026 года данная технология охватит всю сеть терминалов банка на территории России.

Читать полностью

Успешная трансформация: малый и средний бизнес России принял языковые требования

Малое и среднее предпринимательство в России успешно адаптировалось к новым законодательным нормам, касающимся использования русского языка, без ущерба для своей деятельности. Об этом свидетельствуют результаты социологического исследования, проведенного ВТБ совместно с «Онлайн Патентом», которые были представлены на ПМЭФ-2026.

С начала марта 2026 года в стране вступили в силу предписания, обязывающие использовать русский язык в наименованиях вывесок и информационных указателях. Опрос, охвативший 863 предприятия, выявил, как отечественные компании справились с этими требованиями.

Читать полностью

Банки фиксируют рост внешнеторговых контрактов с Китаем

По итогам первого квартала 2026 года портфель внешнеторговых контрактов с КНР клиентов ВТБ вырос на 57% по сравнению с аналогичным периодом прошлого года. Количество транзакций увеличилось на 36%, что свидетельствует о повышении регулярности поставок. Соответствующие данные были представлены на Петербургском международном экономическом форуме старшим вице-президентом банка Юлией Копытовой.

«Малый и средний бизнес продолжает укреплять связи с китайскими партнёрами. Оставаясь лидером рынка в этом направлении с собственным филиалом в Шанхае, ВТБ поддерживает клиентов на каждом этапе: от поиска контрагента до защиты от валютных рисков и кредитования в юанях», — заявила она.

Читать полностью

Алла Литвинова: На рынок труда в Новосибирске массово пошли «белые воротнички»

Большинству таких специалистов не удается снова устроиться по специальности

Баннер
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
×
Поиск по автору:
×
Июнь 2026
Пн Вт Ср Чт Пт Сб Вс
1234567
891011121314
15161718192021
22232425262728
2930  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности