«Галлюцинации» ИИ: классификация, причины и методы борьбы

Дата:

Ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций

Эксперты ВТБ выделили главные методы борьбы с «галлюцинациями» ИИ – созданием текстов, кажущихся достоверными, но содержащих ложную информацию, неточные сведения или ссылки на недействительные источники. Эти ошибки могут не только затруднить работу пользователей с информацией, но и нести финансовые и репутационные риски для организаций.

Лев Меркушов, руководитель направления разработки ИИ-решений ВТБ, отметил:

— Иногда ИИ предлагает несуществующие книги или нереальные условия продукта. Модель не проверяет факты, а выбирает наиболее вероятный ответ, что делает ошибки правдоподобными и вводящими в заблуждение. Сократить число галлюцинаций можно, формулируя четкие запросы. Более точная формулировка снижает вероятность фантазий модели. Однако самый надежный способ – проверка результатов человеком.

Алексей Пустынников, лидер команды разработки моделей, подчеркнул важность понимания характера ошибок ИИ. Языковые модели не понимают смысл информации и не проверяют ее достоверность, поэтому сбои проявляются по-разному: искажение данных, создание вымышленных сведений или неправильное следование инструкциям.

Пустынников разделил галлюцинации на несколько типов: фактические (ошибки в проверяемой информации), фабрикация фактов (придумывание неподтверждаемых данных или преувеличение их значения) и галлюцинации при следовании инструкциям (выполнение другой операции, игнорирование контекста или логические ошибки).

Причины галлюцинаций связаны с особенностями обучения и работы языковых моделей, которые формируют ответы на основе вероятностных связей, а не на понимании фактов. Нехватка или противоречивость информации заставляет их «додумывать» ответ. Ограничения обучающей выборки и отсутствие доступа к проверке фактов в реальном времени также играют роль.

Меркушов добавил, что сложные задачи повышают вероятность ошибок. Для их снижения рекомендуется продуманная постановка вопросов, разбитие сложного запроса на простые шаги, использование систем поиска информации в проверенных базах данных, дообучение моделей на данных из конкретной области и применение защитных механизмов для отслеживания ответов.

В банке применяются каскадные решения, где несколько моделей последовательно обрабатывают данные. Эксперты также уделяют внимание качеству исходных данных, включая фильтрацию и проверку материалов специалистами.

Использование ИИ требует ответственного отношения к качеству данных, прозрачности алгоритмов и контролю за результатами. Это позволяет внедрять ИИ-инструменты, которые действительно помогают бизнесу, минимизируют ошибки и формируют доверие клиентов.

Фото: freepik.com/Автор: Dc Studio 

Алексей Шаповалов: Сибирь теряет молодых работников, хотя безработица на минимуме

Текущий кадровый голод — не проблема, которую можно быстро решить, а новая реальность

0
0

Эксперты отмечают снижение рынка неипотеки

ВТБ и экосистема недвижимости М2 провели анализ рынка купли-продажи жилья в первом полугодии 2026 года, охватывающий как сделки с использованием ипотечных средств, так и операции, финансируемые за счет собственных накоплений. Согласно полученным данным*, доля ипотечных сделок в сегменте многоквартирного жилья увеличилась на 10 процентных пунктов по сравнению с аналогичным периодом 2025 года, достигнув 43%. Соответственно, доля покупок с применением собственных средств сократилась до 57%.

В течение первых шести месяцев 2026 года россияне совершили приблизительно 600 тысяч сделок по приобретению квартир без привлечения кредитных средств, что на 10% меньше, чем за первое полугодие предыдущего года. В то же время на рынке ипотечного кредитования наблюдался значительный рост: количество выданных кредитов увеличилось на 60% и превысило 478 тысяч.

Читать полностью

Статистика платежного рынка: россияне все чаще отказываются от карт

Потребители все чаще прибегают к альтернативным способам оплаты. За период с января по май 2026 года средняя сумма покупки при таком способе расчетов оказалась на 60% выше, нежели при использовании банковских карт.

В течение первых пяти месяцев текущего года граждане осуществили примерно 570 миллионов операций с использованием платежных стикеров, Системы быстрых платежей (СБП) и сервиса ВТБ Pay. Общая сумма транзакций превысила 660 миллиардов рублей, что на 57% больше показателей предыдущего года.

Читать полностью

Банки начнут информировать новосибирцев о займах до выдачи денег

Банки и микрофинансовые организации обяжут сообщать клиенту о попытке оформить кредит по его документам до того, как деньги будут переведены на счет получателя. Такой законопроект рассмотрят в Госдуме на текущей неделе. Главная цель документа — создание дополнительного барьера для злоумышленников, которые пытаются получить средства по чужим паспортам или с использованием взломанных аккаунтов.

Согласно тексту инициативы, клиент в обязательном порядке получит детализированное сообщение, как только система зафиксирует начало оформления кредитного договора. В уведомлении отразят все ключевые параметры сделки: итоговую сумму, процентную ставку, индивидуальные условия и сроки возврата. Особое внимание авторы уделили крупным займам: если сумма превышает 50 тысяч рублей, в сообщении дополнительно продублируют инструкцию, как оперативно отказаться от получения средств и прервать сомнительную операцию.

Читать полностью

В России появился новый инструмент льготного кредитования

Корпорация МСП совместно с Минэкономразвития России и Банком России инициирует новую программу льготного кредитования. Эта инициатива, основанная на механизме Программы стимулирования кредитования субъектов малого и среднего предпринимательства, предусматривает общий лимит в 150 миллиардов рублей. Программа будет применяться к новым кредитным договорам, оформленным после официального утверждения ее условий.

Претендовать на льготные кредиты сроком до одного года смогут предприятия, относящиеся к приоритетным отраслям экономики, а также малые компании, работающие в сфере технологий. Также в число получателей войдут участники региональных проектов, направленных на повышение производительности труда, и заемщики из субъектов РФ со средним уровнем реагирования, независимо от сферы их деятельности.

Читать полностью

Россияне смогут оплачивать покупки через QR-код в Аргентине

Аргентина стала первой страной в Латинской Америке, где граждане России получили возможность оплачивать товары и услуги напрямую с российского банковского счета через систему QR-кодов.

— Это направление входит в тройку наиболее популярных у российских путешественников на континенте, при этом интерес к стране дополнительно подогревается успехами аргентинской сборной на последних чемпионатах мира, — пояснил старший вице-президент ВТБ, руководитель департамента продуктов розничного бизнеса Алексей Охорзин.

Читать полностью

Аграрные проекты стоимостью более 65 млрд рублей запустят в Новосибирской области

До 2033 года в Новосибирске будет реализовано 9 проектов в сфере АПК на общую сумму 65 млрд рублей. Об этом сообщил председатель правления Россельхозбанка Борис Листов на «Днях поля».

— Например, в регионе построят сыродельный завод, объем готовой продукции будет превышать 35 тысяч тонн в год. Кроме того, в Новосибирской области появится современный элеваторный комплекс для хранения 165 тысяч тонн зерна, — сообщил он.

Читать полностью

Алексей Шаповалов: Сибирь теряет молодых работников, хотя безработица на минимуме

Текущий кадровый голод — не проблема, которую можно быстро решить, а новая реальность

Баннер
Прямым текстом

Подпишитесь на новости
Подпишитесь на рассылку самых актуальных новостей.

Выражаю согласие на обработку персональных данных, указанных при заполнении формы подписки на рассылку новостей в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.

Я согласен (согласна)

 
×
Поиск по автору:
×
Июль 2026
Пн Вт Ср Чт Пт Сб Вс
 12345
6789101112
13141516171819
20212223242526
2728293031  
×





    Выражаю согласие на обработку персональных данных, указанных при заполнении формы «Предложить новость» в соответствии с Политикой конфиденциальности и Согласием на обработку персональных данных.
    Я согласен (согласна)

    ×

    Эксклюзивный материал

    Материалы, отмеченные значком , являются эксклюзивными, то есть подготовлены на основе информации, полученной редакцией infopro54.ru. При цитировании, перепечатке ссылка на источник обязательна

    ×

      Участие в конференции бесплатно






      Формат участия:

      [yandex_captcha yandex_captcha-816]
      Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

      ×

        Участие в конференции бесплатно








        Отправляя сообщение, я принимаю условия соглашения об использовании персональных данных и соглашаюсь с Правилами сайта

        ×
        На нашем сайте используются файлы cookie. Продолжая пользоваться сайтом, Вы подтверждаете свое согласие на использование файлов cookie в соответствии с условиями их использования
        Понятно
        Политика конфиденциальности