Когда нейросеть врёт: 5 проблем ИИ, о которых молчат в рекламе

Селлеры используют нейросети для описаний товаров, анализа конкурентов и генерации контента. Но чем активнее внедряется ИИ в рутину, тем чаще всплывают неприятные сюрпризы: модель выдумывает статистику, игнорирует половину ТЗ или уводит результат в неожиданную сторону. Мы поговорили с практиками из разных сфер и выяснили, какие ошибки нейросетей встречаются чаще всего — и как их обходить.

#ИИ галлюцинирует и выдаёт выдумку за правду

Тимур Угулава, совладелец digital-агентства «Медиасфера» и эксперт «Яндекса», называет галлюцинации главной проблемой в работе с нейросетями. Модель не знает информацию в человеческом смысле — она предсказывает следующее слово на основе вероятностей. Если в обучающих данных есть пробелы, ИИ заполняет их догадками, причём делает это максимально убедительно.

Вот типичные примеры галлюцинаций:

• Придуманная статистика без источника
• Ссылки на несуществующие исследования
• Смешивание реальных фактов с догадками
• Экспертные мнения от вымышленных людей

Особенно опасны галлюцинации там, где высока цена ошибки: медицина, право, финансы, узкоспециализированные технические темы. Для селлера это может обернуться некорректным описанием товара, ошибкой в характеристиках или неверной аналитикой по конкурентам.

Главный принцип работы с нейросетями — не доверяй, а проверяй. ИИ хорошо помогает с черновиками и структурой, но ответственность за итог всегда на человеке.

Тимур использует три слоя защиты от галлюцинаций. Слой 1 — промпт с требованием отвечать только на основе предоставленных данных и честно писать, если информации нет. Слой 2 — перекрёстная проверка всех фактов, цифр и ссылок через независимые источники. Слой 3 — отдельный промпт для фактчекинга, который заставляет модель критически пройтись по собственным тезисам и отметить сомнительные места.

#Нейросети изобретают цифры и ссылки на исследования

Анна Булаева, руководитель направления Kaiten AI, регулярно сталкивается с проблемой в исследовательских задачах: LLM приводят точные проценты и ссылки на отчёты, которых не существует. Ищешь статистику по использованию AI-редакторов в крупных компаниях — получаешь конкретные цифры. Начинаешь проверять — оказывается, это не данные из отчёта, а вывод самой нейросети с дорисованными процентами.

Для селлеров это критично при анализе рынка, подготовке презентаций для партнёров или составлении бизнес-планов. Одна выдуманная цифра в прогнозе продаж может обернуться неверными инвестиционными решениями.

#Как предотвратить ошибки на уровне настроек

Анна рекомендует использовать Structured Output — функцию в работе с LLM, которая заставляет ИИ отвечать по заданной структуре. Например, отдельно выдавать факты, цифры и источники. Но даже это не гарантирует корректный перенос данных из первоисточника.

Если проект сложный и содержит много деталей, нейросеть может не уловить логику целиком. В таких задачах работает подход: сначала просим модель расписать путь, функции и логику работы, а потом — делать выводы. В критичных задачах обязательны ручные проверки, чтобы убедиться, что данные совпадают с документом-источником.

#Модели додумывают смыслы и уводят результат в сторону

Максим Мельников, нейрохудожник с 70 тысячами сгенерированных картинок в Midjourney, называет графические нейросети лотереей. Чем лучше понимаешь сервис и чем точнее описываешь результат, тем выше шанс получить нужное.

Проблема особенно заметна на абстрактных словах. Введёшь в запрос просто love — нейросеть покажет влюблённые пары, выбрав самый распространённый смысл. Но любовь может означать что угодно: любовь к родителям, профессии, стране. У каждого человека за этим стоят разные образы.

Максим делал карточную игру для медиков и столкнулся с наглядным примером. Нужно было сгенерировать гемартроз — скопление крови в полости сустава. Общий запрос выдал красивый дарк-арт вместо медицинской иллюстрации. У нейросети не было чёткого знания редкого термина, она уловила ассоциации «медицина + кровь» и начала додумывать, трактуя запрос как художественный образ.

Для селлера это может проявиться при генерации карточек товаров, баннеров или визуалов для рекламы. Запросишь «уютный домашний текстиль» — получишь стоковую картинку с моделью на диване, хотя нужна была крупная съёмка ткани.

Простой запрос подходит для идей и вариативности, но чаще уводит в сторону на абстрактных или редких терминах. Подробный запрос нужен для предсказуемого результата: уточняй контекст, задавай ограничения, объясняй желаемую трактовку — иначе модель превратит термин в художественную фантазию.

#ИИ игнорирует прямые инструкции из ТЗ

Паша Молянов, фаундер агентства «Сделаем» и клуба «Нейроцех», регулярно видит, как нейросети не слышат простое ТЗ. Просишь выполнить пять пунктов — модель делает четыре и забывает про пятый. Чем больше информации в контекстном окне, тем выше вероятность, что часть данных ИИ проигнорирует или исказит.

Паша рекомендует четыре правила:

1. Создавать новый чат под каждую задачу, а не вести всё в одном диалоге
2. Не забивать контекст эмоциональными репликами вроде «Я уже 500 раз говорил!»
3. Разбивать большие задачи на маленькие шаги с отдельной инструкцией для каждого
4. Собирать ключевую информацию в отдельный документ и прикладывать к каждому новому чату

Вместо запроса «Напиши весь SEO-текст целиком» лучше идти по этапам: сначала собрать семантику, затем фактуру, составить тезисный план, написать первый раздел, второй, третий. Тот же подход работает при создании описаний товаров для Wildberries или Ozon — дробишь задачу на сбор характеристик, составление структуры, написание текста, проверку ключевых слов.

#Модели забывают требования со временем

Дарья Чепурнова, шеф-редактор Skillbox Media, использует несколько агентов ChatGPT под разные задачи. Почти все они регулярно забывают требования, заданные в начале. Один из агентов анализирует медиапространство и предлагает инфоповоды. У него есть чёткий запрет: не приносить новости о запусках продуктов брендами. Дарья прописывала ограничение в чате и напоминала в обратной связи. Агент соглашался, но спустя несколько дней снова предлагал такие инфоповоды.

Проблема часто возникает из-за перегруженных инструкций. Попроси человека выполнить задачу по чек-листу из ста пунктов — он пропустит часть требований. С нейросетями работает тот же принцип: чем больше условий, тем выше риск, что некоторые будут проигнорированы.

Если нейросеть регулярно нарушает правила, сократи промпт или инструкцию. Оставь только ключевые требования — модель будет реже терять фокус и начнёт выдавать более точный результат.

#Что это значит для селлеров

Нейросети — мощный инструмент для ускорения рутины, но они требуют осознанного подхода. Проверяй факты и цифры перед публикацией, дроби сложные задачи на шаги, упрощай промпты и не полагайся слепо на ответы ИИ. Ответственность за итоговый результат всегда на человеке — нейросеть лишь помощник, а не замена критическому мышлению.