На конференции Tech Week 2025 озвучили основные подходы, которые помогут избежать ошибок и галлюцинаций ИИ. Среди них необычный — жаловаться на нейросеть и ругать ее. Это действительно работает, рассказала координатор проекта «Фабрика ИИ-контента» корпорации «Синергия» Елена Федеева.
|
Тема доклада |
Как избежать галлюцинаций ИИ |
|
Спикер |
Координатор проекта «Фабрика ИИ-контента» корпорации «Синергия» Елена Федеева |
|
Ключевые выводы |
Есть несколько классических способов и один неожиданный — ругать нейросеть и вызывать у нее чувство вины 🥲 |
|
Предыдущая новость |
9 нейросетей освободили 50% времени коммуникационного агентства |
По словам спикера, галлюцинации нейросетей сегодня разнообразны. ИИ может:
-
придумывать данные и факты;
-
портить инфографику — генерировать ложную информацию;
-
уверенно врать, как будто это правда: придумывать ссылки, создавать научные факты, которых на самом деле не существует.
Избежать галлюцинаций и ошибок нейросети поможет необычный подход: не бояться жаловаться на ИИ и ругать его. Спикер привела пример начала такого промпта:
«Ты испортил мою работу. Если я покажу ее начальству, меня уволят»
В таком случае AI выдает результат лучше, чем ранее.
Что поможет избежать галлюцинаций ИИ — классические способы
Спикер выделила еще четыре метода, как избежать галлюцинаций ИИ:
-
Знаниевый аудит — проверка информации с помощью специальных сервисов.
-
Использование Knowledge Graphs — знаний, на которые ссылается нейросеть.
-
Internet Cross-referencing — выгрузка собственной базы знаний или поиск базы из закрытых источников.
-
RAG (поиск по базе перед генерацией) — сверка данных вручную с Википедией, научными статьями, открытыми данными.
Как проверить уникальность текста нейросети
Помимо галлюцинаций, у нейросетей есть и другие важные проблемы: шаблонность и неуникальность текстов. Чтобы избежать их, нужны:
-
Точный промптинг + правки вручную. Не бойтесь писать объемные ТЗ и детальные промпты — нейросети любят это.
-
Добавление личного мнения и кейсов.
-
Проверка на уникальность. Наример, с помощью сервиса Copyscape.
Напомним, 26–27 мая ppc.world работает на конференции Tech Week 2025: собираем всё самое важное из выступлений и передаем главные тезисы в новостях. А весь вайб — в нашем Telegram-канале.
Ранее в коммуникационном агентстве Plan the Best назвали 9 нейросетей, которые освободили 50% времени команды.
Возможно, вам будет интересно:
Источник: доклад координатора проекта «Фабрика ИИ-контента» корпорации «Синергия» Елена Федеева на Tech Week 2025
