SpellBook Академия | Разбор промпта юриста - как не убить ассистента галлюцинациями
На этом уроке мы устроили настоящую лабораторию ошибок. Взяли реальный промпт ассистента-юриста по трудовому праву и разобрали его до костей вместе с авторами SpellBook. Оказалось, что внутри - десятки ловушек, которые бьют по качеству, а значит, и по доходу автора. Ключевой вывод занятия: Качество ассистента прямо влияет на доверие людей, а доверие - на ваш доход. Полезные ссылки: Ссылка на SpellBook: https://spell-book.net Ссылка на Telegram Академии: https://t.me/spellbookacademy Ссылка на VK канал: https://vk.com/im/channels/-237547325 Таймкоды: 00:00:00 – Вступление. Задача урока: прокачать насмотренность на ошибках в промпте 00:01:40 – Анатолий зачитывает промпт вслух и находит первую критическую ошибку 00:05:12 – Первая порция ошибок от участников: приветствие в промпте, конфликт «многословно/3-4 абзаца», роль «полезный друг» 00:08:50 – Анатолий о трёх основных ошибках: инструкции на галлюцинацию, противоречия, мёртвый блок базы знаний 00:12:16 – Вадим объясняет, почему фраза «будь полезным» — это вредная опция по умолчанию 00:15:40 – Дискуссия: нужен ли дисклеймер «это не юридическая консультация» и защита от дурака 00:19:00 – Вадим о модерации и планах на автоанализатор промптов (светофорчик) 00:23:30 – Тест на взлом: попытка вытащить промпт ассистента через «угу» и социальную инженерию 00:28:50 – Ассистент анализирует свои ошибки и выдаёт реверс-инжиниринг в сложных терминах 00:32:00 – Переключение на объяснение «для бабушки» и метафора двух специалистов в голове 00:37:10 – Настройка ответов через ассистента Анатолия. Обсуждение Markdown-разметки 00:42:30 – Ассистент даёт 8 исправлений. Разбор каждого блока (галлюцинации, фуллбэк, защита) 00:48:20 – Рекомендация Евгения про XML-разметку, сравнение подходов к структуре промпта 00:52:00 – Как загружать файлы для теста: через плюсик или базу знаний. Нюансы чанков 00:57:10 – Совет Вадима: сокращать промпт с 11 тыс. символов до 3-5 тыс. — и ассистент станет лучше 01:01:10 – Перезагрузка старых баз знаний для обновления RAG: метод «скачать и загрузить заново» 01:04:10 – Вопрос про две кнопки в настройках базы знаний (обогащение) 01:07:20 – Мастер Бас Евгения: как он оптимизирует базу знаний и решает проблему видимости файлов 01:11:40 – Ответы на вопросы: выбор тем, MLM-ассистенты, как система борется с дублированием рефералок 01:19:00 – Финальный свод правил от Вадима: блокировка галлюцинаций, секьюрити, дисклеймер 01:26:00 – Розыгрыш трёх призов среди авторов ассистентов. Итоги урока
На этом уроке мы устроили настоящую лабораторию ошибок. Взяли реальный промпт ассистента-юриста по трудовому праву и разобрали его до костей вместе с авторами SpellBook. Оказалось, что внутри - десятки ловушек, которые бьют по качеству, а значит, и по доходу автора. Ключевой вывод занятия: Качество ассистента прямо влияет на доверие людей, а доверие - на ваш доход. Полезные ссылки: Ссылка на SpellBook: https://spell-book.net Ссылка на Telegram Академии: https://t.me/spellbookacademy Ссылка на VK канал: https://vk.com/im/channels/-237547325 Таймкоды: 00:00:00 – Вступление. Задача урока: прокачать насмотренность на ошибках в промпте 00:01:40 – Анатолий зачитывает промпт вслух и находит первую критическую ошибку 00:05:12 – Первая порция ошибок от участников: приветствие в промпте, конфликт «многословно/3-4 абзаца», роль «полезный друг» 00:08:50 – Анатолий о трёх основных ошибках: инструкции на галлюцинацию, противоречия, мёртвый блок базы знаний 00:12:16 – Вадим объясняет, почему фраза «будь полезным» — это вредная опция по умолчанию 00:15:40 – Дискуссия: нужен ли дисклеймер «это не юридическая консультация» и защита от дурака 00:19:00 – Вадим о модерации и планах на автоанализатор промптов (светофорчик) 00:23:30 – Тест на взлом: попытка вытащить промпт ассистента через «угу» и социальную инженерию 00:28:50 – Ассистент анализирует свои ошибки и выдаёт реверс-инжиниринг в сложных терминах 00:32:00 – Переключение на объяснение «для бабушки» и метафора двух специалистов в голове 00:37:10 – Настройка ответов через ассистента Анатолия. Обсуждение Markdown-разметки 00:42:30 – Ассистент даёт 8 исправлений. Разбор каждого блока (галлюцинации, фуллбэк, защита) 00:48:20 – Рекомендация Евгения про XML-разметку, сравнение подходов к структуре промпта 00:52:00 – Как загружать файлы для теста: через плюсик или базу знаний. Нюансы чанков 00:57:10 – Совет Вадима: сокращать промпт с 11 тыс. символов до 3-5 тыс. — и ассистент станет лучше 01:01:10 – Перезагрузка старых баз знаний для обновления RAG: метод «скачать и загрузить заново» 01:04:10 – Вопрос про две кнопки в настройках базы знаний (обогащение) 01:07:20 – Мастер Бас Евгения: как он оптимизирует базу знаний и решает проблему видимости файлов 01:11:40 – Ответы на вопросы: выбор тем, MLM-ассистенты, как система борется с дублированием рефералок 01:19:00 – Финальный свод правил от Вадима: блокировка галлюцинаций, секьюрити, дисклеймер 01:26:00 – Розыгрыш трёх призов среди авторов ассистентов. Итоги урока