За останні роки системи на базі великих мовних моделей (LLM) перестали бути лабораторними експериментами. Сьогодні це складні продакшн-рішення, інтегровані в бізнес-процеси, користувацькі продукти та внутрішні платформи автоматизації. Разом із цим різко зросла складність логіки, яку ми намагаємося «запакувати» у промпти.
І тут виникає фундаментальний розрив: архітектура систем еволюціонує, а підходи до роботи з промптами — ні.
Найпоширеніший патерн досі виглядає так: master prompt + include-фрагменти. Базова інструкція, до якої поступово додаються правила, уточнення, обмеження, сценарні вставки. По суті, це текстова компіляція без формальної моделі. У простих сценаріях вона працює. У складних — починає ламатися системно.
Фрагментація як неминучий наслідок зростання складності
Фрагментація промпта — це не випадковість і не помилка окремого розробника. Це природний наслідок того, що один цілісний намір розбивається на десятки незалежних фрагментів, які живуть своїм життям.
Кожен фрагмент може виглядати коректним у вакуумі. Але коли вони збираються разом, з’являються:
- суперечливі інструкції,
- неявні пріоритети,
- дублювання або взаємне нівелювання сенсів,
- залежності, про які ніхто вже не пам’ятає.
Ключова проблема в тому, що розробник не працює з фінальним промптом. Він працює з частинами, умовами, include-файлами, feature-флагами. Після серії інкрементальних змін уявити, який саме текст у підсумку отримає LLM, стає майже неможливо.
Фінальний prompt перетворюється на чорну скриньку.
Прозорість фінального результату: чого реально бракує
Одна з базових речей, яких не дає старий підхід, — прозорість фінальної збірки.
У реальній системі хочеться бачити:
- повний фінальний prompt у тому вигляді, в якому він був переданий у модель;
- всі фрагменти, які увійшли в цю збірку;
- джерело кожного фрагмента;
- порядок і контекст, у якому він був включений.
Але цього недостатньо. У сучасних системах включення фрагментів майже завжди умовне. Отже, виникає наступна потреба: розуміти на підставі яких умов той чи інший фрагмент був доданий.
Ідеальна модель