Зачем это вообще нужно
В любой компании есть регламенты, инструкции, договоры — обычно разбросанные по папкам, у которых новый сотрудник даже не знает точного названия. В итоге проще спросить коллегу, чем искать документ самому — а если коллега занят или в отпуске, вопрос повисает.
Как это устроено, если по-человечески
Представьте коллегу, который прочитал вообще все внутренние документы компании и помнит их наизусть — и всегда на месте. Спрашиваешь обычным языком: "как оформить возврат от юрлица?" — он не присылает ссылку на весь регламент, а сразу отвечает по существу, опираясь на конкретный пункт, который к вопросу относится.
Что происходит технически
Все документы компании — регламенты, инструкции, договоры — заранее разбиваются на смысловые фрагменты и превращаются в векторные представления, которые хранятся в отдельной базе. Когда сотрудник задаёт вопрос обычным языком, система ищет в этой базе не по ключевым словам, а по смыслу — находит фрагменты документов, которые действительно относятся к вопросу, даже если формулировка не совпадает дословно.
Найденные фрагменты передаются языковой модели вместе с вопросом — она формирует ответ, опираясь именно на них, а не на общие знания из интернета. Это и есть RAG (retrieval-augmented generation): модель не выдумывает и не обобщает "как в среднем бывает", а отвечает по внутренним документам компании, с возможностью сослаться на конкретный источник.
Стек
- Векторная база данных: хранение документов в виде смысловых фрагментов
- RAG: поиск релевантных фрагментов + генерация ответа моделью
- LLM: формулировка ответа на естественном языке со ссылкой на источник
- Интеграция: чат-бот в мессенджере или на внутреннем портале компании
Результат
Ответ на вопрос по регламенту приходит за секунды, а не после поиска нужной папки или ожидания, пока освободится коллега, который "точно знает".
