Conversation
dmitrav
left a comment
dmitrav
left a comment
There was a problem hiding this comment.
Спасибо, оставил пару уточняющих вопросов.
| Pipelines are an abstraction that allows to implement your own message processing steps (e.g. building RAG system) | ||
| and connect it seamlessly to OpenWebUI instance in the form of basic LLM chat. |
There was a problem hiding this comment.
Насколько я понимаю, не совсем. Пайплайны позволяют задавать свою логику обработки сообщений пользователя в веб-интерфейсе. Документация самого OpenWebUI очень скудно их описывает, и не до конца понятно, каковы best practises их использования.
По сути, внутрь пайплайна можно поместить любой Python код, который необходим для обработки. Хоть полноценный бекенд поместить внутрь. Здесь я их использую для того чтобы поместить свою бизнес логику в интерфейс OpenWebUI чата, чтобы самому не писать фронтенд
| Pipelines are an abstraction that allows to implement your own message processing steps (e.g. building RAG system) | ||
| and connect it seamlessly to OpenWebUI instance in the form of basic LLM chat. | ||
|
|
||
| ## Usage |
There was a problem hiding this comment.
Прочитал, но так и не понял. Это где-то уже используется в наших репозиториях? Для чего может быть полезен этот репозиторий?
There was a problem hiding this comment.
Ценность репозитория - рабочий пример пайплайна OpenWebUI.
Путем reverse-инжиниринга собрал рабочую версию пайплайна magsynth_pipeline.py, а также абстрактный класс, от которого нужно наследоваться, чтобы сделать новый пайплайн.
По сути, репозиторий может обслуживать сразу несколько проектов, путем создания нескольких классов пайплайна в pipelines/. Либо можно делать форк для каждого проекта. Будет даже лучше, если это будет шаблонный репозиторий, а под каждый проект будет делаться форк. Переделаю под такую схему
Сейчас используется на проекте MagSynth
2 participants
No description provided.