Динамическое переключение между LLM для AI-агентов с использованием кода LangChain

Бесшовно соединяет несколько LLM с одним ИИ-агентом через LangChain, позволяя динамически и программно выбирать модели. Анализирует жалобы клиентов, генерирует ответы ИИ и проверяет их с помощью анализа настроений. Автоматически повторяет неудовлетворительные ответы, передавая запросы более мощным моделям, перебирая доступные LLM до тех пор, пока требования не будут выполнены или варианты не исчерпаются. Простой в настройке: клонируйте рабочий процесс, настройте учетные данные и при необходимости замените LLM. Порядок LLM определяется последовательностью их добавления, что влияет на поток ответов. Работает исключительно на самохостинге n8n, требующем узла кода LangChain.

Category:

Описание

Этот рабочий процесс демонстрирует динамический подход к переключению между несколькими большими языковыми моделями (LLM) внутри одного ИИ-агента, созданного с помощью LangChain в n8n. Он обрабатывает жалобы клиентов, генерируя вежливые и эмоционально отзывчивые ответы, а также проверяя их качество перед тем, как предоставить итоговый результат. Если ответ будет неудовлетворительным, рабочий процесс итеративно пробует следующую доступную LLM, пока не будет получен допустимый ответ или пока не будут исчерпаны все модели.

Логика рабочего процесса сгруппирована в следующие блоки:

  • 1.1 Получение ввода: Принимает сообщения чата (жалобы клиентов) через триггер чата LangChain.
  • 1.2 Инициализация индекса LLM: Устанавливает или увеличивает индекс выбора LLM для управления тем, какую LLM использовать.
  • 1.3 Динамическое переключение LLM: Программно выбирает LLM на основе текущего индекса.
  • 1.4 Генерация ответа: Генерирует вежливый ответ от ИИ, используя выбранную LLM.
  • 1.5 Проверка ответа: Проверяет эмоциональную окраску и качество ответа.
  • 1.6 Контроль цикла и обработка ошибок: Обрабатывает циклы при сбоях, оценку ошибок и условия завершения.
  • 1.7 Возврат результата или завершение рабочего процесса: Возвращает итоговый вывод или резервное сообщение, если не найдено удовлетворительное решение.

Оригинал воркфлоу на сайте n8n.io

👉🏻 Скачать на сайте n8n

____________

Отзывы

Отзывов пока нет.

Будьте первым, кто оставил отзыв на “Динамическое переключение между LLM для AI-агентов с использованием кода LangChain”

Ваш адрес email не будет опубликован. Обязательные поля помечены *