三模型路由系统

Quentin040507(刘全) · Data Science · 2026 级 · AI 工具

仓库:Quentin040507/multi-llm-router

三模型分工协作的 LLM 智能路由系统:智能路由 / 圆桌会诊 / 举手表决,支持 DeepSeek · GLM · Kimi

多模型协作的 LLM 智能路由原型:自动路由、圆桌会诊、举手表决,一个入口用多个模型

  • llm
  • ai
  • python
  • fastapi
  • deepseek
  • qwen
  • kimi
  • ai-router
  • multi-agent
  • openai-api

项目介绍

项目背景与定位 单个大模型存在明显的能力短板:有的擅长代码和数学推理,但写中文文案偏生硬;有的中文写作流畅,却容易在逻辑、计算上出错。日常使用中,用户往往要自己判断「这个问题该问哪个模型」,在不同平台之间来回切换,还无法直接对比或综合多个模型的回答。 这个项目想解决的就是这件事:做一个「多模型协作」的路由与编排原型,用一个入口同时用到多个模型的长处—— 智能路由 :自动判断问题领域,分发给最擅长的模型; 圆桌会诊 :多个模型实时辩论、互相点评,主持人融合三方观点输出一份完整答案; 举手表决 :客观题用多数票机制,降低单模型出错的概率。 适合学生、个人开发者日常问答 / 写文案 / 辅助写代码,也适合想横向对比大模型效果、或学习「多模型编排 / Agent 路由」思路的人。 ⚠️ 本项目是 实验性质的学生原型 ,用于探索多模型协作的路由与编排思路, 不建议直接用于生产环境 (无鉴权与配额管理、API key 明文存本地、无高可用 / 监控)。 怎么用 接入三家模型(DeepSeek 负责代码与数学推理、Qwen 负责中文写作、Kimi 负责通用对话与长文理解),均为 OpenAI 兼容接口。提供网页窗口与 CLI 双入口,右上角填入 API key 即用。 Features 智能路由:自动判断问题领域,选最擅长模型,失败自动降级 圆桌会诊:三模型实时辩论 + 主持人总结,过程可回看 举手表决:客观题多数投票 多会话与历史记录:多任务切换,关闭重开不丢 网页窗口 + CLI 双入口,OpenAI 兼容接口