FastAPI LLM Agent 平台

Octopuses
多臂智能,触达万物

集成 LLM 智能路由、Skill 工具体系、RAG 检索增强与长期记忆的 FastAPI 服务。 一个 API Key,赋予你的应用八爪鱼般的多臂协作能力。

向下探索

为 AI 应用而生的全能 Agent 基础设施

开箱即用的 OpenAI 兼容接口,支持统一请求与插件热插拔。

智能路由分发

快速模型识别意图,推理模型执行动作。Quick Model 负责分流决策,Reasoning Model 负责深度推理与工具调用,两级协作高效精准。

Skill 工具体系

OpenAI tool-calls 风格的完整工具体系:注册 → Schema 定义 → 执行 → 结果回填再推理。支持内置 Skill、外部脚本 Skill、Hook 事件钩子三重扩展。

RAG 检索增强

文档入库 → 切分 → Embedding → 存储 → 检索 → 拼接上下文 → 回答。支持文本、DOCX、PDF 多种格式,让 LLM 基于你的知识库精准作答。

长期记忆系统

语义检索 + 相似度去重 + 时间衰减 + 租户/会话隔离。支持 ACL 绑定与审计日志,避免记忆膨胀,保证数据安全。

企业系统集成

原生支持 ERP / OA / PLM 等企业系统接入。通过 MySQL 配置目录自动发现连接,让 Agent 直接查询业务数据库。

熔断与安全

工具同类错误熔断策略,避免无效高频循环。Confirm Gate 机制在关键操作前请求用户确认,交互型中断统一处理。