AI Agent 开发 · Multi-Agent 编排 / Tool Calling / MCP / 评测

构建可靠的
Agent Runtime

你好,我是 Jack,10 年后端工程师,深耕 AI Agent 工程化。
从 LangGraph 多 Agent 编排、自研 Tool Calling 护栏(8B 模型准确率 53%→99%), 到 MCP 网关与评测回归——不止调 API,把 Agent 做得可编排、可护栏、可评测。

Production Delivery

生产交付

任职期间交付的企业系统 · 代码归甲方不公开,架构决策与踩坑细节可面谈

SaaS · 0-12026.03 – 2026.08

商标交易平台

技术负责人 · 带 3 人团队

  • ▸3 人团队下选「模块化单体」而非微服务:分布式事务与运维成本不划算,按业务域包级隔离
  • ▸30+ 字段检索模型:IK 分词 + 中英双路召回,同名商标聚合,规避 BM25 长度干扰
  • ▸选标 Agent:自然语言 → 尼斯分类推断 → 关键词生成 → 分档计分召回,超时自动降级
183 个接口 · 29 张业务表 · 51 个 Flyway 版本 · 四端
工业控制2025.05 – 2025.10

WCS 立体料仓

核心开发 · 现场联调

  • ▸自研 Modbus TCP 通信层:Holding Register 位级读写(含高低字节交换),点位配置化不改代码发版
  • ▸16 步责任链编排出入库流程,静态锁保证堆垛机同一时刻单任务,杜绝指令交叉
  • ▸4 路隔离线程池按「手动/自动 × 入库/出库」拆分,超时兜底 + 异常寄存器防双向死锁
18 类 PLC 告警位级解析 · 25+ 接口 · 10 张业务表
多模态 Agent2025.12 – 2026.02

行业资料智能填报

技术负责人 · 架构集成

  • ▸「Dify 编排 + Spring Boot 持久 + Node.js 导出」三进程异构:AI 编排与业务解耦
  • ▸Qwen3-VL 提取资料图片参数,输出经强约束 JSON 契约转换后落库,同一份 JSON 驱动预览与导出
  • ▸多轮增量:LLM 对新旧结果语义合并而非覆盖,解决多轮上传的字段漂移
Chatflow 多轮 + 增量上传 + 人工纠偏闭环
RAG · 多模型2024.12 – 2025.03

AI 应用平台

后端开发 · 平台基座

  • ▸策略模式抽象 IAiChatService:GLM-4 与自部署 Llama 按场景切换,新增模型只实现接口
  • ▸Spring AI Alibaba + Milvus 建 RAG 知识问答,OAuth2 + Spring Security 打底
  • ▸SSE 统一 token 级流式:智谱侧 Flowable 逐 chunk 转发,Llama 侧自研异步消费
25 个 Flyway 迁移 · Jib 直推私仓 · SonarQube 门禁

Agent Capability Matrix

Agent 能力矩阵

编排 · 护栏 · 协议 · 评测 · 上下文 · 生产落地

🧭

Multi-Agent 编排

LangGraph StateGraph 双角色流水线、共享状态传递、LangSmith 全链路 tracing;生产端落地 LangChain4j Function Calling Agent 与 Dify Chatflow 编排。

mulit-agent-study-zhuyt →
🛡️

Tool Calling 可靠性

自研 Agent Guardrails:救援解析器修复畸形工具调用 JSON、带引导的智能重试、步骤执行器防死循环、上下文预算防 OOM。8B 模型准确率 53% → 99%。

agent-guardrails-zhuyt →
🔌

MCP 生态与权限边界

MCP Gateway Lite 统一网关:JWT/API Key 双认证 + RBAC 权限沙箱 + 限流配额 + Prometheus 指标 + 全链路审计;另有多个自写 Tool Schema 的 MCP Server 实践。

mcp-gateway-lite-zhuyt →
🧪

评测集与回归

26 场景 Agent 基准套件自动跑分;Skills Lab 对照实验(无技能/人工技能/自生成技能);AI 编程模型横评。用数据说话,不是只接第三方 SDK。

agent-skills-zyt →
🧠

上下文工程

ContextRoller:以 MCP 工具管理 Claude Code / Cursor 会话上下文;生产 Agent 的语义缓存 + 前缀缓存治理,单次 Input Token 降低 55%。

ContextRoller-zyt →
🏭

生产级 Agent 落地

豆包大模型商标选标 Agent(意图解析→分类推断→关键词召回→超时降级)、Qwen3-VL 多模态智能填报、Ollama 私有化部署 Function Calling Agent。

Featured Projects

精选项目

按 Agent 工程能力分组策展 · Star 与更新时间实时同步 GitHub

Agent Harness in Practice

Agent Harness 实战拆解

为我的开源项目 LogLens(AI 日志根因分析)搭建的上下文基础设施:5 条 Axioms 决策原则 + 4 个 Skills 标准作业手册 + 采集→蒸馏→发布的周期回路

📏

Axioms 原则库

5 条反复验证的判断原则,AI 决策前先查表

📘

Skills 作业手册

axiom 管「要不要做」,skill 管「具体怎么做」

🔁

周期回路

collect → distill → publish,周级 Loop Engineering

🧠

L1/L2 分层记忆

L1 滚动 7 天观察 + L2 按周完整归档

① 蒸馏回路核心:采集 → 压缩 → L1/L2 落盘

过去 7 天 daily 数据自动收集,单文件 8K / 全量 50K 字符截断防 token 爆炸,蒸馏结果双写滚动记忆与周报归档

蒸馏回路核心代码

② Prompt 即契约:结构化输出约束

每个输出段都有数量与格式约束(≤30 字、必须带 commit hash、找不到不许硬凑),把 Bad Case 挡在 Prompt 层

结构化 Prompt 契约

③ 模型路由与成本治理

axiom a03-deepseek-first:默认低成本模型,temperature 0.3 保证蒸馏输出稳定——模型是路由决策,不是默认选项

模型路由代码

④ Skill 蒸馏:经验沉淀的晋升机制

反复出现的判断自动收集证据,出现 ≥ 3 次才晋升为 axiom 候选——用数据驱动,不拍脑袋

Skill 蒸馏晋升机制

💡 这套 Harness 的价值不在单点代码,而在「回路」: 每周自动蒸馏出「做了什么 / 学到什么 / 哪里栽了」,再反哺下一轮开发决策—— 这正是 Agent 开发里 Harness / Loop Engineering 的落地方式。

Tech Stack

Agent 技术栈

编排框架 × 协议与工具 × 工程底座,10 年后端功底托底;每项都标注落地项目,不做自评打分

编排框架

L4
LangChain4j
失物招领 Agent(生产)
SA
Spring AI
RAG 知识问答(生产)
DF
Dify
多模态填报(生产)
LG
LangGraph
Multi-Agent 编排实验

协议与工具

MC
MCP 协议
3 个 Server + 1 个 Gateway
TC
Tool Calling
Guardrails 护栏 + 失物招领
FC
Function Calling
LangChain4j / Spring AI
SO
结构化输出
强约束 JSON 契约(填报)

工程底座

JV
Java / Spring Boot
10 年主力栈
PY
Python / FastAPI
AIGC 队列 + MCP 对照
DB
MySQL / Redis / ES
商标平台检索与缓存
DK
Docker / K8s
多环境编排与部署
🔬

生产 + Demo 双轨

技术点既在企业系统里跑过,也有可单测、可跑分的开源实现

📏

用数据说话

53%→99% 护栏准确率、Input Token 2700→1200,口径可复现

⚡

Vibe Coding 深度用户

Cursor / Claude Code 重度实践,AI 辅助研发工作流工具化

想聊 Agent 工程化落地?

企业项目细节可面谈 · 简历可邮件索取 · 开源代码全在 GitHub