个人简介
AI Agent / LLM 基础设施工程师,全栈背景。专注主权 · on-prem AI agent 基础设施与边缘 LLM / MoE 推理(可部署性 × 数据驻留 × close-to-metal)。有从零搭建并运维多节点 k3s 集群、A2A 消息总线、统一 LLM 推理网关与可观测体系的经验;5 年 Java/Go 全栈底子,现深耕 LLM Agent 工程与 GPU 推理优化。
工作经历
TLZS 株式会社
2026.3 – 2026.6
平台 / 基础设施工程师(SRE)
Z-SOFT株式会社
2025.2 – 2025.6
系统开发工程师
内蒙古环之宇科技有限责任公司
2023.2 – 2024.6
Java 开发工程师
天津讯雅时空科技有限责任公司
2022.6 – 2022.9
Java 开发工程师(实习)
项目经验
主权 AI 集群 / 舰队平台工程(SRE)
2026.3 – 2026.6
k3s
Prometheus/Grafana
litellm
KEDA
Tailscale/Liqo
vast.ai A100
- From-scratch 搭建并运维生产级 8 节点裸金属 k3s 集群(多控制面 + etcd),自建 Prometheus/Grafana/Loki/Jaeger + Tetragon eBPF 可观测体系;Tailscale + Liqo 跨集群联邦,稳定运行 70 天。
- litellm 统一 LLM 网关、Langfuse 可观测、KEDA 自动扩缩、Kaniko 集群内 CI;vast.ai A100 GPU 编排(vLLM/Ollama,QLoRA 微调 Gemma),交付 jp-schedule-hub、jp-esign-forge 等业务系统。
まめログ — 在日社交内容平台
2025.3-2025.6
Golang
GoZero
Flutter
Kubernetes
- 类小红书内容分享 App:分布式视频上传/处理、商城与支付、基于 Ollama+Gemini 的 AI 内容推荐与问答;K8s 熔断降级/负载均衡,支持 100 并发。
综合 AI 工具整合平台
2023.10-2024.4
Golang
NextJS
Stable Diffusion
ChatGPT
- 集成图像生成、对话模型等多种 AI 服务的统一平台;用户/Token 余额管理、远程 SD 多实例监控、ChatGPT API 令牌分发,支持 100 并发。
政府网格化管理系统
2023.5-2023.12
Java
Spring Boot
React
Cesium
- 社区房屋/人口/网格员流程管理系统,集成 GIS 地图与数据大屏;前端用 Cesium 实现建筑物三维可视化、还原城市实景。