Topics

本节汇总环境准备阶段的笔记与成果：Codex + DeepSeek 环境配置、Agent 使用日志模板。

笔记#

• Codex 接入 DeepSeek（环境准备）：Codex CLI 安装、DeepSeek API 配置、官方一键接入脚本与 Agent 使用日志模板
• Codex 实战笔记（后端开发工程师版）：从为什么学到团队复用，Codex 入门的完整组成与用法
• AI Coding Harness 讲义（后端开发工程师版）：从心智模型到完整拼图，编码 Agent 的工程化约束体系

本节汇总收尾阶段的成果：Portfolio README、简历、模拟面试记录与全部文章发布。

实战过程中持续收集的资料，按类别整理，随进度扩充。

书籍#

• AI Agents in Action（第 2 版）——从工程角度讲 Agent 架构、工具编排与生产实践，与实战路线对照学习
  • 英文原版（Manning）：https://www.manning.com/books/ai-agents-in-action-second-edition
  • 中文翻译（GitHub）：https://github.com/yixiangshijie/ai-agents-in-action-2nd-edition-cn

官方文档（按章节对应）#

• DeepSeek API Docs：https://api-docs.deepseek.com/
  • 接入 Codex：https://api-docs.deepseek.com/zh-cn/quick_start/agent_integrations/codex/
• OpenAI API Docs：https://developers.openai.com/
  • OpenAI Cookbook：https://cookbook.openai.com/
  • Agents SDK：https://openai.github.io/openai-agents-python/
• Anthropic Docs：https://docs.anthropic.com/
  • Engineering Blog：https://www.anthropic.com/engineering
• MCP（Model Context Protocol）：https://modelcontextprotocol.io/
• LangGraph：https://langchain-ai.github.io/langgraph/
• FastAPI：https://fastapi.tiangolo.com/
• Hugging Face 文档与模型库：https://huggingface.co/

论文#

• ReAct：https://arxiv.org/abs/2210.03629
• Chain-of-Thought：https://arxiv.org/abs/2201.11903
• Toolformer：https://arxiv.org/abs/2302.04761
• G-Eval（LLM-as-Judge）：https://arxiv.org/abs/2303.16634

开源项目与工具#

• DeerFlow（Agent Harness 架构精读对象）：https://github.com/bytedance/deer-flow
• Langfuse（Trace / 可观测性）：https://github.com/langfuse/langfuse
• DeepEval（评测框架）：https://github.com/confident-ai/deepeval
• Ragas（RAG 评测）：https://github.com/explodinggradients/ragas
• promptfoo（评测 / 回归）：https://github.com/promptfoo/promptfoo
• 向量库：Chroma https://github.com/chroma-core/chroma、FAISS https://github.com/facebookresearch/faiss、Milvus https://github.com/milvus-io/milvus

路线图与免费课程#

• agentic-engineering-handbook（学习路线图）：https://github.com/keyuchen21/agentic-engineering-handbook
• W&B AI Engineering: Agents（免费课程）：https://site.wandb.ai/courses/agents/

社区#

• 掘金（AI 工程实战文章）：https://juejin.cn/
• Hugging Face 论坛：https://discuss.huggingface.co/
• 本项目 GitHub：https://github.com/haokw

链接会随学习进度持续扩充，欢迎通过 Issue 或评论区补充。

Read more >

本章笔记与讲义：模型调用、Streaming、Structured Output、Prompt 工程与项目① LLM Gateway。

课程讲义#

1. LLM API 与模型调用基础#

• Chat Completions / Responses API：请求结构（model、messages、temperature 等）、返回结构（choices、usage）
• 模型参数：temperature、top_p、max_tokens
• Token 与 Context Window：输入 + 输出都计费；超窗会报错或截断
• 错误处理：超时、限流（429）、格式错误，需要重试与降级策略
• 多模型调用：统一封装，屏蔽厂商差异

from openai import OpenAI
import os

client = OpenAI(
    api_key=os.environ["DEEPSEEK_API_KEY"],
    base_url="https://api.deepseek.com",
)

resp = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "hello"}],
)
print(resp.choices[0].message.content)

2. Prompt Engineering#

• System Prompt：设定全局行为（相当于岗位说明书）
• 角色定义与行为约束：代码审查助手 / 分析师等
• 输出风格控制：详细程度、语气、结构
• Few-shot：给 2~3 个「输入 → 输出」范例，格式敏感任务更有效
• 任务拆解：复杂任务拆多步，降低幻觉率
• Prompt 模板：变量嵌入固定模板，可复用、可版本管理
• Prompt 注入风险：用户输入篡改指令的防护

3. Structured Output（结构化输出）#

• 为什么不能依赖自然语言解析：解析脆弱、无法校验
• JSON Schema：定义字段名、类型、必填
• Pydantic Model：定义结构 + 校验 + 反序列化
• 模型原生结构化输出：API 层传 Schema，模型保证合规
• 校验失败处理：错误反喂模型重试，多次失败降级回退

4. Streaming（流式输出）#

• 为什么需要：模型延迟高，串行等待体验差
• SSE：基于 HTTP 长连接的流式协议，实现打字机效果
• FastAPI StreamingResponse 保持低延迟转发
• CLI/前端消费：逐块读取；用户可随时取消
• 长文本断点：超出 Context Window 或断线时持久化状态

5. LLM Gateway#

• 统一 HTTP 入口，各组件无需各自维护 API Key
• OpenAI Compatible 协议，统一多厂商格式差异
• Streaming 代理、Structured Output 透传、Prompt 模板库
• 错误重试与 fallback、Token/Cost/Latency 日志

6. 阶段一项目：LLM 统一模型调用服务#

• OpenAI Compatible API 接口
• 多模型调用与模型路由
• Streaming 流式输出
• Structured Output 结构化输出
• Prompt 模板管理
• Token / Cost / Latency 记录
• 基础错误处理、重试与限流

讲义（五小节）#

• 第 1 章讲义 · 01 LLM API 与模型调用基础：请求/返回结构、模型参数、Token、结构化输出、错误处理、多模型调用
• 第 1 章讲义 · 02 Streaming 流式输出：SSE 协议、流式转发、流式结构化输出与超时处理
• 第 1 章讲义 · 03 Prompt Engineering：System Prompt、Few-shot、模板与注入防护
• 第 1 章讲义 · 04 Structured Output 结构化输出：JSON Schema、Pydantic、三家厂商落地
• 第 1 章讲义 · 05 LLM Gateway（统一模型调用服务）：统一入口、模型路由、回退熔断、用量统计

面试（五小节）#

• 第 1 章面试 · 01 LLM API 与模型调用基础：协议选择、Responses API、token 与成本、结构化输出、错误重试
• 第 1 章面试 · 02 Streaming 流式输出：SSE 实现、流式中断、流式结构化输出的边界
• 第 1 章面试 · 03 Prompt Engineering：模板工程、注入防护、可观测与评估
• 第 1 章面试 · 04 Structured Output 结构化输出：方案取舍、厂商差异、失败兜底
• 第 1 章面试 · 05 LLM Gateway：架构设计、路由回退、限流熔断、成本治理

本章的笔记与成果将在此汇总：Tool Registry、权限与审计、MCP 接入与项目① Tool Runtime。

本章的笔记与成果将在此汇总：Loop、Planning、Checkpoint、Sandbox、Harness 与项目② Codebase Agent。

本章的笔记与成果将在此汇总：Context 管理、记忆体系、混合检索 RAG 与项目② RAG & Memory。

本章的笔记与成果将在此汇总：多 Agent 协作、Skill 系统、Eval 平台与项目③ Eval。

本章的笔记与成果将在此汇总：Docker Compose、Trace、灰度、成本治理与项目③ Production Ready。

本章的笔记与成果将在此汇总：DeerFlow 九条架构线精读、深度研究平台/软件工厂、开源 PR。