大飞随笔

7 chapters · Articles in this topic

模型能力与接入

区分公开能力证据、模型协议与适配行为；不把框架能力计作模型能力。

7 篇 · 总阅读约 69 分钟，实践另计
最近修订 2026.09.17

阅读第一篇

阅读目录

按问题选择文章
  1. 01

    专题文章 1 / 7

    一次模型调用之后，究竟发生了什么？

    从一张流程图看懂模型调用：请求如何进入服务，Prefill、Decode 与 KV Cache 如何协作，流式输出和工具调用又怎样组成完整任务。

    10 min
  2. 02

    专题文章 2 / 7

    OpenAI 与 Anthropic：模型与 Agent Runtime 的边界

    用两组工具调用范例，讲清 OpenAI 与 Anthropic API 的区别，以及模型负责生成、工具负责执行、Runtime 负责持续推进任务的边界。

    11 min
  3. 03

    专题文章 3 / 7

    模型能力边界：从公开评测到任务责任

    从任务责任、交付验收与模型差异出发，建立一张不依赖总榜单的 AI 能力地图。

    8 min
  4. 04

    专题文章 4 / 7

    LLM Gateway：模型网关

    用能力、协议、数据范围和预算约束模型路由，区分重试、降级与业务恢复，并按成功任务核算真实成本。

    6 min
  5. 05

    专题文章 5 / 7

    LiteLLM：模型路由、故障转移与预算边界

    从真实 Router 实验与固定版本源码，拆解模型组、部署选择、重试、流式切换、冷却和跨实例预算计数。

    15 min
  6. 06

    专题文章 6 / 7

    OpenAI API：模型接口协议

    比较 Responses、Chat Completions 与 Realtime 的对象和状态，深入解析工具调用、流式事件、会话续接与模型网关兼容边界。

    9 min
  7. 07

    专题文章 7 / 7

    Anthropic API：模型接口协议

    深入解析 Messages API 的内容块、工具回传、流式增量、停止原因与上下文续接，比较 OpenAI 接口并给出 Harness 适配边界。

    10 min

The question stays open

从具体实现与工作场景理解设计的适用条件。

返回阅读 →