Token 与上下文

观察输入、历史和输出如何占用上下文,设计长对话裁剪策略,区分总额度与单次容量。

AI 应用核心约 30 分钟
开始学习
学习目标
  • 解释「模型无状态」:多轮记忆靠每次重新发送历史实现
  • 估算一次请求占用的上下文,区分总额度与单次容量两个口径
  • 实现保留 system 与最近 N 条历史的裁剪策略
知识点
token上下文窗口历史裁剪无状态调用

内容版本 1.0.0,核验于 2026-10-26

Command Palette

Search for a command to run...