 Autumn-27
|
4319fe413f
|
feat(llm): 每个 LLM 配置支持自定义会话头
新增 session_header_key:非空时每次 LLM 请求带上该 HTTP 头,头值为当前
运行的 session id(chat 会话=conv-<id>,worker=exp<x>-worker-i<intent>
等)。用于某些按 session-id 头做提示缓存/粘性路由的网关。
实现:在已有的 quotaAwareTransport 里从请求 context 读取 session id
(transcript.WithSessionID 挂上的)并注入,无需改 norma;同一共享 provider
也能按会话发出不同头值。DB 加 session_header_key 列(带旧库迁移),前端
LLM 配置弹窗新增输入框。
|
2026-09-07 11:21:50 -04:00 |
|
|
Autumn-27
|
19a7206d12
|
feat(llmrec): 录制 LLM 请求/响应 HTTP 原文
归一化视图(request_body/response_body)会丢弃工具 schema、tool_use 块，
且看不到原始 SSE 帧，排查 provider 侧问题时信息不足。新增在 HTTP transport
层捕获真实 wire body 的能力：
- llmrec: 新增 Capture，Recorder 挂到 ctx，quotaAwareTransport 填充。
请求取 GetBody 副本(不消费原 body)，响应用 tee 保持流式;norma 内部重试
的多次尝试逐次保留(旧代码会读掉丢弃),单次时为字节级原文。
- db: llm_records 增加 raw_request/raw_response 两列，含旧库 ALTER 迁移。
- web: 录制页详情面板增加「原文」视图切换，及请求/响应内容复制按钮
(兼容非安全上下文的 execCommand 回退)。
- 测试: 单元(capture)、端到端(逐字节比对捕获=服务器实际收到)、
迁移(真实 PG 事务回滚)、全链路(Recorder→provider→PG 落库)。
|
2026-08-25 09:40:05 -04:00 |
|