 li
|
3c5553e253
|
fix(responses): 网关合成的 Responses 对象补齐 created_at，修复严格客户端反序列化失败
严格的 Responses 客户端（Rust serde 系，如 Codex / Grok CLI）把 created_at 声明为
必填字段，缺失即 `missing field 'created_at'` 直接读不出响应。
apicompat.ResponsesResponse 此前根本没有这个字段，六个构造点全部不写：
Chat→Responses 与 Anthropic→Responses 两座桥的非流式结果、response.created、
终止事件，以及两处手写的 response.failed 帧。
两个流式 state 早就在 New*State() 里采集了 Created 时间戳，只是没有出口——
反方向（Responses→Chat）每个 chunk 都老老实实发 created，正方向直接丢在地上。
原生 Responses 透传走 gjson/sjson 字节级改写，保留上游原样，不受影响；
本次只补合成路径。
Fixes #5601
|
2026-08-14 11:05:29 +08:00 |
|
|
shaw
|
ae9a01d852
|
fix(compact): 二轮审计加固——心跳字节不得污染 failover 判定与并发写安全
对首轮修复的对抗式审计发现并修复以下问题：
1. failover 判定污染（真实回归风险）：handler 以 "Forward 前后
c.Writer.Size() 是否变化" 判定响应是否已写出并据此放弃换号。心跳注释
字节会使该判定恒真，compact 请求一旦在上游等待期间发过心跳，上游
429/5xx 将不再 failover。新增
OpenAICompactKeepaliveAdjustedWrittenSize（扣除心跳字节、互斥锁下
一致读取、仅心跳字节归一化为未写哨兵 -1），快照、failover 比较与
openAIForwardErrorAlreadyCommunicated 三处判定统一改用该口径；无心跳
请求完全等价于原 c.Writer.Size()。
2. 并发写竞争：心跳 goroutine 与未被显式拦截的写回路径（Forward 内部
本地拒绝等）存在 ResponseWriter 数据竞争。StartOpenAICompactSSE-
Keepalive 现将 c.Writer 替换为 openAICompactKeepaliveWriter：写侧
方法（Header/Write/WriteString/WriteHeader/WriteHeaderNow/Flush）
先在互斥锁下停拍，读侧（Status/Size/Written）仅加锁不停拍——任何
请求侧响应构造与心跳从构造上互斥，热路径状态读取不误杀心跳。
3. 语义拦截补齐：rejectIfCyberSessionBlocked（在用户槽位长等待之后
执行的直接 c.JSON）与 writeOpenAIFastPolicyBlockedResponse 在心跳
提交后降级为 response.failed 终止事件；未提交时先停拍再写 JSON，
状态码语义不变。失败事件 errType 参数化（permission_error 等）。
4. reconstruct 混合形态：done 事件存在但 compaction 只在
output_item.added 中时也要补入；done 已含 compaction 时跳过 added，
避免无 id 可去重时收集两份（Codex 要求恰好一个）。
5. 观测性：logOpenAIRemoteCompactOutcome 对心跳提交后的失败（wire 200）
以 GetOpsStreamError 纠正 outcome，不再误记 succeeded。
新增 5 个测试：failover 口径不变式、包装器停拍语义（-race）、fast
policy 提交前后两态、混合 done/added 形态（含去重）。
Refs #3887 #3777
|
2026-07-10 10:18:16 +08:00 |
|
|
shaw
|
2cffe1cf5f
|
fix(compact): SSE→JSON 保留 raw output_item.done 并为 unary 等待补下游心跳（修复 #3887）
#3887 报告 v0.1.149（已含 #3880 桥接修复）remote compact 仍失败且持续
计费。核实为 #3880 明示的两个遗留：
1. 上游对 unary compact 返回 SSE 且 compaction item 只出现在 raw
response.output_item.done、终态 completed.response.output 为空
（#3777 实录形态）时，reconstructResponseOutputFromSSE 只累加
text/function_call/reasoning 三类 delta，compaction item 被丢弃，
桥接合成 0 个 output_item.done，Codex 报 "expected exactly one
compaction output item, got 0" 后盲目重试，每次重试重新消耗上游
compact 配额。
2. 桥接为全缓冲写回：上游 unary 完成前（大上下文可达数分钟，且上游
处理期间不发送任何字节）下游连响应头都收不到，反向代理
（Nginx/Cloudflare Tunnel）空闲超时掐断连接同样触发盲重连
（同类问题见 #2243/#2976）。
修复：
- reconstructResponseOutputFromSSE 优先以 raw JSON 逐字节收集
output_item.done item（协议上的最终完整形态），不经窄结构体，
encrypted_content/summary/opaque 等 compact 专属字段全部保留；
无 done 事件时退回收集 output_item.added 中的 compaction 类 item；
两者皆无才回到原 delta 重建。path-based v1 JSON 写回同样受益。
- 新增 openAICompactSSEKeepalive：body-signal 客户端流式 compact 在
上游等待期间按 gateway.stream_keepalive_interval 向下游写 SSE 注释
行心跳（eventsource 解析层直接忽略）。首拍延迟一个间隔，快速失败
仍走 JSON+状态码；首拍后状态码固化为 200，桥接/错误链路
（writeOpenAICompactSSEBridge、errorResponse、
handleStreamingAwareError、ensureForwardErrorResponse、
writeOpenAINonStreamingProtocolError）统一降级为 response.failed
终止事件并标记 ops 流内错误。
- API-key 账号的 compact 上游请求也强制 accept: application/json
（#3777 期望行为 4；透传白名单原会放行客户端的 text/event-stream）。
测试：#3777 实录形态经 handleSSEToJSON / 透传 / path-based 三条链路
的修补断言；raw-done 优先不与 delta 重复；added 回退门控；心跳提交、
提交后 2xx 续写、提交后失败降级、未提交行为不变；-race 通过。
Fixes #3887
Refs #3777 #3875 #3880
|
2026-07-10 09:56:56 +08:00 |
|
|
shaw
|
92b283d9eb
|
fix: 修复 SSE 桥接 appendEvent 中 errcheck 告警
|
2026-07-09 22:34:13 +08:00 |
|
|
shaw
|
16c0613b21
|
fix(compact): body-signal 客户端流式请求的响应合成回 SSE
v0.1.147 的 body-signal 提升（#3804）把 Codex remote compact v2 的流式
/responses 请求改写为上游 unary /responses/compact（JSON），但把 JSON
文档原样写回给了按 Responses SSE 协议消费的客户端。Codex 只从
response.output_item.done 收集 item 且必须收到 response.completed，
收到 JSON 后报 "stream disconnected before completion: stream closed
before response.completed" 无限重连，每次重连再白烧一次上游 compact
配额（#3875，v0.1.146 无提升逻辑故正常）。
修复保留提升的全部收益（requireCompact 调度过滤、compact 模型映射、
白名单归一化、上游 unary JSON），补上协议转换缺失的响应半程：
- handler 在 body-signal 提升时记录原始 body 的 stream:true 意图
（MarkOpenAICompactClientStream）；path-based 请求不标记，Codex v1
unary 协议与链式 sub2api 的 JSON 写回行为保持不变。
- 四个非流式写回点（handleNonStreamingResponse / handleSSEToJSON /
handleNonStreamingResponsePassthrough / handlePassthroughSSEToJSON）
对已标记的 2xx JSON 响应经 writeOpenAICompactSSEBridge 合成最小
Responses SSE：每个 output[] item 一条 response.output_item.done
（原始字段逐字节保留），最后一条 response.completed 携带完整
response 对象。
- 按 codex-rs 解析器硬约束兜底：先 json.Compact 防 pretty JSON 换行
破坏 SSE 帧；response.id 缺失时注入 resp_*（必填 string）；usage
缺 input_tokens/output_tokens/total_tokens 整数字段时整体删除，
避免整条 completed 事件解析失败。
- 非 2xx 一律保持 JSON 原样，Codex 依赖 HTTP 状态码走重试链路。
新增 9 个 service 测试 + 4 个 handler 测试覆盖合成形态、id/usage 兜底、
path-based 不受影响、主链路/透传链路/上游 SSE 提取再合成三条端到端。
Fixes #3875
Refs #3777
|
2026-07-09 21:40:51 +08:00 |
|