Commit Graph
4 Commits
Author SHA1 Message Date
lhl 8239a37a99 feat(inference): LLM 客户端全异步化(T8 架构审查整改)
- Issue9: client.py 由同步 httpx.Client 全异步化
  - LLMClient Protocol / HttpLLMClient.chat → async;httpx.AsyncClient + asyncio.sleep 退避
  - __enter__/__exit__ → __aenter__/__aexit__(async with 生命周期闭环)
- engine.py chat/chat_structured/_call 全部 async + await
- FakeLLMClient.chat → async;测试用 anyio pytest 插件转换(engine 32 + client 10 用例)
- 同步 inference-engine spec 与 milestone3 review 的 httpx 描述
- 全量 182 passed / 100.00%(987 stmts/252 br)
2026-08-12 09:50:37 +08:00
lhl cb2deda08a test: 清理 backlog——chat_structured 超限检测 + client 上下文管理器 2026-08-09 09:15:36 +08:00
lhl 14062d1954 fix: 客户端响应结构损坏归入 LLMResponseError;3xx 不再误判成功 2026-08-09 08:36:02 +08:00
lhl add7b1503c feat: HttpLLMClient(httpx + 重试退避/超时/鉴权) 2026-08-09 08:08:04 +08:00