Commit Graph
8 Commits
Author SHA1 Message Date
Autumn-27 aafab015e7 feat(bench): seed 起始清空全部拦截规则,放开 CTF 渗透操作防误拦 2026-08-13 12:29:01 -04:00
Autumn-27 4c42c70a84 feat(bench): 起题前按 host 清旧资产防跨题污染 + 提示词补 CTF 场景/深挖引导 + v2 基准脚手架
- scheduler: create_task 前调 delete_assets_by_host,清复用 IP 上旧题残留(级联删 service/endpoint)
- planner/worker prompt: 标注 CTF 场景;planner 补否定结论时的深挖自省
- kali_tools: 补预装 python 库说明 + 无网/找命令提示
- server/goals.go: 抽 launchTask 统一 seed+种子意图+异步目标分解
- 新增 v2 基准: Dockerfile.bench.v2 / entrypoint_v2.sh / seed_v2.sh / tec_benchmark_v2.md
2026-08-13 12:24:38 -04:00
Autumn-27 06e714598d fix(bench): scheduler 真实 API 容错——建任务失败回滚/close 确认重试防泄漏名额/token 自动重登/VPN 断冻结补偿/重启重置进度追踪; 模拟器加故障注入 2026-08-12 13:56:48 -04:00
Autumn-27 cff5c21a14 feat(bench): 新增 CWF-DR 确定性调度器(scheduler.py)——算法编排替代 tec_benchmark agent,给难题不中断长窗口 2026-08-12 13:44:09 -04:00
Autumn-27 3d0dedc51e feat(bench): seed 双 LLM profile——planner 绑强模型、worker 绑弱模型、默认激活弱模型
原来只建 1 个 benchmark profile 全局共用。现改为:
- 建 plan(LLM_MODEL_PLAN)/work(LLM_MODEL_WORK) 两个 profile,共用同一网关/密钥/格式
- 分别绑定 planner→plan、worker→work(PUT /api/agents/{key}/config llm_profile_id)
- 全局激活默认 = work,未绑定的编排 agent(tec_benchmark/challenge_review)走弱模型
- .env(.example) 新增 LLM_MODEL_PLAN/WORK,缺省回退旧 LLM_MODEL,向后兼容
2026-08-12 12:18:51 -04:00
Autumn-27 06c1ac748f fix(bench): 优化编排与规划提示词(深链势头豁免/时间预算重算/推进优先)
tec_benchmark(编排):
- 势头豁免(硬规则):出新flag或建立"打断会丢的贵活状态"即豁免时间窗止损与轮转,推到停滞才停
- 部分完成优先:半成品多flag题(0<correct<total)不进轮次公平队列,最高优先resume续跑
- 时间预算按容量重算:首窗压到均~10min(hard 12),单flag上限2个首窗;多flag改势头治理不硬砍
- 动态放宽:随剩余容量增大(只剩难题时)按"剩余容量÷剩余题数"放宽单题时间
- 多flag深链默认不查hint

planner(规划):
- 推进优先于克制:每个未达成目标都需有在跑意图推进它,否则必须补;去重按"方向"非"资产"
- 新增"看/纠/停"在跑意图:get_worker_output + steer_work/kill_work,并入每轮决策流程
2026-08-12 10:19:37 -04:00
Autumn-27 1bc629ce4c chore(bench): tec_benchmark 提示词整改 + seed 注入测评开始时间
提示词(tec_benchmark.md):
- hint 统一为"默认不查、仅满足文末条件才查",去掉"第一版禁用"矛盾表述
- 去掉"使用不同/指定 LLM"(三处),与"默认不指定"一致
- 裸 GET /challenges → 真实 GET {BENCHMARK_BASE_URL}/openapi/v1/challenges
- 新增「测评时间」块:总时长6h / 开始时间 {{BENCHMARK_START_TIME}} / 当前时间 {{.Now}}
  / 判断方法,并在 hint 条件接上"当前−开始≥3h 判最后3小时"

seed.sh:
- 替换 {{BENCHMARK_START_TIME}} 为 seed 运行时刻(≈测评开始),格式对齐 {{.Now}};
  {{.Now}} 带点号不被误替,留给 ARTEX 每轮实时渲染
2026-08-11 10:45:12 -04:00
Autumn-27 37bb386f97 build(bench): 新增 tsecbench 测评环境
- Dockerfile.bench / docker-compose.bench.yml:tsecbench 测评镜像与编排
- bench/entrypoint.sh、seed.sh:容器入口与任务种子脚本
- bench/prompts/*:测评用 planner/worker/challenge 提示词
- bench/.env.example、kali_tools.txt:配置模板与工具清单(真实 .env 仍被忽略)
2026-08-11 09:20:29 -04:00