DeepSWE 接口
注册名为 deepswe,对应 Datacurve DeepSWE v1.1,主指标为 reward。 固定官方仓库 commit 0b9fabbb63b9104d678fe965e1632f2dd9eaa2ea。
当前验证范围为合成任务的离线接口测试,原生任务、镜像和真实容器行为仍待验证。
配置
完整配置见 OPRO 示例。
yaml
benchmark:
name: deepswe
# 可选:已有原生仓库根目录、tasks/,或单个任务目录。
# data_path: ./data/deep-swe
seed: 42
split_counts: {train: 1, dev: 1, test: 1}实例化和查看依赖计划不会获取任务。调用 load() 或启动实验时,未指定 data_path 才会下载固定 Git revision 下的 tasks/;本地路径按现有配置规则相对 YAML 文件解析。 默认 split: auto 将公开集合保留为 test;演化需要显式设置同源互斥的实验划分。 不支持把原生任务当成普通 QA JSON 输入。
一键脚本识别 deepswe 并选择已有 all,harbor extras,执行环境要求 Python ≥3.12、 Docker Linux daemon 和 Compose;自动获取数据需要 Git。--plan 只显示规划, --check-only 会加载数据。Windows 直接使用 SDK/CLI 时启用 PYTHONUTF8=1;一键脚本已自动设置。
执行与评分映射
- 使用当前 Harbor 0.23.0 桥接 MiniAgent / Claude Code;未安装或切换到官方榜单使用的 Pier。
- 保留原始 instruction、镜像、资源定义、artifacts、
verifier.collect和 verifier 脚本。 Agent 按原始任务要求提交代码;适配器不自动提交。官方 hook 从已提交的 HEAD 提取补丁, Harbor 在独立 verifier 环境应用补丁并评分。 - 仅接受单阶段 Linux 任务,要求 v1.1 的独立 verifier、collect hook,以及 Agent/verifier 原生
network_mode: no-network。不兼容的任务明确报错。 - 必须配置
agent.llm.base_url。由它和可选的side_base_url提取主机名,传入 Harbor 的 Agent 阶段网络白名单;不继承 Worker 连接,不开放任意网络,verifier 仍禁网。 每次执行读取该次固定配置,后续调整模型连接会更新白名单。自定义网关需可从容器访问; 代理或额外重定向域名仍需单独验证。 - 评分只读取宿主追加且与加载 Task/checksum 对齐的
HarborVerifier事件,映射原生rewards.reward;其他原生分项保留在该事件。执行失败计零,不采信 Agent 自报分数。
这是接入现有 Agent 的评测接口,不声称复现官方榜单的模型、预算或 harness 配置。 原生任务、镜像和真实容器行为尚未验证;离线测试仅确认格式解析、划分、网络策略参数传递和结果映射。