Skip to content
text
# Related Code
- `dai_bench/cli/run.py`
- `dai_bench/core/config.py`
- `examples/local/`
- `examples/k8s-serve/`

术语表

  • 项目 (Project): dai-bench setup 创建的目录,包含 experiments / results / setup。
  • 实验 (Experiment): experiments/<id> 目录,包含一次压测的配置与产出。
  • Treatment: server mode 下的一组参数组合,映射为一次独立的运行。
  • bench.yaml: 压测负载与服务端参数配置。
  • serve.yaml: server mode 的启动与参数组合配置。
  • Runner: 负责执行基准测试的实现(目前为 vLLM runner)。
  • Launcher: 负责启动/停止服务的编排层(本地或 K8s)。
  • Client Mode: 假设服务已运行,仅进行压测。
  • Server Mode: dai-bench 负责启动服务并等待就绪后执行压测。
  • Results 目录: 压测输出位置,通常为 results/<experiment>/<model_or_treatment>/