Appearance
text
# Related Code
- `dai_bench/cli/run.py`
- `dai_bench/core/config.py`
- `examples/local/`
- `examples/k8s-serve/`术语表
- 项目 (Project):
dai-bench setup创建的目录,包含 experiments / results / setup。 - 实验 (Experiment):
experiments/<id>目录,包含一次压测的配置与产出。 - Treatment: server mode 下的一组参数组合,映射为一次独立的运行。
- bench.yaml: 压测负载与服务端参数配置。
- serve.yaml: server mode 的启动与参数组合配置。
- Runner: 负责执行基准测试的实现(目前为 vLLM runner)。
- Launcher: 负责启动/停止服务的编排层(本地或 K8s)。
- Client Mode: 假设服务已运行,仅进行压测。
- Server Mode: dai-bench 负责启动服务并等待就绪后执行压测。
- Results 目录: 压测输出位置,通常为
results/<experiment>/<model_or_treatment>/。