dai-bench 代码维基

Appearance

dai-bench面向 vLLM/LLM 服务的基准测试与报告生成

以 YAML 驱动、以实验为中心的压测与结果归档

快速上手
架构概览
在线文档
🧪

实验驱动

以项目/实验/处理组为单位组织压测与结果

🚀

Server Mode

支持本地与 K8s 启动服务并自动就绪检查

📊

报告输出

生成 JSON 与 config-explorer 兼容的报告

text
# Related Code
- `dai_bench/cli/main.py`
- `dai_bench/cli/run.py`
- `dai_bench/core/runner.py`
- `dai_bench/runners/vllm_bench.py`
- `dai_bench/core/config.py`
- `tools/gen-release-notes/main.go`

技术栈速览 ​

层级技术
CLIPython + click
基准执行vLLM benchmark (bench serve)
配置YAML (bench.yaml / serve.yaml)
编排本地脚本 / Kubernetes Launcher
报告JSON + config-explorer YAML
Release 工具Go (tools/gen-release-notes)

关键入口 ​

  • 快速上手: /getting-started/quickstart
  • 架构概览: /architecture/overview
  • 核心组件: /core-components/overview
  • 开发指南: /development/overview
  • 构建与发布: /build-and-release/ci-cd