Logo

#性能基准测试

Databend 学习资料汇总 - 开源云原生数据仓库替代方案

1 个月前
Cover of Databend 学习资料汇总 - 开源云原生数据仓库替代方案

LLMPerf 基准测试排行榜:评估大语言模型推理性能

2 个月前
Cover of LLMPerf 基准测试排行榜:评估大语言模型推理性能

FMBench: 强大的基础模型基准测试工具

2 个月前
Cover of FMBench: 强大的基础模型基准测试工具

Databend:下一代云数据仓库解决方案

2 个月前
Cover of Databend:下一代云数据仓库解决方案

相关项目

Project Cover
databend
Databend 是一个开源、高性能的云数据仓库,使用 Rust 构建,专为复杂的数据分析设计。它整合了 AWS S3、Azure Blob 等服务,支持 ACID 事务、版本控制和无模式的数据存储,确保数据完整性与灵活性。Databend 支持多种数据格式,如 JSON、CSV、Parquet 等,提供高速查询执行与数据摄入,是成本效益高的 Snowflake 替代方案。此外,Databend 的 AI 功能支持高级分析,提供社区驱动的用户友好体验,适合企业和开发者快速部署和使用。
Project Cover
llmperf-leaderboard
LLMPerf Leaderboard 项目对多家LLM推理服务进行性能评测,主要衡量输出令牌吞吐量和首个令牌响应时间(TTFT)。测试涵盖Llama-2系列的7B、13B和70B聊天模型,为开发者提供客观透明的性能数据和可复现的测试方法,有助于选择合适的LLM服务。
Project Cover
bombardier
bombardier是一款开源的轻量级HTTP(S)基准测试工具,基于Go语言开发。采用fasthttp库实现卓越性能,同时支持HTTP/2.x测试。通过简单的命令行操作,可快速获取web服务的性能指标,包括请求速率、延迟分布和吞吐量等关键数据。适合开发者和系统管理员用于评估和优化web服务性能。
Project Cover
foundation-model-benchmarking-tool
FMBench是一个用于基准测试AWS生成式AI服务上基础模型性能的Python工具。它支持在SageMaker、Bedrock、EKS和EC2等平台上评估开源、第三方和专有模型。FMBench可帮助用户比较不同模型和部署选项的性能和准确性,从而优化生成式AI工作负载。
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号