Project Icon

likwid

开源高性能计算性能分析工具

Likwid是一个开源的高性能计算性能分析工具套件,支持多种处理器和GPU,运行于Linux系统。它提供硬件拓扑分析、性能计数器监控、能耗测量等功能,帮助开发者分析和优化应用性能。Likwid以命令行工具和库的形式提供,使用简单,功能强大,是高性能计算领域重要的性能分析工具。

locust - 简单强大的开源性能测试工具
GithubLocustPython分布式开源项目性能测试负载测试
Locust是一款开源的性能和负载测试工具,支持HTTP和其他协议。它采用开发者友好的方法,允许用户使用Python代码定义测试,并支持导入常规Python库。Locust具有分布式和可扩展性,能够支持大规模并发用户同时测试。它提供了直观的Web界面,可实时显示测试进度,并支持无UI运行以便于CI/CD测试。这些特性使Locust能够轻松适应各种复杂的测试场景。
tilck - 轻量级Linux兼容内核 专注教育与嵌入式应用
GithubLinux兼容Tilck单内核嵌入式系统开源项目教育目的
Tilck是一款教育性的单内核x86操作系统,在二进制级别与Linux兼容。其简洁设计和小巧规模使其成为内核模式实验的理想平台。Tilck能运行BusyBox等Linux程序,无需自定义应用。它支持FAT32文件系统、进程和信号处理、I/O操作等,可运行Vim和TinyCC等控制台应用。Tilck致力于成为嵌入式系统的优选,弥合嵌入式Linux与实时操作系统间的差距。
langtrace - Langtrace:LLM应用的开源可观测性解决方案
GithubLangtraceOpen TelemetrySDK可观测性开源开源项目
Langtrace是一款开源软件,专注于LLM应用的可观测性。它能捕获、调试和分析LLM API、向量数据库和LLM框架的追踪和指标,并支持Open Telemetry标准。提供详细的SDK文档和自托管选项,兼容多种供应商和框架。Langtrace还提供SaaS托管版本和本地部署选项,全面监控应用性能和安全性。
nvshare - 多进程安全共享GPU的开源解决方案
CUDAGPU共享GithubKubernetesnvshare内存管理开源项目
nvshare是一个开源的GPU共享机制,支持多个进程或Kubernetes容器在同一GPU上安全并发运行。它利用统一内存API和系统RAM作为交换空间,使每个进程都能访问全部GPU内存。通过nvshare-scheduler管理GPU访问时间,有效避免内存抖动。这种方案适用于GPU使用呈突发性的场景,如交互式开发环境中的Jupyter notebooks等。
langstream - LangStream开源项目:支持云端和本地开发的多功能工具及示例应用
CLIGithubKubernetesLangStream开发开源项目部署
LangStream开源项目提供多功能开发工具和示例应用,通过CLI或Kubernetes集群运行和部署。提供多种安装方式及详细文档和支持,适用于MacOS和Unix系统。项目集成OpenAI,用户能快速创建和管理应用。支持通过Helm图表进行生产级部署,并兼容EKS、AKS、GKE等主流云服务提供商的Kubernetes集群,同时提供minikube本地部署解决方案,用于快速测试和开发。
process-exporter - 基于Prometheus的进程监控及指标导出工具
GithubPrometheus开源项目性能优化指标收集进程监控配置文件
process-exporter是一个为Prometheus设计的导出工具,通过解析/proc目录获取选定进程的指标。它提供灵活的配置选项,支持自定义进程分组和命名。该工具可收集CPU使用率、内存占用和I/O操作等关键指标,特别适用于难以直接植入Prometheus监控代码的应用。process-exporter支持二进制包和Docker镜像安装,为IT运维人员提供了简便的进程监控方案。
Laminar - 专业LLM应用开发和调试工具平台
AI工具LLM应用可视化调试器并行处理评估调试
Laminar是专注于LLM应用开发和调试的工具平台。它提供真实调试体验,支持本地开发和远程调试,具备可视化调试器。平台支持实时流式执行管道,允许逐步调试、添加断点、自选节点执行和数据预填充。Laminar还具有高效评估功能,可在短时间内对大量数据点进行自定义评估,显著提升LLM应用的开发和测试效率。
vidur - 可扩展LLM推理模拟器,适用于容量规划和研究优化
GPU配置GithubLLM推理模拟器Vidur开源项目模型支持系统性能
Vidur是一款高保真且具扩展性的LLM推理模拟器,适用于容量规划和最佳部署配置测试。无需GPU即可研究不同工作负载下的系统性能,支持多种主流模型和配置,提供线路追踪和多种运行环境搭建指导,并记录详细的性能指标日志。该项目欢迎贡献并遵循微软开放源码行为准则。
mlir-aie - MLIR驱动的AI引擎工具链 助力AI设备性能优化
AI EngineAMDGithubMLIRRyzen AIVersal开源项目
mlir-aie是一个基于MLIR的开源工具链,专为AMD Ryzen™ AI和Versal™等AI引擎设备设计。它通过多层抽象的MLIR表示,实现AI引擎核心编程、数据移动和阵列连接描述。项目提供Python API接口,支持后端代码生成,并集成AMD Vitis™软件中的AI引擎编译器。作为面向工具开发者的项目,mlir-aie提供AIE设备的低级访问,促进多样化编程模型的开发。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号