Project Icon

Polygeist

优化C/C++代码性能与可移植性的MLIR编译框架

Polygeist是一个先进的编译框架,将C/C++代码转换为MLIR的多面体表示。它实现了自动代码优化、并行化和GPU转译,有效提升代码性能和可移植性。该项目集成了CUDA和ROCm后端,并与LLVM、MLIR和Clang紧密结合,为开发人员提供了强大的工具链以优化现有代码。Polygeist主要应用于高性能计算、自动并行化和跨平台开发领域。

beaver - 基于Elixir的MLIR开发工具集
ElixirGithubIR生成MLIR开源项目模式匹配编译器
Beaver是一个基于Elixir的MLIR开发工具集,旨在简化开发流程。它充分利用Elixir的SSA、模式匹配和管道操作符等特性,为MLIR提供直观可扩展的接口。Beaver支持快速的开发迭代,并致力于实现Elixir到原生/WASM/GPU的编译。此外,该项目还探索了在硬件加速环境下重新审视符号AI,为机器学习领域引入了新的技术栈。
LLM4Decompile - 大型语言模型驱动的二进制代码反编译技术
GithubLLM4Decompile二进制代码反编译大语言模型开源项目源代码
LLM4Decompile是一款创新的开源大型语言模型,专注于二进制代码反编译。该模型能将Linux x86_64二进制文件转换为可读的C源代码,覆盖GCC的O0至O3优化级别。项目提供多个参数规模的模型版本,从1.3B到33B不等。其中,最新的22B-V2版本在HumanEval-Decompile基准测试中实现了63.6%的重新执行率。LLM4Decompile不仅可直接反编译二进制文件,还能优化Ghidra等工具生成的伪代码,为二进制分析和逆向工程领域提供了新的可能性。
MFTCoder - 优化代码大模型性能的多任务微调框架
CodeFuseGithubHumanEvalMFTCoder代码大语言模型多任务微调开源项目
MFTCoder是一个开源的多任务微调框架,致力于提升代码大模型性能。该框架支持多种主流开源大模型,采用LoRA和QLoRA等高效微调方法,实现多任务平衡训练。MFTCoder还开源了多个高性能代码大模型和高质量数据集,在HumanEval等基准测试中表现优异。这一框架旨在促进代码大模型领域的协作与创新。
booster - 大规模GPT模型部署和高效推理加速器
AI绘图BoosterGPTGithubGolangLLM加速开源项目
Large Model Booster利用Golang和C++技术构建高性能且可扩展的LLM推理加速器,适用于生产环境中的GPTs大规模部署和独立模型实验。支持多种现代CPU和GPU,包括Intel、AMD、ARM64、Apple Silicon及Nvidia CUDA等,支持大模型切分及FP16/FP32和量化版本。涵盖LLaMA、Mistral、Gemma等主流LLM架构,提供SOTA Janus Sampling实现。项目提供详细的编译到部署指南,并支持OpenAI和Ollama的兼容API端点。
polymer - 开源空间交互与实时渲染研究框架
GithubOpenGLPolymer实体组件系统实时渲染开源项目空间交互
Polymer是一个开源的空间交互和实时渲染研究框架,基于C++14和桌面级OpenGL,主要面向Windows平台。框架特性包括物理基础正向渲染、实体组件架构、OpenGL封装和热重载资产系统。适用于沉浸式媒体、图形学研究和工具开发。Polymer由基础库、引擎库和模型IO库组成,为开发者提供灵活的开发环境。框架集成了OpenVR,支持AR/VR原型开发,并提供桌面场景编辑器和JSON场景序列化功能。
drogon - 高性能跨平台C++Web应用框架
C++DrogonGithubHTTP框架Web应用开源项目异步编程
Drogon是基于C++17/20的高性能HTTP应用框架,支持跨平台开发。框架提供异步编程模式,支持HTTP、WebSocket和JSON,具有高并发、简单反射、灵活路由等特点。Drogon还包含ORM实现、插件系统和AOP支持,适用于构建多种Web应用服务器。其简洁API和丰富功能使C++开发Web应用更加高效。
gpt-migrate - 自动化代码迁移工具实现跨框架和语言转换
AI编程GPT-MigrateGithub代码迁移开源项目自动化转换
GPT-Migrate是一款基于AI的代码迁移工具,可将代码库在不同框架或语言间转换。它结合Docker环境和大型语言模型,实现源代码评估、依赖选择、目标代码重建、测试和调试的自动化。该工具旨在降低代码迁移成本和时间,但仍处于开发阶段。GPT-Migrate支持多种编程语言,提供灵活配置,并针对复杂迁移任务提供专家支持。
circt - 硬件设计领域的开源编译器基础设施
CIRCTEDAGithubLLVMMLIR开源项目硬件设计
CIRCT项目旨在将MLIR和LLVM开发方法应用于硬件设计工具领域。它提供一致的、模块化的基础设施,支持多种中间表示,以解决现有EDA工具的局限性。CIRCT鼓励社区通过Discourse论坛、周会和代码贡献参与项目,共同推进开放硬件工具的发展。
Whisper-Finetune - 语音识别模型的高效微调与加速
GithubWhisper中文识别加速推理开源项目模型微调语音识别
Whisper-Finetune项目致力于优化OpenAI的Whisper语音识别模型。该项目采用Lora技术进行微调,支持多种数据类型的训练,并通过CTranslate2和GGML实现加速推理。此外,项目提供了跨平台应用和服务器部署方案,为语音识别应用开发提供了全面支持。
glake - 优化GPU内存与IO传输
AI训练GLakeGPU内存GithubIO传输优化开源项目
GLake优化了GPU内存管理和IO传输,解决了AI大模型训练和推理中的内存和传输瓶颈。通过GPU虚拟和物理内存管理及多GPU、多路径和多任务优化,提高了硬件资源利用率,最高可将训练吞吐量提高4倍,推理内存降低3倍,IO传输加速3至12倍。GLake易于集成,无需代码修改,且提供内存优化、多路径IO传输提升、和数据去重等功能,为AI训练与推理提供高效、安全的解决方案。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号