Logo
Project Icon

byteir

端到端模型编译解决方案，支持多种MLIR方言和ASIC优化

ByteIR编译器运行时前端模型编译Github开源项目

ByteIR是ByteDance推出的端到端模型编译解决方案，包括编译器、运行时和前端组件。该项目采用多种上游MLIR方言和Google Mhlo，提供兼容的编译过程，允许灵活混用ByteIR与上游MLIR的passes。ByteIR支持Tensorflow、PyTorch、ONNX等前端，能将SOTA模型转化为Stablehlo。目前处于早期阶段，目标是为深度学习加速器及通用CPU和GPU提供必要的模块和基础设施。

访问官网访问官网GithubGithub
介绍相关项目
mlx-llm - 在Apple Silicon上实时运行的高级语言模型应用与工具
Apple SiliconGithubHuggingFaceLarge Language ModelsQuantizationmlx-llm开源项目
mlx-llm支持用户在Apple Silicon设备上实时运行高级语言模型（LLMs）的应用和工具。该项目支持多种预训练模型，并提供简便的安装方法。用户可以加载新版预训练权重、进行模型量化及嵌入提取。此外，mlx-llm还覆盖了多种应用场景，包括命令行聊天、LoRA或QLoRA微调及检索增强生成（RAG）等。
xTuring - 开源LLM微调平台
GithubINT4LLMLLaMALoRAxTuring开源项目
xTuring是一款高效、简单的开源LLM微调平台，支持Mistral、LLaMA、GPT-J等多种模型。用户可通过直观界面在本地或私有云中微调模型，保障数据隐私。平台支持数据预处理、多GPU扩展、以及INT4和LoRA等内存高效的微调方法，并提供多种模型评估工具。最新功能涵盖LLaMA 2集成、CPU推理优化和批量处理。
ReByte - 智能化企业AI平台 助力团队效率与数据管理
AI助手AI工具API集成数据同步结构化RAG访问控制
ReByte是面向企业的智能AI助手平台，集成多功能支持以提升团队效率。基于企业数据回答问题，执行复杂任务规划，提供高精度结构化数据RAG。支持多种数据源同步，兼容多种AI模型，内置细粒度访问控制。平台功能广泛API化，便于二次开发。ReByte致力于增强企业数据管理能力，推动创新发展。
InferLLM - 轻量化语言模型推理框架，兼容多种模型格式和设备
GithubInferLLMllama.cpp多模型兼容开源项目模型推理高效率
InferLLM 是一个高效简洁的语言模型推理框架，源于 llama.cpp 项目。主要特点包括结构简单、高性能、易于上手，并支持多模型格式。目前兼容 CPU 和 GPU，可优化 Arm、x86、CUDA 和 riscv-vector，并支持移动设备部署。InferLLM 引入了专有 KVstorage 类型以简化缓存和管理，适合多种应用场景。最新支持的模型包括 LLama-2-7B、ChatGLM、Alpaca 等。
transfomers-silicon-research - Transformer模型硬件实现研究进展
BERTGithubTransformer开源项目硬件加速神经网络自然语言处理
本项目汇集了Transformer模型硬件实现的研究资料，包括BERT及其优化方案。内容涵盖算法-硬件协同设计、神经网络加速器、量化和剪枝等技术。项目提供了详细的论文列表，涉及FPGA实现、功耗优化等多个领域，全面展示了Transformer硬件加速的最新研究进展。
nncase - 神经网络编译器 优化AI加速器性能
AI加速器GithubK230nncase开源项目模型量化神经网络编译器
nncase是专为AI加速器设计的神经网络编译器,支持多输入输出和多分支结构。它采用静态内存分配,提供算子融合优化,支持浮点和uint8量化推理,以及基于校准数据集的后量化。nncase支持零拷贝加载平面模型,适用于K230、K510和K210等芯片。它提供丰富的操作符支持、使用指南和示例,以及完整的生态系统资源,有助于高效部署AI模型。
byt5-xl - 基于原始字节的多语言自然语言处理模型
ByT5GithubHuggingfaceTransformer架构多语言模型字节级处理开源项目模型自然语言处理
ByT5-xl是一种基于原始UTF-8字节的多语言预训练模型，无需使用分词器。该模型在mC4数据集上进行预训练，采用标准Transformer架构，在处理噪声文本数据方面表现出色。与传统基于token的模型相比，ByT5-xl在参数数量、训练效率和推理速度上保持竞争力，同时在拼写和发音敏感任务中展现出更优异的性能。这使得ByT5-xl成为多语言自然语言处理任务的有力工具。
SiLLM - Apple Silicon大语言模型训练与推理工具包
Apple SiliconGithubMLXSiLLM低秩适应大型语言模型开源项目
SiLLM是专为Apple Silicon设计的大语言模型工具包，基于MLX框架优化LLM训练和运行流程。支持多种模型架构，提供Web应用和API服务，实现LoRA和DPO等先进训练技术。该项目还引入控制向量和特征消融等实验性功能，便于探索LLM内部机制，旨在让更广泛的Apple Silicon用户群体能够使用最新的LLM技术。
tiktoken - 为OpenAI模型优化的高性能BPE分词器
BPEGithubOpenAItiktoken分词器开源项目性能优化
tiktoken是一款为OpenAI模型优化的BPE分词器。该工具提供快速的文本编码和解码功能，支持多种编码方式，易于集成到Python项目中。相较于其他开源分词器，tiktoken的性能提升了3-6倍。除了标准功能外，tiktoken还包含教育性子模块，有助于理解BPE算法原理。此外，该工具支持自定义扩展，可满足特定应用需求。
inference - 简化语言和多模态模型部署的强大工具
API接口GithubXorbits Inference分布式部署多模态模型开源项目模型部署
Xorbits Inference 是一个强大的库，旨在简化语言、语音识别和多模态模型的部署。研究人员、开发者和数据科学家都可以通过一个命令轻松部署和服务先进的内置模型。该库支持连续批处理、MLX后端、SGLang后端及LoRA技术，提供高效的硬件资源利用。Xorbits Inference 与LangChain、LlamaIndex等第三方库无缝集成，支持分布式部署和多种交互接口，是AI模型服务的理想工具。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号