Project Icon

byteir

端到端模型编译解决方案,支持多种MLIR方言和ASIC优化

ByteIR是ByteDance推出的端到端模型编译解决方案,包括编译器、运行时和前端组件。该项目采用多种上游MLIR方言和Google Mhlo,提供兼容的编译过程,允许灵活混用ByteIR与上游MLIR的passes。ByteIR支持Tensorflow、PyTorch、ONNX等前端,能将SOTA模型转化为Stablehlo。目前处于早期阶段,目标是为深度学习加速器及通用CPU和GPU提供必要的模块和基础设施。

Phi-3-Vision-MLX - 为Apple Silicon优化的多模态AI框架
AI框架Apple SiliconGithubPhi-3-MLX开源项目视觉模型语言模型
Phi-3-MLX是一个为Apple Silicon优化的AI框架,整合了Phi-3-Vision多模态模型和Phi-3-Mini-128K语言模型。该框架提供简洁接口,支持文本生成、视觉问答和代码执行等AI任务。项目特性包括批量处理、模型量化和LoRA微调,并可通过API扩展功能。Phi-3-MLX为开发者提供了高效灵活的AI工具,专为Apple Silicon设备设计。
aikit - 简化部署和优化大型语言模型的平台
AIKitDockerGithubKubernetesLocalAIOpenAI API开源项目
AIKit是一个全方位平台,专为快速部署、构建和微调大型语言模型(LLM)而设计。它支持OpenAI API兼容的推理和灵活的微调接口,无需GPU即可使用。AIKit还支持多模式模型、图像生成、多平台CPU和GPU加速推理以及Kubernetes部署,简化了开发流程并确保供应链安全,适用于各种环境。
Yi-1.5-9B - 融合代码、数学与推理能力的开源语言大模型
GithubHuggingfaceYi-1.5人工智能开源项目模型深度学习自然语言处理语言模型
Yi-1.5作为Yi系列模型的迭代版本,基于500B语料预训练和300万样本微调,具备语言理解、常识推理和阅读理解等基础能力,并强化了代码、数学和推理功能。模型提供6B、9B和34B三种参数规模,支持4K至32K上下文长度,预训练数据量为3.6T tokens。在基准测试中,Yi-1.5系列模型与同规模开源模型相比表现出竞争力。
Whisper-Finetune - 语音识别模型的高效微调与加速
GithubWhisper中文识别加速推理开源项目模型微调语音识别
Whisper-Finetune项目致力于优化OpenAI的Whisper语音识别模型。该项目采用Lora技术进行微调,支持多种数据类型的训练,并通过CTranslate2和GGML实现加速推理。此外,项目提供了跨平台应用和服务器部署方案,为语音识别应用开发提供了全面支持。
lightning-flash - 跨数据领域和任务的AI模型训练与处理解决方案
AIGithubPyTorchlightning-flash开源项目模型训练深度学习
Lightning Flash提供多任务和多数据领域的AI解决方案,用户只需三步即可完成数据加载、模型配置和微调。项目支持多种预训练模型和优化策略,简化深度学习工作流程,适用于各种数据域和任务类型。其功能包括模型预测、训练策略、优化器和调度器选择,以及自定义数据变换。Flash旨在让用户无需自行开发复杂的研究框架,即可在生产环境中应用AI模型。
zephyr-sft-bnb-4bit - 通过Unsloth技术快速优化Mistral等模型的内存使用
GithubHuggingfaceMistralUnsloth开源项目微调性能优化模型节省内存
该项目使用Unsloth技术实现了Mistral、Gemma和Llama等模型的快速微调,显著降低内存使用率。用户可以通过简单的操作获得优化后的模型,支持导出为GGUF、vLLM或上传至Hugging Face。此方法特别适用于内存要求高的模型,并免费提供初学者友好的工具。
Bytecap - 智能视频字幕生成与个性化定制平台
AI工具AI视频制作Bytecap内容创作自动字幕视频定制
Bytecap是一个综合性的AI视频处理平台,主要提供智能字幕生成和视频定制服务。该平台支持多语言字幕自动生成,精确度达99%,并提供字体、颜色、表情符号和特效等个性化设置选项。此外,Bytecap还集成了AI无脸视频制作、字幕导出和背景音乐添加等功能。这些特性使其成为视频编辑师、内容创作者、播客制作人和直播主播等用户的得力助手,有助于提高视频观看完成度和分享率,同时增强品牌影响力。
deepseek-coder-33B-instruct-AWQ - 高性能AWQ量化版本的代码生成AI助手
DeepSeek CoderGithubHuggingface人工智能代码生成开源项目模型模型训练自然语言处理
DeepSeek Coder 33B Instruct模型的AWQ量化版本由TheBloke制作,在保持原模型性能的同时显著降低内存占用。该模型基于2T代码和语言数据训练,支持多种编程语言的代码生成、补全和填充。用户可通过text-generation-webui、vLLM和HuggingFace TGI等工具进行模型推理,适合在资源受限环境中部署使用。
FasterTransformer - 基于NVIDIA平台的高性能Transformer编解码器实现与调优
BERTFasterTransformerGPTGithubNVIDIATensorRT-LLM开源项目
FasterTransformer不仅支持多框架集成,还针对NVIDIA新一代GPU优化了编解码性能,极大提升了操作效率和处理速度。包含模型支持、性能对比及API演示的详细文档,有助于用户深入了解并有效使用FasterTransformer。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号