Project Icon

Lamini

支持AMD GPU加速的企业级LLM平台,安全高效部署和运行

Lamini,作为唯一支持在AMD GPU上运行的企业LLM平台,为软件团队提供快速开发及全面控制功能。它不仅支持本地及云部署,还可通过数十亿专有文档的专用LLMs来提升性能,减少错误解读,并保障数据安全。此平台已广泛应用于财富500强和顶尖AI创企。

Lamd.ai - 智能学习平台提供AI视频解析和互动式知识交流
AI工具AI驱动学习API服务Chrome扩展智能摘要视频交互
Lamd.ai是一个创新的人工智能学习平台,主要提供视频内容智能分析和交互式对话功能。平台包含Talkbud浏览器插件、Web Talkbud和ChatNur等工具,帮助用户高效理解YouTube视频内容并进行智能交流。此外,Lamd.ai还为企业提供白标API服务,赋予其先进的AI能力。该平台旨在简化知识获取过程,为个人和企业用户提供多样化的AI解决方案,以提高学习效率和体验。
llama-160m-accelerator - 基于多阶段MLP的LLaMA-160M模型推理加速器
DockerGithubHuggingfacevLLM开源项目文本生成模型模型加速深度学习
这是一个为JackFram/llama-160m模型设计的加速器项目,借鉴了Medusa推测解码架构的思想。该加速器通过改造MLP为多阶段结构,实现了基于状态向量和先前采样令牌的单token预测,有效提升了模型推理速度。项目支持与vLLM和Hugging Face TGI等工具集成,为大型语言模型的高效部署提供了实用解决方案。加速器的训练过程轻量化,能够在短时间内完成,适用于各种规模的生成式模型。
glake - 优化GPU内存与IO传输
AI训练GLakeGPU内存GithubIO传输优化开源项目
GLake优化了GPU内存管理和IO传输,解决了AI大模型训练和推理中的内存和传输瓶颈。通过GPU虚拟和物理内存管理及多GPU、多路径和多任务优化,提高了硬件资源利用率,最高可将训练吞吐量提高4倍,推理内存降低3倍,IO传输加速3至12倍。GLake易于集成,无需代码修改,且提供内存优化、多路径IO传输提升、和数据去重等功能,为AI训练与推理提供高效、安全的解决方案。
LLMCompiler - 提升大语言模型性能的并行函数调用框架
GithubLLMCompiler优化编排并行函数调用开源项目效率提升模型兼容
LLMCompiler框架通过并行函数调用提升大语言模型的执行效率。它自动识别可并行任务,减少延迟和成本,同时提升准确性。用户只需提供工具和上下文示例,LLMCompiler就能优化函数调用编排。支持开源和闭源模型,包括LLaMA和OpenAI的GPT模型。LLMCompiler在不同任务中展示了显著的延迟加速、成本节省和准确性提升,是处理复杂问题的理想工具。
llama-2-7b-chat-bnb-4bit - 开源LLM模型训练加速工具实现2至5倍速提升并节省70%内存
GithubHuggingfaceLlama-2Unsloth人工智能大语言模型开源项目模型模型微调
该开源项目致力于优化大语言模型的训练过程,通过创新技术为Mistral、Gemma、Llama 2等主流模型提供训练加速解决方案。基于Colab平台的多个训练笔记本支持对话及文本补全功能,可实现2-5倍的训练速度提升,并将内存占用降低70%。项目支持GGUF格式导出及vLLM、Hugging Face平台部署,为计算资源受限的AI开发团队提供了高效的模型训练方案。
web-llm - 浏览器语言模型推理引擎,完全支持OpenAI API
GithubOpenAI API兼容性WebGPUWebLLM大语言模型开源项目浏览器内推理
WebLLM是一款借助WebGPU技术,实现硬件加速的浏览器内语言模型推理引擎,无需服务器即可直接在浏览器内运行。完全兼容OpenAI API,并具备流式输出和JSON模式生成功能,支持广泛的模型集成。通过NPM或CDN可以快速集成到各类AI交互应用中,同时确保用户隐私安全,并享受高效的GPU加速体验。
L3AGI - AI助手协作平台,提升团队效率
AI助手AI集成GithubL3AGI团队协作开源工具开源项目
L3AGI是一个开源工具,用于设计、管理和执行自主AI助手及其团队,实现AI助手间的高效协作处理复杂任务。该平台支持多种数据源和集成功能,包括VectorDB与LlamaIndex,并提供专用工具包。其用户界面友好且结合强大API确保平稳集成。加入社区,获取最新功能及持续支持,体验现代化AI团队协作解决方案。
ClearML GenAI App Engine - 企业级LLM应用开发与部署平台
AI工具AI应用开发ClearMLGenAI App Engine企业级LLM数据安全
GenAI App Engine是一个面向企业的大型语言模型应用开发平台。该平台支持企业快速构建和部署基于LLM的AI应用,解决扩展、成本和安全问题。它提供自动化的数据处理、模型训练和部署流程,支持使用内部数据定制LLM,并确保数据和模型安全。通过这个平台,企业可以提高AI产品开发效率,提升生产力,开拓新的AI业务。
AMD-Llama-135m - 轻量级语言模型实现高效推理加速
AMD-Llama-135mGithubHuggingface开源项目机器学习模型神经网络语言模型预训练
AMD-Llama-135m是一个基于LLama2架构的135M参数语言模型,在AMD Instinct MI250加速器上训练。该模型与huggingface transformers兼容,并使用LLama2相同的分词器。模型可独立使用,也可作为LLama2和CodeLlama的推理加速辅助模型。经SlimPajama和Project Gutenberg数据集预训练,以及StarCoder Python代码数据集微调后,模型在多项NLP基准测试中表现优异。通过推理加速技术,吞吐量可提升至3.88倍。
mlx_parallm - 为Apple Silicon设备实现高效并行推理
Apple SiliconGithubMLX ParaLLM并行推理开源项目批处理KV缓存语言模型
MLX ParaLLM是一个为Apple Silicon设备开发的开源项目,利用MLX框架实现批处理KV缓存技术,从而提高并行推理效率。项目支持Meta-Llama、Phi-3和Gemma等多种模型,兼容量化和float16格式。通过batch_generate方法,MLX ParaLLM实现自动填充、提示模板格式化和多种采样策略,适用于大规模并行文本生成任务。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号