Logo
Project Icon

MobileLLM

轻量高效的移动设备语言模型

MobileLLM语言模型AI模型深度学习神经网络Github开源项目

MobileLLM是一个针对移动设备优化的大型语言模型项目。该模型通过SwiGLU激活函数、深窄架构、嵌入共享和分组查询注意力等技术，在亿级参数规模下实现了高性能。MobileLLM在零样本常识推理任务中表现出色，不仅在125M和350M参数规模上超越了现有最先进模型，还成功扩展至600M、1B和1.5B参数规模，展示了其在移动设备应用中的潜力。

GithubGithub论文论文
介绍相关项目
TensorRT-LLM - NVIDIA开发的大型语言模型推理优化工具
AI推理GPU加速GithubNVIDIATensorRT-LLM大语言模型开源项目
TensorRT-LLM是一个用于优化大型语言模型推理的开源工具。它提供Python API来定义模型和构建TensorRT引擎，支持多GPU和多节点部署。该工具集成了多种量化技术，如INT4/INT8权重量化和SmoothQuant，以提升性能和降低内存占用。TensorRT-LLM预置了多个常用模型，可根据需求进行修改和扩展。
LLM-Zoo - 最新自然语言处理模型信息汇总，开源与闭源模型实时更新
ChatGPTGithubLLM开源开源项目模型自然语言处理
展示多种开源与闭源LLM模型的详细信息，包括发布时间、模型大小、支持语言、适用领域及训练数据。提供GitHub、HuggingFace、演示及研究论文链接，信息定期更新以反映最新进展。欢迎贡献者参与添加新模型或更新现有模型信息。
Awesome-Chinese-LLM - 中文大语言模型开源项目与应用全览
Github中文LLM可商用多轮对话大语言模型开源项目
探索Awesome Chinese LLM——这是一个集中展示中文大语言模型的开源项目、应用和教程的平台。包括100+项经优化微调的资源，助力自然语言处理的学术与应用开发。
JsonLLM - 为大型语言模型提供JSON格式交互的开发工具
AI工具JSONJsonLLM加载数据程序
JsonLLM是一款专为大型语言模型(LLM)设计的交互工具。该工具采用JSON格式构建和处理LLM请求，为开发者提供高效的操作和调用方式。通过结构化和标准化的通信方法，JsonLLM有望提升AI开发效率和代码可读性。尽管当前网站内容较少，这款工具仍展现出成为LLM交互领域重要解决方案的潜力。
TinyLlama_v1.1 - 精简版Llama模型 专注多领域应用
GithubHuggingfaceTinyLlama开源项目模型神经网络自然语言处理语言模型预训练
TinyLlama_v1.1是一个基于Llama 2架构的紧凑型语言模型，仅有1.1B参数。通过2万亿token的预训练，该项目开发了三个特定领域的变体：通用型、数学与代码增强型和中文优化型。这些模型旨在为计算资源受限的应用场景提供高效的语言处理解决方案。
rknn-llm - 瑞芯微芯片大语言模型部署软件栈
AI模型部署GithubRKLLMRockchip芯片大语言模型开源项目模型转换
rknn-llm是瑞芯微芯片专用的大语言模型部署软件栈，包含模型转换工具RKLLM-Toolkit、运行时库RKLLM Runtime和RKNPU内核驱动。支持RK3588和RK3576系列平台，兼容TinyLLAMA、Qwen、Phi、ChatGLM3等多种主流大语言模型。该项目注重性能优化和量化精度提升，持续增加新功能，为开发者提供高效的AI模型部署方案。
Llama-3.2-1B - 多语言大型语言模型引领自然语言处理新纪元
GithubHuggingfaceLlama 3.2Meta多语言开源项目模型生成模型社区许可
Llama 3.2是由Meta开发的多语言大型语言模型，通过优化的Transformer架构和多语言对话定制，尤其适用于问答、总结等任务。支持8种语言，可进行超越官方语言的定制训练，以适应多种自然语言生成任务。此项目展示了语言模型在商业和研究应用中日益增长的重要性，提供高效的多语言文本生成能力，助力移动AI写作助手等智能应用的发展。用户需遵循Llama 3.2社区许可规定，确保使用场景的安全性和合规性。
spacy-llm - spaCy与大语言模型整合的NLP组件
GithubLarge Language ModelsNLPOpenAIspaCyspacy-llm开源项目
该模块将大型语言模型（LLMs）集成到spaCy中，实现了快速原型设计和提示生成，无需训练数据即可输出可靠的NLP结果。支持OpenAI、Cohere、Anthropic、Google PaLM、Microsoft Azure AI等API，并兼容Hugging Face上的开源LLMs，如Falcon、Dolly、Llama 2等。还支持LangChain，提供命名实体识别、文本分类、情感分析等多种现成任务。用户可通过spaCy的注册表轻松实现自定义功能。该模块结合LLM的强大功能与spaCy的成熟基础，提供灵活高效的NLP解决方案。
awesome-LLM-resourses - 中文大语言模型全面资源汇总 数据处理到评估应有尽有
GithubLLMRAG大语言模型开源项目微调推理评估
该项目汇总了中文大语言模型(LLM)领域的全面资源，包含数据处理、微调、推理和评估等多个环节的开源工具。资源库涵盖最新LLM技术，并收录RAG系统和AI代理等前沿应用。项目为LLM研究者和开发者提供了丰富的工具和信息，有助于推进相关项目的开发与应用。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号