MultiPLY

3D环境中的多感官物体中心大语言模型

MultiPLY是一个多感官交互式大语言模型，在3D环境中能主动与物体交互并收集视觉、听觉、触觉和热感信息。它将多感官交互数据整合到语言模型中，建立词语、行为和感知间的关联。该模型采用物体中心表示，通过执行动作揭示物体的多感官细节，为自然语言处理和人工智能研究提供新思路。

访问官网

Github

论文

介绍相关项目

paligemma-3b-pt-224 - 基于SigLIP和Gemma的多功能视觉语言模型

GithubHuggingfacePaliGemma图像处理多语言开源项目模型自然语言处理视觉语言模型

PaliGemma是一款结合SigLIP视觉模型和Gemma语言模型的视觉语言模型。该模型可处理图像和文本输入并生成文本输出,支持多语言。PaliGemma在图像字幕、视觉问答、文本阅读、物体检测等多种视觉语言任务中表现优异。模型采用Transformer架构,拥有30亿参数,经过大规模多语言数据预训练,可通过微调应用于特定任务。

mlp - 多层感知器实现n-gram语言模型的开源项目

GithubPyTorch多层感知器开源项目神经网络自动微分自然语言模型

该项目基于Bengio等人2003年的论文，实现了多层感知器(MLP)作为n-gram语言模型。项目提供C、NumPy和PyTorch三种实现，展示了从底层操作到高级抽象的不同层次。通过对比，突出了PyTorch在Tensor处理、自动微分和深度学习层构建方面的优势。相比传统n-gram模型，此方法以较少参数实现更低验证损失，但训练成本较高。

LLaVA-pp - 结合先进模型的视觉能力扩展与演示

GithubHugging FaceLLaMA-3LLaVA++MBZUAIPhi-3开源项目

LLaVA-pp项目整合了Phi-3 Mini Instruct和LLaMA-3 Instruct模型，提升了视觉模型的能力。用户可通过Hugging Face Spaces和在线演示了解LLaMA-3-V和Phi-3-V的更新和结果。项目包含多种预训练及微调模型，支持学术任务和指令跟随应用。

InternVL2-Llama3-76B - 融合视觉与语言的多模态AI模型

GithubHuggingfaceInternVL2Llama3NLP多模态大语言模型开源项目模型视觉语言模型

InternVL2-Llama3-76B是一款融合视觉和语言能力的多模态AI模型。它由InternViT-6B视觉模型和Hermes-2-Theta-Llama-3语言模型组成，在文档理解、图表分析和场景文字识别等任务中表现优异。该模型支持8k上下文窗口，可处理长文本、多图像和视频输入，为用户提供全面的多模态分析能力。

cogvlm-chat-hf - 开源视觉语言模型CogVLM在多项跨模态基准测试中超越PaLI-X 55B

CogVLMGithubHuggingface图像识别多模态开源开源项目模型视觉语言模型

CogVLM是一款开源视觉语言模型，具有100亿视觉参数和70亿语言参数。在NoCaps、Flicker30k等10个经典跨模态基准测试中，CogVLM实现了最先进的性能，部分超越PaLI-X 55B。其架构包括视觉变换器编码器、MLP适配器、预训练语言模型和视觉专家模块。CogVLM能进行多模态对话，适用于图像描述和视觉问答等任务。该模型对学术研究开放，经登记后可免费用于商业用途。

LangSplat - 将3D场景与自然语言融合的高斯点云渲染技术

3D语言高斯分散CVPR2024GithubLangSplat开源项目计算机视觉语言特征

LangSplat是一种创新的3D语言高斯点云渲染技术，融合3D场景重建和自然语言处理。该技术引入场景级语言自动编码器，降低内存需求，实现高效语言特征建模。项目提供完整训练流程，涵盖特征生成、自动编码器训练和模型优化，支持研究者在自定义场景中应用LangSplat。

Multilingual_Text_to_Speech - 多语言文本到语音合成技术

GithubMeta-learningTacotron 2多语言文本转语音开源项目神经网络模型语音合成

Multilingual_Text_to_Speech项目综合采用Tacotron 2模型与元学习技术，支持复杂的多语言语音合成实验，提供完善的编码器共享机制，并包含丰富的语言数据及互动示范，旨在推动学术研究及应用开发。

Awesome-Embodied-Agent-with-LLMs - 大语言模型在智能体研究与应用中的精选资源

Embodied AIGithubInteractive Embodied LearningLarge Language ModelsMulti-Agent LearningSelf-Evolving Agents开源项目

该项目汇集了使用大语言模型(LLMs)进行智能体(Embodied AI)研究的精选资源，涵盖自适应智能体、社交智能体、复杂应用、模拟学习、规划与操作、多智能体协调等专题。项目主页提供丰富的论文资料和最新研究进展，适合相关领域研究者和开发者参考，不断更新。

PaddleMIX - 基于飞桨的多模态大模型开发套件赋能AI创新应用

GithubPaddleMIX图文预训练多模态大模型开源项目文生图跨模态视觉

PaddleMIX是基于飞桨的多模态大模型开发套件，支持图像、文本、视频等多种模态，覆盖视觉语言预训练、文生图、文生视频等任务。该套件提供开箱即用的开发体验，支持千亿规模模型训练，适用于金融、教育、电商、医疗等多个领域。PaddleMIX 2.0版本新增了LLaVA、Qwen-VL等模型，优化了训练效率，并提供了丰富的应用工具和流水线，为开发者提供全面的多模态AI解决方案。

LanguageBind_Image - 基于语言实现多模态预训练绑定

GithubHuggingfaceICLRLanguageBind多模态开源项目数据集模型视频语言预训练

LanguageBind是一种创新的多模态预训练方法,通过语言将视频、音频、深度图像等不同模态绑定。该项目提出了包含1000万条多模态数据的VIDAL-10M数据集,并在多个模态任务上实现了领先性能。LanguageBind无需中间模态即可扩展到检测等任务,开源了全部模态预处理代码和API接口,为多模态AI研究提供了有力工具。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com