Project Icon

dolly

基于Pythia-12b开发的指令遵循大型语言模型

Dolly是由Databricks基于Pythia-12b开发的指令遵循大型语言模型,通过约1.5万条指令/响应微调数据集训练。尽管不是最先进的生成模型,但具备高质量的指令遵循能力。Dolly旨在让各类组织和个人都能利用人工智能的变革力量,并提供详细的使用和训练指南,适用于多种GPU配置。

OLMo-7B - 专注于语言模型科学的开放模型
GithubHuggingfaceOLMo开源项目模型模型性能训练数据集语言模型
OLMo系列模型由Allen Institute for AI开发,旨在推进语言模型科学。该系列模型使用Dolma数据集进行训练,提供诸如OLMo 7B等多种版本及详细的训练检查点和代码支持。这些模型可用于英文学术研究,并可在Hugging Face平台上获取。项目获得哈佛大学、Databricks、AMD等机构支持,并在MMLU测试中显示出明显的性能提升。
OLMo - 开源语言模型加速科学研究
GithubOLMo人工智能开源语言模型开源项目机器学习自然语言处理
OLMo是一个开源语言模型项目,提供多种规模的先进模型,如1B、7B和7B Twin 2T,全部基于Dolma数据集训练。该项目支持模型训练、微调和推理,提供详细配置和检查点以确保研究可重现。OLMo还包含数据检查和评估工具,为语言模型研究提供全面支持,旨在加速这一领域的科学进展。
DALI - 加速深度学习应用的GPU加速数据加载与预处理库
GPU加速GithubNVIDIA DALI多框架支持开源项目数据预处理深度学习
NVIDIA DALI是一个GPU加速的数据加载和预处理库,专为提高深度学习应用效率而设计。它提供了一套优化的工具,改善图像、视频和音频的处理,同时解决CPU瓶颈,支持跨多平台框架使用。此外,DALI利用GPUDirect Storage技术,从而实现从存储到GPU内存的直接数据传输,显著提升处理速度。
dolphin-2.7-mixtral-8x7b - 灵活的AI模型助力编码任务,增强开发效能与合规
DolphinGithubHuggingfaceMixtral图灵测试开源项目模型编程训练模型
Dolphin 2.7是Dolphin-2.5/2.6的升级版,通过transformers库的Mixtral修正和门层调整,提升了性能。该模型在编码任务中表现优异,同时进行去偏见处理以提高合规性。需注意模型对用户请求的高度顺从性,建议用户自行设置合规层确保安全。项目由Convai资助,适用于多种高效和合规的AI应用。
dolphin-2.6-mixtral-8x7b - 非DPO调整的高效编程AI
DolphinGithubHuggingface不受限开源项目数据集模型编码训练
该模型擅长编程,经过大量编码数据的训练。2.6版本通过修正训练配置显著提升了质量,并重新引入了基于Samantha的同理心数据,替换了Synthia和Pure-dove数据为Capybara。由于模型未经过审查,并过滤了对齐与偏见,建议在部署服务前加入对齐层。训练采用qLoRA与Axolotl框架,并使用ChatML提示格式。
DALLE-pytorch - 文本到图像转换的先进实现
DALL-EGithubPytorch图像生成开源项目文本到图像转换自动编码器
基于OpenAI的DALL-E以及CLIP技术,DALLE-pytorch是一种开源的AI解决方案,可将文本高效转化为图像。该工具在Pytorch框架下开发,支持包括OpenAI预训练的VAE在内的多种训练模式。DALLE-pytorch不仅采用了深度可逆网络和稀疏注意力技术,而且提供了高灵活性和可扩展性,适合多种数据集。
Ollama - 接入与定制大型语言模型
AI工具AI开发Gemma 2Llama 3.1MistralPhi 3大型语言模型模型训练热门
Ollama 提供丰富的大型语言模型选择,包括 Llama 3.1、Phi 3、Mistral、Gemma 2 等,适用于 macOS、Linux 和 Windows 进行高效的语言处理任务。平台支持用户按需自定义模型,并提供便捷的下载服务。
Delphic - 使用LlamaIndex构建和部署大型语言模型(LLM)代理的简单框架
DelphicDjangoDockerGithubLangchainOpenAI开源项目
Delphic是一个使用LlamaIndex构建和部署大型语言模型(LLM)代理的简单框架,可用于分析和处理文档中的文本数据。虽然框架基于OpenAI的API,但兼容其他LLM,例如Langchain,支持使用Postgres作为向量存储,并通过Docker Compose实现快速本地部署。虽然Delphic项目目前不再维护,但它作为构建流式响应应用的概念验证工具仍具有参考价值。
pythia-6.9b - 促进大规模语言模型可解释性研究的开源工具
GithubHuggingfacePythia大语言模型开源项目机器学习模型模型训练自然语言处理
Pythia-6.9b是EleutherAI开发的开源大规模语言模型,旨在促进可解释性研究。该模型包含69亿参数,在Pile数据集上训练,提供154个中间检查点,便于研究人员探索模型训练过程。Pythia-6.9b采用Transformer架构,性能与同类模型相当,主要用于学术研究而非直接部署。模型可能存在偏见风险,研究人员可通过Hugging Face Transformers库轻松使用。Pythia-6.9b为语言模型研究提供了理想的实验平台。
datablations - 对在数据限制下扩展语言模型的方法的研究
C4Githublanguage models开源项目数据稀缺数据重复训练数据
本项目研究在数据受限情况下扩展语言模型的方法。通过对9000亿训练令牌和90亿参数模型进行实验,提出并验证了重复令牌和多余参数的计算优化法则。实验涵盖数据增强、困惑度过滤及去重处理。相关模型和数据集公开在仓库,有助于在资源有限情况下高效训练和优化语言模型。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号