pythia-12b-deduped

面向解释性研究的大模型工具集

EleutherAI Pythia 文本预测 Python 模型 Github 开源项目大语言模型 Huggingface

Pythia Scaling Suite是EleutherAI开发的用于解释性研究的大语言模型集合。该套件包含八种尺寸的模型，每种尺寸有去重和非去重版本，均在相同的数据集和顺序下训练，提供科学实验的受控环境，支持对大型语言模型的行为与功能研究。用户可以在Hugging Face上获取154个中间检查点，并通过开源代码库进行调整和扩展。

Github

Huggingface

介绍相关项目

torchtitan - PyTorch原生大规模语言模型训练框架

GithubLLM训练Llama模型PyTorchtorchtitan分布式训练开源项目

torchtitan是基于PyTorch的大规模语言模型训练框架，展示了最新分布式训练功能。它采用简洁模块化设计，支持多种并行化技术，包括数据并行、张量并行和管道并行。框架还提供分布式检查点和Float8等先进特性，为Llama 3和Llama 2等模型预训练提供高效方案。torchtitan旨在展示PyTorch在大规模语言模型训练中的潜力。

PromethAI-Backend - 开源AI框架助力个性化目标实现与任务执行

AGIDockerGithubLangchainPromethAIPython开源项目

PromethAI是一个基于Python的开源AGI项目，能够根据用户的目标和偏好提供推荐，并基于用户反馈进行优化。主要功能包括支持自动化任务、低延迟、易于使用和部署等。系统目前专注于食品领域，但可以扩展至其他任何领域。PromethAI通过引入决策树帮助用户进行决策和执行任务，并支持多种向量数据库。需注意使用GPT-4模型可能产生高额成本，建议用户自行监控API使用情况。

Phi-3-mini-4k-instruct-bnb-4bit - 通过Unsloth工具提升深度学习模型微调速度与内存效率

GithubGoogle ColabHuggingfaceUnslothtransformers开源项目机器学习模型模型微调

项目通过提供免费、易于使用的Google Colab笔记本，便于在微调Phi-3.5、Llama 3.1、Mistral等深度学习模型时实现更高效的速度与内存管理，内存使用减少达74%。用户只需添加数据集并执行所有代码，便可获得加速至最高3.9倍的微调模型，支持导出多种格式或上传至Hugging Face平台。Colab快捷方式有效简化模型微调过程，适用于文本生成和对话模板。

quantized-models - 提供多源量化模型以提升大语言模型推理效率

GithubHuggingfacequantized-modelstransformers大型语言模型开源项目文本生成推理模型量化模型

quantized-models项目整合了多种来源的量化模型，旨在提高大语言模型的推理效率。模型支持者包括TheBloke、LoneStriker、Meta Llama等，提供gguf、exl2格式的支持。用户可通过transformers库便捷地进行文本生成，这些模型按现状发布，需遵循其各自的许可协议。

leptonai - 优化Python框架，轻松构建AI服务

AI服务GithubHuggingFaceLepton AIPython库开源项目模型部署

LeptonAI框架提供了一种Pythonic抽象方式，将研究和建模代码快速转化为AI服务。支持启动包括Llama、SDXL、Whisper等常见模型，具备自动批处理和后台作业等AI优化功能。用户可以通过Python客户端轻松调度服务，也能快速在云环境中部署。开发者可参考丰富的文档和示例库，灵活定制Photon类和Handler函数。

phi3-Chinese - 小体积高性能的phi3模型集合

GithubHugging FaceModelScopephi3phi3-mini开源项目训练变体

phi3-Chinese收录多种phi3训练变体，小体积高性能，适用于手机部署。提供Phi-3-mini-128k-instruct-Chinese中文版和其他英文原版模型的下载链接，并包含训练、推理和部署的详细教程。尽管目前版本存在词表过小和实际效果与预期不符的问题，但仍适用于轻量级垂直任务。

phasellm - 探索和评估大型语言模型的框架

API集成GithubPhaseLLM大语言模型开源开源项目性能评估

PhaseLLM是一个创新的框架，旨在帮助用户管理和测试由大型语言模型（LLM）驱动的体验，如ChatGPT及其变种。该框架提供标准化API，兼容OpenAI、Cohere、Anthropic等多家服务提供商，构建评估体系，并新增自动化功能，使开发者和数据科学家能更容易地启动新的产品。适合各类品牌和产品经理，简化和加速大型语言模型的集成与评估过程。

Phi-3.5-mini-instruct-GGUF - 多语言轻量级模型，优化高效推理和准确性

GithubHuggingfacePhi 3.5 Mini开源项目数据优化模型模型训练自然语言处理量子化

Phi-3.5-mini是microsoft推出的多语言开放型模型，专注于高质量推理数据，支持128K上下文标记长度。经过监督微调、近端策略优化和直接偏好优化，该模型确保严格的指令遵循和安全性。采用多种量化方法（从Q2到Q8及f16），满足多样硬件需求，适用于广泛的自然语言处理和代码任务，由SanctumAI进行量化。

Hugging Face - 源代码开源平台

AI工具AI开发Hugging Face企业解决方案合作平台开源机器学习模型训练热门

Hugging Face是开放源码机器学习平台，支持模型、数据集与应用的无限制托管，包含丰富的模态支持，已服务于超过5万家机构。

Phi-3-medium-4k-instruct - 轻量级多任务语言模型

GithubHuggingfacePhi-3大语言模型开源项目指令微调推理能力模型自然语言处理

Phi-3-medium-4k-instruct是一个14B参数的轻量级开源语言模型,在常识、语言理解、数学和编码等多项基准测试中表现优异。该模型采用高质量合成数据和公开数据训练,经过指令微调和安全优化,支持4K上下文长度。它适用于内存/计算受限环境和低延迟场景,可广泛应用于商业和研究领域。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号