Project Icon

aphrodite-engine

开源高性能语言模型推理引擎

Aphrodite是一个开源的语言模型推理引擎,采用vLLM的分页注意力机制实现高效推理。它支持连续批处理、多种量化方法和分布式推理,可为大规模用户提供快速服务。该引擎还具备多种采样方法和8位KV缓存,能够处理更长的上下文并提高吞吐量。Aphrodite目前作为PygmalionAI的官方后端引擎使用。

Phi-3.5-mini-instruct-GGUF - 多语言轻量级模型,优化高效推理和准确性
GithubHuggingfacePhi 3.5 Mini开源项目数据优化模型模型训练自然语言处理量子化
Phi-3.5-mini是microsoft推出的多语言开放型模型,专注于高质量推理数据,支持128K上下文标记长度。经过监督微调、近端策略优化和直接偏好优化,该模型确保严格的指令遵循和安全性。采用多种量化方法(从Q2到Q8及f16),满足多样硬件需求,适用于广泛的自然语言处理和代码任务,由SanctumAI进行量化。
AITemplate - 开源高性能深度学习推理框架
AITemplateGPU加速Github开源项目推理服务模型转换深度神经网络
AITemplate是一个开源Python框架,能将深度学习模型转换为CUDA或HIP C++代码,实现高效推理。它支持NVIDIA和AMD GPU,提供接近理论峰值的fp16性能。该框架特点包括独立运行无需第三方库、独特的算子融合技术、与PyTorch兼容以及易于扩展。AITemplate支持ResNet、BERT和Stable Diffusion等多种主流模型。
Reasoning-0.5b-GGUF - 量化推理模型优化文本生成效果
GithubHuggingfaceReasoning-0.5bllama.cpp嵌入/输出权重开源项目文本生成模型量化
页面介绍了Reasoning-0.5b模型的多种量化版本,优化了ARM及其他平台的推理速度与性能。在LM Studio运行模型有助于在低RAM环境下展现性能优势。内容包括量化文件的特性、推荐下载链接、使用建议,以及在不同计算平台上的应用效果。用户通过huggingface-cli可依据硬件资源选择合适模型,提升性能效率。
InferLLM - 轻量化语言模型推理框架,兼容多种模型格式和设备
GithubInferLLMllama.cpp多模型兼容开源项目模型推理高效率
InferLLM 是一个高效简洁的语言模型推理框架,源于 llama.cpp 项目。主要特点包括结构简单、高性能、易于上手,并支持多模型格式。目前兼容 CPU 和 GPU,可优化 Arm、x86、CUDA 和 riscv-vector,并支持移动设备部署。InferLLM 引入了专有 KVstorage 类型以简化缓存和管理,适合多种应用场景。最新支持的模型包括 LLama-2-7B、ChatGLM、Alpaca 等。
edenai-apis - 提供多AI引擎的统一API解决方案
AI技术AI服务APIEden AIGithub关键字提取开源项目
Eden AI通过一个统一的API连接多个顶尖AI引擎,简化了AI技术的应用和部署。该项目汇集了来自Google、Microsoft等大公司及小型专业公司的训练模型,用户无需为每个供应商创建账户或自行托管项目。支持语音识别、图像视频审核等异步操作,提供详尽的文档和社区支持,适合希望集成AI功能的开发者。
LLMLingua - 提示词压缩技术助力大语言模型效率提升
GithubLLMLingua大语言模型开源项目推理加速提示词压缩长文本处理
LLMLingua系列是一套创新的提示词压缩工具,可将提示词压缩至原长度的5%,同时保持大语言模型性能。通过小型语言模型识别并移除非必要标记,该技术有效解决长文本处理和上下文遗忘等问题,大幅降低API使用成本并提高推理效率。LLMLingua系列包含三个版本,适用于检索增强生成、在线会议和代码处理等多种场景。
ariadne - Python实现的简洁高效GraphQL服务器
APIGithubGraphQLPythonSchema-first开源开源项目
Ariadne是一个Python实现的GraphQL服务器库,采用schema-first方法设计。该库提供简洁的API,支持查询、变更、订阅等核心功能,同时具备模块化架构和GraphQL.js兼容性。Ariadne支持自定义标量、枚举和指令,并提供文件上传、Apollo联邦等进阶特性。内置的开发服务器和GraphQL Playground使其成为快速构建和测试GraphQL API的理想选择。
Yi-6B-200K - 提供中英文双语支持的开源大语言模型
GithubHuggingfaceYi双语开源开源项目技术报告模型语言模型
致力于构建开源大语言模型,具备出色的语言理解、常识推理和阅读理解能力。Yi系列通过多语言语料库训练,在许多基准测试中表现优异。采用Llama架构,由Yi团队独立开发数据集与基础设施,适合个人、学术和商业使用。
gptengineer.app - AI驱动快速网站原型开发,自然语言编辑一键部署
AI开发Githubgptengineer.app开源项目快速原型网站创建自然语言编辑
gptengineer.app是一个AI驱动的网站原型开发平台,通过自然语言指令实现快速创建和编辑。平台提供一键部署功能,便于将创意转化为实际网站。作为gpt-engineer开源项目的衍生,该平台继续支持开源社区。未来计划涵盖自动测试、调试和全栈功能扩展,致力于优化快速原型开发体验。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号