speculative-decoding

推测解码技术，优化大型语言模型推理速度

Speculative Decoding 大语言模型性能优化推理加速自然语言处理 Github 开源项目

该开源项目聚焦于推测解码技术的研究与实现，旨在提升大型语言模型的文本生成效率。项目涵盖了多种推测解码策略，包括提前退出、推测采样和先知变压器。同时，项目致力于优化批处理推测解码，以增强整体性能。研究计划还包括对比不同策略的效果，并探索微观优化方法。这些工作为加快AI模型推理速度提供了新的技术思路。

self-speculative-decoding - 无损加速大型语言模型的创新推理方案

GithubLLM加速Self-Speculative Decoding层跳过开源项目推理优化草稿验证

Self-Speculative Decoding是ACL 2024的一个开源项目，提出了一种无损加速大型语言模型（LLMs）的新方法。该技术通过草稿生成和验证两个阶段，在不增加额外训练和内存的情况下提高LLM推理速度。这一创新方案保证了输出质量和模型兼容性，为LLM加速提供了高效且易于实施的解决方案。

LookaheadDecoding - 创新并行算法加速大型语言模型推理

GithubJacobi迭代LLMLookahead Decoding并行解码开源项目推理加速

LookaheadDecoding项目开发了一种创新的并行解码算法，旨在加速大型语言模型(LLM)的推理过程。该方法不依赖草稿模型或数据存储，而是结合Jacobi迭代和n-gram缓存技术，有效减少解码步骤。实验结果显示，在多个数据集上可将延迟降低1.5到2.3倍。项目提供便捷的安装和使用方式，并支持FlashAttention技术，可广泛应用于各类LLM场景。

prompt-lookup-decoding - 提升输入相关任务解码效率的创新技术

GithubLLMPrompt Lookup Decoding开源项目性能优化推测解码自回归解码

Prompt-lookup-decoding是一种创新解码技术，利用输入提示中的字符串匹配生成候选令牌序列，替代了传统投机解码中的草稿模型。该方法在输入相关任务中显著提升处理速度，同时保持输出质量。无需模型修改或额外数据存储，适用于各类解码器模型及解码策略。特别适合摘要、文档问答和多轮对话等存在高度n-gram重叠的任务，能有效提高处理效率。

REST - 创新检索式推测解码加速大语言模型生成

GithubREST开源项目推测解码推理加速检索式生成语言模型

REST是一种创新检索式推测解码方法，利用数据存储检索草稿令牌以加速大语言模型生成。无需额外训练，可即插即用于现有语言模型。在HumanEval和MT-Bench测试中，REST展现显著速度提升，为提高大语言模型效率开辟新途径。

EAGLE - 大型语言模型快速解码的新突破

EAGLEGithub大语言模型开源项目快速解码性能维持推理速度

EAGLE项目为大型语言模型提供了一种高效的快速解码方法。通过创新的特征外推技术，EAGLE显著提升了生成效率。其改进版EAGLE-2引入了动态草稿树结构，进一步优化了性能。与传统解码方法相比，EAGLE和EAGLE-2在13B模型上分别实现了3倍和4倍的速度提升。该开源项目不仅提供了多种预训练模型权重，还支持各类LLM架构，并配备了详尽的使用文档和评估工具。

X-Decoder - 像素、图像和语言的统一解码模型

GithubX-Decoder图像分割多任务学习开放词汇分割开源项目计算机视觉

X-Decoder是一个通用解码模型,可生成像素级分割和标记级文本。该模型在多个数据集上实现了开放词汇分割和指代分割的最佳结果,在分割和视觉语言任务上表现出色。X-Decoder支持语义、实例和全景分割,以及图像描述、图像-文本检索等多种任务。此外,它还能进行区域检索、指代描述、图像编辑等零样本任务组合。

Consistency_LLM - 并行解码技术突破，大语言模型推理速度提升3倍

CLLMGithubJacobi解码大语言模型并行解码开源项目生成速度

Consistency Large Language Models (CLLMs) 是一种创新的大语言模型技术，通过Jacobi并行解码方法显著提升推理速度。实验表明，CLLMs在多种任务中可实现2.4到3.4倍的性能提升。该技术无需额外模型或架构改动，易于集成，为大语言模型应用带来更高效、灵活的解决方案。

TriForce - 层级推测解码实现长序列生成的高效无损加速

GithubTriForce开源项目推理加速无损加速深度学习长序列生成

TriForce是一种新型长序列生成加速技术，无需额外训练即可使用。通过层级推测解码方法，该技术在保持生成质量的同时大幅提高速度。TriForce支持多种长上下文Llama模型，提供片上和卸载运行模式以适应不同硬件。在A100和RTX 4090等GPU上，TriForce展现出优异性能，为大型语言模型的高效部署开辟新途径。

consistencydecoder - 稳定扩散VAE的高性能一致性解码器

Consistency DecoderGithubStableDiffusionPipeline人工智能图像生成开源项目深度学习

ConsistencyDecoder是一个开源项目，旨在优化稳定扩散变分自编码器(VAE)的解码过程。该解码器生成的图像质量优于传统GAN解码器，在细节保留和整体画质上表现突出。项目具有简便的安装和使用流程，支持CUDA加速，并可与StableDiffusionPipeline无缝集成。项目提供的对比示例直观展示了ConsistencyDecoder的性能优势。

PowerInfer - 消费级GPU上大型语言模型高效推理引擎

GPU加速GithubPowerInfer大语言模型局部性设计开源项目混合CPU/GPU使用

PowerInfer是一款在个人电脑上针对消费级GPU设计的高效大型语言模型(LLM)推理引擎。它结合激活局部性原理和CPU/GPU混合技术，通过优化热/冷激活神经元的处理方式，显著提高推理速度并降低资源消耗。软件还融入了适应性预测器和神经元感知技术，优化了推理效率和精度，支持快速、低延迟的本地模型部署。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com