Project Icon

haystack

用于构建端到端LLM应用程序的高级框架,支持广泛的NLP功能

Haystack是一个综合性的LLM框架,能够实现从文档检索到问题回答的多种功能。用户可以灵活选择使用OpenAI、Cohere、Hugging Face等提供的模型,或是自定义部署在各大平台的模型。该框架支持包括语义搜索、答案生成和大规模文档处理等广泛的NLP任务,同时还支持使用现成模型或对其进行微调,基于用户反馈持续优化模型性能。适用于企业级应用开发,帮助用户解决复杂的NLP问题。

PyramidKV - 支持多GPU推理和KV缓存压缩的LLM优化工具
GithubKV缓存压缩Needle in haystackPyramidKV多GPU推理开源项目注意力机制
PyramidKV支持多GPU推理和KV缓存压缩,兼容LlaMa-3-70B-Instruct及多种注意力机制,如Flash Attention v2和Sdpa。该项目还集成了SnapKV、H2O和StreamingLLM,提供设备灵活性,并通过简单安装和直观推理脚本提高研究效率。
HugNLP - 基于Hugging Face的全面NLP开发应用框架
GithubHugNLPNLP应用开发开源项目指令微调预训练语言模型
HugNLP是基于Hugging Face的NLP开发应用库,为研究人员提供便利高效的开发环境。它集成了丰富的模型、处理器和应用模块,支持知识增强预训练、提示微调、指令调优等技术。该框架还包含参数高效学习、不确定性估计等工具,可用于构建多种NLP应用。HugNLP获得CIKM 2023最佳演示论文奖。
spacy-llm - spaCy与大语言模型整合的NLP组件
GithubLarge Language ModelsNLPOpenAIspaCyspacy-llm开源项目
该模块将大型语言模型(LLMs)集成到spaCy中,实现了快速原型设计和提示生成,无需训练数据即可输出可靠的NLP结果。支持OpenAI、Cohere、Anthropic、Google PaLM、Microsoft Azure AI等API,并兼容Hugging Face上的开源LLMs,如Falcon、Dolly、Llama 2等。还支持LangChain,提供命名实体识别、文本分类、情感分析等多种现成任务。用户可通过spaCy的注册表轻松实现自定义功能。该模块结合LLM的强大功能与spaCy的成熟基础,提供灵活高效的NLP解决方案。
multi-qa-MiniLM-L6-dot-v1 - 多语言句子相似度模型,支持语义搜索
GithubHuggingfacemulti-qa-MiniLM-L6-dot-v1句子嵌入句子相似度开源项目模型自监督对比学习语义搜索
multi-qa-MiniLM-L6-dot-v1是一个专为语义搜索设计的句子嵌入模型,将文本转化为384维的密集向量。此模型训练于215M个问题和答案对,可处理多种数据来源。用户可通过sentence-transformers轻松加载模型进行查询和文档编码,从而计算点积相似度分数,实现相关性排序。除了基础功能外,该模型同样支持HuggingFace Transformers的复杂上下文嵌入处理,能有效提升语义搜索效率,适用于不超过512词片的文本。
openhaystack - 开源框架实现基于Apple Find My网络的蓝牙设备追踪
Find My networkGithubOpenHaystack位置报告开源项目苹果生态系统蓝牙追踪
OpenHaystack是一个开源框架,允许创建可通过Apple Find My网络追踪的自定义配件。该项目利用附近iPhone的蓝牙功能和Apple的加密位置报告系统,实现全球范围内的设备追踪。它包含一个macOS应用程序用于显示设备位置,以及使蓝牙设备可被iPhone发现的固件。OpenHaystack提供了一种无需蜂窝网络覆盖即可追踪个人物品的方法。
awesome-llm-agents - LLM代理资源一览,涵盖框架、应用与平台
Awesome LLM agentsGithubHaystackLangchainLlama IndexVisualGPT开源项目
本列表收录了优秀的LLM代理资源,涵盖开源框架、实用应用、平台及重要论文和讲座。关键工具包括Langchain、Llama Index、Haystack等,旨在为开发者提供高效的NLP解决方案。用户还可以提交和建议更多资源,支持社区开发。
llm - LLM实验项目集合 探索大型语言模型应用
API密钥GithubLLM实验OpenAIPinecone开源项目虚拟环境
该开源项目提供了一系列LLM实验。内容包括虚拟环境设置、必要包安装以及API集成指南。通过这些实验,开发者可以深入了解大型语言模型的应用,探索AI文本处理和向量数据库技术。项目注重实践,为AI领域学习者提供了有价值的资源。
semantic-search-app-template - 优化语义搜索应用的构建模板,基于Atlas Embedding数据库和FastAPI
AtlasFastAPIGithubLangchainOpenAI嵌入式数据库开源项目
本教程和模板帮助使用Atlas Embedding数据库和FastAPI构建语义搜索应用。通过快速启动和配置,支持上传各种类型的内容并生成嵌入进行语义搜索。模板简化了从数据收集到后端REST API集成的过程,还支持OpenAI Embedding API和Langchain集成,并提供视觉调试工具来帮助理解搜索结果。
LLMBox - 全面的大型语言模型训练与评估框架
GithubLLMBox大语言模型开源项目模型评估训练管道高效推理
LLMBox是一个综合性大型语言模型(LLM)库,集成了统一的训练流程和全面的模型评估功能。该框架旨在提供LLM训练和应用的完整解决方案,其设计注重实用性,在训练和使用过程中体现出高度的灵活性和效率。LLMBox支持多样化的训练策略和数据集,提供丰富的评估方法,并具备高效的推理和量化能力,为LLM的研究和开发提供了强大支持。
awesome-huge-models - 大型AI模型最新动态与开源资源汇总
AI训练GithubLLMdeep learning模型大模型开源开源项目
详尽介绍大型AI语言模型最新进展及开源资源,包括训练代码、数据集和预训练权重。收录Baichuan、Falcon、OpenLLaMA等模型,并关注开源与分布式训练框架如PyTorch和XLA生态。提供全面资源链接,帮助研究人员和开发者了解当前AI模型的最前沿动态。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号