Project Icon

OpenLIT

开源GenAI和LLM应用性能分析与监控工具

OpenLIT是一款基于OpenTelemetry的开源工具,专为GenAI和LLM应用提供全面的性能分析和监控。该工具整合了跟踪和指标功能,只需简单配置即可收集LLM应用数据。OpenLIT支持多种集成,能够分析LLM、向量数据库和GPU的性能与成本,并提供实时数据可视化。此外,它还可与Datadog和Grafana Cloud等主流监控系统无缝对接,实现自动数据导出,为开发者提供全方位的应用洞察。

LabelLLM - 开源数据标注平台 优化LLM开发流程
GithubLabelLLM人工智能多模态开源开源项目数据标注平台
LabelLLM是一个开源数据标注平台,旨在优化大型语言模型(LLM)开发中的数据标注流程。该平台提供灵活配置、多模态数据支持、全面任务管理和AI辅助标注功能。LabelLLM适合独立开发者和中小型研究团队使用,可显著提高数据标注效率,为LLM训练数据准备提供有力支持。
llm-transparency-tool - 深入分析Transformer语言模型的交互式可视化工具
GithubLLM Transparency Tool可视化分析开源项目神经网络语言模型贡献图
LLM Transparency Tool是一个用于分析Transformer语言模型的交互式工具。该工具支持选择模型和提示、运行推理,并通过贡献图可视化模型内部机制。它能够展示token表示、注意力头和前馈网络块的详细信息,有助于理解模型的决策过程。这个工具兼容多种模型,并提供Docker部署选项,是研究人员和开发者分析语言模型的实用资源。
llm-applications - 构建基于RAG的LLM应用的教程
AnyscaleGithubOpenAIRAG-based LLM开源项目性能优化生产
本教程详细展示如何从零基础开发和部署基于检索增强生成(RAG)的LLM应用程序,并使用Anyscale技术优化其性能。揭示如何综合开发、调整各关键组件、评估性能,并高效地进行服务上线,确保应用的卓越性能和极致的扩展性。
WhyLabs - 全面的AI应用监控与安全优化解决方案
AI工具AI应用LLMOpsMLSecOpsWhyLabs模型监控
WhyLabs平台专注于AI可观察性、大语言模型安全和模型监控。该平台覆盖大语言模型、生成式AI和预测性AI等多种应用场景,提供实时防护机制以阻止有害交互、数据泄露和幻觉问题。通过无缝集成、严格的隐私保护和可定制仪表板,WhyLabs能够帮助企业全方位保障AI应用的安全性、可靠性和性能表现,同时加速AI问题的诊断和解决。
ClearML GenAI App Engine - 企业级LLM应用开发与部署平台
AI工具AI应用开发ClearMLGenAI App Engine企业级LLM数据安全
GenAI App Engine是一个面向企业的大型语言模型应用开发平台。该平台支持企业快速构建和部署基于LLM的AI应用,解决扩展、成本和安全问题。它提供自动化的数据处理、模型训练和部署流程,支持使用内部数据定制LLM,并确保数据和模型安全。通过这个平台,企业可以提高AI产品开发效率,提升生产力,开拓新的AI业务。
self-llm - 开源大模型部署与应用指南
AutoDLGithub开源大模型开源项目微调方法环境配置部署使用
探索开源大模型如LLaMA、ChatGLM的全流程部署与微调指南,涵盖环境配置至应用实践,专为国内初学者设计,通过AutoDL平台简化操作流程,助力大模型技术的普及和应用。
AnyGen AI - 综合企业生成式AI平台
AI工具AnyGenLLM云计算企业级AI数据科学
AnyGen AI是一个综合企业生成式AI平台,支持多种大型语言模型、多语言和多云环境。它提供统一接口,可自动生成基于LLM的AI应用,具有安全性、隐私保护和可靠性特点。平台包含LLM Studio、UI生成器、API生成器等功能模块,使数据科学家能灵活选用LLM,快速开发和部署定制AI解决方案,增强企业在生成式AI领域的竞争力。
Chainlit - 快速构建和部署可靠对话式AI应用的一站式平台
AI工具ChainlitConversational AI多模态应用程序框架生成式AI
Chainlit平台专注于对话式AI应用开发,提供从原型设计到生产部署的完整支持。功能涵盖多模态处理、身份验证、提示词优化、可观察性和分析。平台支持多种AI工具集成,拥有活跃社区。注重数据隐私,支持自托管部署,保障对话数据安全。Chainlit致力于帮助开发团队快速构建可靠、高效的对话AI应用。
open-llms - 开放源代码大型语言模型及其商业应用全景解析
Apache 2.0GithubLarge Language Models商业使用许可开源开源项目模型发布
Open-llms 项目展示了众多采用开源许可证的大型语言模型(LLMs),支持商业应用,涵盖如T5、GPT-NeoX、YaLM等模型。每款模型设有详细说明及许可信息,鼓励社区交流与贡献,是机器学习研究和应用的重要资源库。
easyllm - 开源工具库助力简化大语言模型应用开发
API客户端EasyLLMGithubOpenAI兼容大语言模型开源项目
EasyLLM是一个开源项目,为开发者提供简化大语言模型操作的工具和方法。该项目实现了兼容OpenAI API的客户端,支持HuggingFace、Amazon SageMaker和Amazon Bedrock等平台的模型。EasyLLM允许开发者轻松切换不同语言模型,实现聊天、文本补全和嵌入等功能。此外,项目还包含进化指令生成和提示词工具等辅助模块,有效简化了大语言模型的应用开发流程。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号