Project Icon

ToolQA

评估工具增强型大语言模型的开源数据集

ToolQA是一个开源数据集,专门用于评估工具增强型大语言模型。数据集涵盖8个领域,包含需要综合使用多个工具解答的问题,分为简单和困难两个级别。ToolQA通过人机协作创建,提供了数据统计、下载链接、工具实现和基准代码,为研究人员评估和改进大语言模型的外部工具使用能力提供全面资源。

SEED-Bench - 多模态大语言模型评估基准
GithubSEED-Bench人工智能基准测试多模态大语言模型开源项目评估维度
SEED-Bench是一个全面评估多模态大语言模型的基准测试。它包含28K个多项选择题,涵盖34个评估维度,包括文本和图像生成能力。该项目提供SEED-Bench-H、SEED-Bench-2-Plus等多个版本,分别针对不同评估方面。SEED-Bench为研究人员提供了一个客观比较多模态大语言模型性能的工具。
evalscope - 综合性大语言模型评估开源工具
EvalScopeGithub可视化大语言模型开源项目模型集成评估框架
EvalScope是一个全面的大语言模型评估框架,集成了多种基准数据集和评估指标。该框架提供模型集成、自动评估和报告生成功能,并支持Arena模式和可视化分析。通过整合OpenCompass和VLMEvalKit评估后端,EvalScope实现了多模态评估能力。此外,它能与ModelScope SWIFT平台无缝对接,支持大模型的端到端开发流程。
llmeval-1 - 系统评估中文大语言模型的创新研究项目
GithubLLMEVAL-1大模型大语言模型评测开源项目排行榜评测方法
LLMEVAL-1项目致力于系统研究大语言模型评价方法。该项目涵盖17个大类、453个问题,内容包括事实性问答、阅读理解和框架生成等多个领域。评测采用分项和对比两种方式,从正确性、流畅性、信息量、逻辑性和无害性五个维度进行。LLMEVAL-1通过结合众包和专业评测,为中文大语言模型提供了全面、客观的评估基准。
prompttools - 全面LLM实验评估工具集
GithubLLMPromptTools人工智能向量数据库开源项目提示词实验
PromptTools是一套开源的LLM实验工具集,支持向量数据库和提示词的测试与评估。该工具兼容OpenAI、Anthropic等多个主流API,提供代码、笔记本和本地playground界面。开发者可以便捷地比较不同模型和参数性能,并评估向量数据库检索准确性,有效提升AI开发效率。
BotChat - 创新评估大语言模型多轮对话能力的基准
BotChat BenchmarkGPT-4GithubLLM对话生成开源项目评估
BotChat基准测试通过分析大语言模型生成的对话评估多轮聊天能力。基于MuTual-Test数据集,该项目生成了大规模模型对话数据,并采用单轮评估、BotChat Arena和人类对话对比等方法全面评估主流LLM对话质量。研究发现GPT-4表现最佳,部分小型开源模型在短对话中也有不错表现。这一创新基准为改进LLM对话能力提供了新思路。
Toolsummary - 全面AI工具资源导航与评测中心
AI工具内容创作图像生成社交媒体视频编辑
Toolsummary汇集并评测各类AI工具,涵盖文案写作、视频编辑、生成艺术、图像处理、语音合成等领域。网站提供工具介绍、使用方法和主要功能等详细信息,助力用户快速找到并选择适合需求的AI工具。作为专业的AI工具资源导航平台,Toolsummary旨在促进AI技术的广泛应用和创新发展。
LLMTest_NeedleInAHaystack - LLM长上下文检索能力测试工具
AnthropicCohereGithubLLMsNeedle In A HaystackOpenAI开源项目
LLMTest_NeedleInAHaystack是一个用于评估长上下文语言模型检索能力的开源工具。通过在长文本中插入特定信息并要求模型检索,它可以测试OpenAI、Anthropic和Cohere等主流LLM的性能。该项目提供灵活的参数配置和结果可视化,有助于研究人员和开发者分析不同模型的上下文理解能力。
textbook_quality - 生成高质量预训练数据的专业工具
GithubOpenAIPythonSerpAPISerplytextbook quality开源项目
该项目专注于生成高质量的预训练数据,支持并行生成和自定义API集成,能够生成新主题或扩展已有种子。通过检索提升文本质量,默认使用Serply,还可选择SerpAPI或不使用检索功能。支持OpenAI及其兼容API,并可添加更多适配器进行扩展。项目提供详细的配置和使用指南,适用于需要生成高质量教材的用户。
yet-another-applied-llm-benchmark - 基于真实场景的大语言模型能力评估基准
API密钥Docker容器GithubLLM基准测试开源项目数据流DSL模型评估
yet-another-applied-llm-benchmark是一个评估大语言模型在实际应用场景中表现的基准测试项目。该项目包含近100个源自真实使用情况的测试案例,涵盖代码转换、反编译、SQL生成等多种任务。通过简单的数据流DSL设计测试,项目提供了一个灵活的框架来评估大语言模型的实际能力。这个基准虽不是严格的学术标准,但为开发者提供了衡量大语言模型在日常编程任务中表现的实用方法。
BMTools - 开源工具集成平台 赋能语言模型新能力
BMToolsGithub大语言模型工具学习开源项目插件开发
BMTools是一个开源项目,通过工具扩展语言模型能力,为社区提供工具构建和共享平台。该项目支持创建插件和使用ChatGPT插件,优化开源工具使用。BMTools提供单一和多工具接口,集成本地和在线工具,鼓励社区贡献。项目为研究人员提供工具学习和开发环境,推动语言模型与工具的融合研究。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号