Project Icon

baml

支持Python和TypeScript的LLM函数编写与测试的领域特定语言

BAML是用于编写和测试LLM函数的领域特定语言。它允许用户定义的LLM函数模板轻松集成到Python、TypeScript等多种语言中,专注于开发工作而非提示设计。BAML在结构化数据获取方面表现出色,支持Ollama、Openai等多种模型。它的特点包括类型验证、实时提示预览、流式处理等,并支持在Boundary Studio进行观察和重放生产请求,是开发者进行LLM函数调用的理想工具。

llm-course - 大型语言模型的基础知识、科学研究与工程实践
GithubLLM课程Python大型语言模型开源项目机器学习神经网络
LLM-course涵盖数学基础、Python 编程和神经网络等基本知识,然后深入探索使用最新技术构建优秀大型语言模型的科学研究,及开发和部署基于LLM的应用程序的工程实践。课程结合理论与实践,提供互动辅助工具和丰富笔记本,有助于全面理解大型语言模型。还包括量化优化、模型融合和解码策略等高级主题。
ScaleLLM - 优化大语言模型推理,兼容多种开源模型
GithubScaleLLM大模型推理开源项目生产环境集成开发高效性能
ScaleLLM是一个为大语言模型(LLMs)设计的高效推理系统,适用于生产环境。支持Llama3.1、Gemma2、Bloom、GPT-NeoX等多种开源模型,集成了CUDA图、前缀缓存、分块填充和推测解码等高级功能。项目正在积极开发,目标是提高效率并加入更多特性。现已上架PyPI,可通过pip安装。ScaleLLM还提供兼容OpenAI的REST API和本地聊天机器人UI,支持离线批量推理和在线分布式推理。
LAMBDA - LAMBDA:无代码多代理数据分析系统,集成大模型与自然语言技术
GithubLAMBDA多智能体系统开源项目数据分析机器学习
LAMBDA 是一个创新的开源无代码多代理数据分析系统,通过大模型解决复杂数据问题。主要功能包括通过自然语言指令进行数据分析、多代理模块(编程和检查代理)生成与调试代码、灵活的模型和算法集成、自动报告生成等。LAMBDA 提供易用的用户界面,允许直接干预操作过程,大幅提升数据科学实践和分析模式。
tamil-llama - 优化泰米尔语处理的LLaMA模型系列
GithubLLaMATamil-Llama开源项目泰米尔语自然语言处理语言模型
Tamil-Llama项目基于开源LLaMA模型,通过增加泰米尔语词元和采用LoRA方法,提升了泰米尔语处理能力。项目提供7B和13B参数的基础模型和指令模型,支持泰米尔语和英语双语对话。模型在英语推理基准测试中表现良好,并提供量化版本和泰米尔语数据集用于微调和评估。
llama - 开源大语言模型推动自然语言处理发展
GithubLlamaMeta人工智能大语言模型开源开源项目
Llama 2是Meta公司开发的开源大语言模型系列,提供7B至70B参数的预训练和微调模型。该项目为研究和商业用途提供模型权重和代码,支持多样化的自然语言处理应用。Llama 2注重负责任的AI发展,实施严格的使用政策。项目包含多个仓库,构建了从基础模型到端到端系统的完整技术栈,为AI领域的创新和应用提供了重要支持。
promptfoo - 本地LLM应用测试与评估工具
GithubLLM应用promptfoo基准测试开源项目测试驱动开发自动化红队
提供专业工具集,专为本地测试、评估及红队操作LLM应用设计。支持多种模型和API,确保应用安全可靠,提升评估效率并自动评分输出。适用于CLI、库和CI/CD环境,支持OpenAI、Anthropic等API,完全开源且本地运行,保障数据隐私。
AnythingLLM - 多功能AI应用,支持多种LLM
AnythingLLM 是一款多功能AI应用,可与任何LLM互动并提高生产力。它无需技术设置,支持在Windows、MacOS和Linux上私密运行最新的LLM。支持自定义模型,包括GPT-4、Llama和Mistral,并且内置多种工具以确保数据隐私。
LLaMa2lang - 优化LLaMa3-8B模型性能,支持多语言微调和翻译
GPUGithubLLaMa3RAG开源项目翻译语言微调
LLaMa2lang提供便捷脚本,微调LLaMa3-8B模型以适应不同语言。结合RAG和翻译模型,将数据集OASST1翻译为目标语言,进行数据集成和细调,并支持推理。支持DPO和ORPO等优化方法,进一步提升模型回答质量,兼容多个基础模型与翻译架构。
langchain-benchmarks - LLM任务基准测试工具
GithubLLM任务LangChain BenchmarksLangSmith基准测试工具使用开源项目
提供多种LLM任务基准测试工具,涵盖数据集收集、任务评估等全流程。依赖LangSmith平台,附有详细文档和实例,鼓励用户优化和测试解决方案。
llm.js - JavaScript实现浏览器直接运行大语言模型
GithubJavaScriptLLM.jsWebAssembly大语言模型开源项目浏览器推理
llm.js是一个JavaScript库,实现了在浏览器中直接运行大语言模型。该项目支持TinyLLaMA、GPT-2和Qwen等多种模型,利用WebAssembly技术在浏览器端进行高效推理,可在智能手机等设备上运行。llm.js提供结构化响应、Web Worker支持和模型缓存等功能,方便开发者将AI能力整合到Web应用中。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号