#Python框架

Guardrails AI: 为大型语言模型添加安全护栏

3 个月前
Cover of Guardrails AI: 为大型语言模型添加安全护栏
相关项目
Project Cover

guardrails

Guardrails是一个Python框架,专为构建可靠的AI应用程序而设计。它提供输入/输出保护功能,通过检测、量化和缓解风险,确保应用程序安全。借助Guardrails Hub,用户可以访问多种预构建验证器,组合多个验证器以创建强大的防护系统。Guardrails还支持从LLM生成结构化数据,适用于专有和开源模型。提供便捷的安装和使用指南,支持自定义验证器的创建和贡献,是AI开发者的理想工具。

Project Cover

griptape

Griptape是一个模块化Python框架,专为构建安全连接企业数据和API的AI应用而设计。它提供核心组件如代理、管道、工作流、任务、工具、内存、驱动和引擎,确保开发者在每一步保持控制和灵活性。Griptape支持高效的数据加载、处理和存储,并能与多种外部资源和服务交互。更多信息请参阅Griptape文档和在线课程。

Project Cover

openagi

OpenAGI致力于使自主智能体对所有人开放,提供创建自主人形智能体的框架,推动开放智能体技术的发展,最终实现全民通用人工智能。通过灵活的代理架构和简化的配置,解决实际问题,适用于教育、金融、医疗等多个领域。

Project Cover

truss

Truss是一个用于在生产环境中轻松打包和部署AI/ML模型的工具。它具有一次编写即可在任何地方运行的特性,确保开发和生产环境的一致性。支持所有主流的Python框架,如transformers、diffusers、PyTorch和TensorFlow等,并包含快速开发反馈机制。Truss由Baseten维护,提供便捷的云端部署,通过Baseten的API密钥即可轻松实现远程部署。

Project Cover

PyFR

PyFR是基于Python的开源流体动力学框架,主要解决对流-扩散问题。它使用Huynh通量重构方法,支持混合非结构网格上的多种控制系统求解。借助内置领域特定语言,PyFR能针对不同硬件平台优化性能。该项目欢迎社区贡献,并为用户提供全面的文档和测试案例。PyFR适用于需要进行高性能流体动力学模拟的科研和工程领域。

Project Cover

PyFlow

PyFlow是一款开源的Python可视化编程框架,通过图形化界面实现复杂程序的创建。它具有模块化设计、子图功能、Python节点等特性,支持代码生成和命令行操作。PyFlow适用于快速原型开发、教育培训和工作流设计,能够提升Python编程效率。该框架易于集成,支持Python 2和3版本,为开发者提供了灵活的扩展性。

Project Cover

EasyJailbreak

EasyJailbreak是一个针对大语言模型安全研究的Python框架,将越狱攻击过程分解为可迭代步骤。框架提供多种选择器、变异器、约束和评估器组件,构建了越狱攻击实验平台。项目包含11种攻击方法在10种大语言模型上的结果,并提供API文档。研究人员可使用现有方法或添加新组件进行实验,便于大语言模型安全研究。

Project Cover

bigflow

BigFlow是一个专为Google Cloud Platform (GCP)设计的数据处理框架。该框架提供Docker化部署、CLI工具、自动化构建与部署、统一项目结构,并支持GCP主要数据处理技术。BigFlow优化了数据工程流程,支持Dataflow和BigQuery,适用于不同规模的数据处理项目。框架还包含项目启动器,帮助快速搭建工程环境。

Project Cover

musiclang

MusicLang是一个Python音乐框架,实现了新型调性音乐语言。框架支持简便高效地加载、创作、转换和预测符号音乐。内置大型语言模型可预测乐谱发展。适用于快速生成音乐创意、符号音乐预测或修复,以及创建MIDI文件的可解释文本表示。为音乐创作和分析提供功能丰富的工具。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号