sagify简介

sagify是一个开源项目,旨在简化AWS SageMaker上的机器学习工作流程管理。它提供了一个简化的接口,使用户能够专注于构建ML模型,而不是基础设施。sagify的主要特点包括:

• 提供统一接口,可以轻松利用开源和专有的大型语言模型
• 通过简单的API访问各种LLM模型
• 简化了在AWS SageMaker上的模型训练、调优和部署过程

安装与使用

要安装sagify,你需要:

1. Python (3.7, 3.8, 3.9, 3.10, 3.11)
2. 安装并运行 Docker
3. 配置 awscli

安装命令:

pip install sagify

使用示例:

sagify cloud foundation-model-deploy --model-id model-txt2img-stabilityai-stable-diffusion-v2-1-base --model-version 1.* -n 1 -e ml.p3.2xlarge --aws-region us-east-1 --aws-profile sagemaker-dev

主要资源

1. 官方文档: 详细的使用指南和API参考

2. GitHub仓库: 源代码和问题跟踪

3. 示例仓库: 包含入门示例代码

支持的模型

sagify支持多种开源和专有的大语言模型:

OpenAI模型

• 对话完成: gpt-4, gpt-4-32k, gpt-3.5-turbo
• 图像生成: dall-e-3, dall-e-2
• 文本嵌入: text-embedding-3-large, text-embedding-3-small, text-embedding-ada-002

开源模型

• 对话完成: llama-2-7b, llama-2-13b, llama-2-70b
• 图像生成: stabilityai-stable-diffusion-v2, stabilityai-stable-diffusion-v2-1-base
• 文本嵌入: bge-large-en, gte-large, e5-large-v2等

部署和API

sagify提供了多种部署选项:

1. 本地Docker部署
2. AWS Fargate部署

部署后,可以通过RESTful API访问LLM Gateway,支持完成、嵌入和图像生成等功能。

总结

sagify为在AWS SageMaker上管理机器学习工作流程提供了一个强大而灵活的工具。通过简化的接口和对多种模型的支持,它使数据科学家能够更专注于模型开发,而不是基础设施管理。无论是初学者还是经验丰富的ML工程师,sagify都是一个值得尝试的工具。

如果你对sagify有任何疑问,可以通过GitHub Issues或发送邮件到pavlos@sagify.ai寻求帮助。