mistral-inference
该项目提供了简洁高效的代码库,支持Mistral 7B、8x7B和8x22B模型的部署和运行。通过命令行界面和Python接口,可以方便地下载、安装和测试模型,并与其互动。项目包含详细的使用示例和多GPU环境的部署指南,为开发者和研究人员提供了可靠的支持。
Phantom-0.5B
通过两步安装体验模型,选择不同模型大小,支持图像和文本输入,轻松配置环境进行生成。