Mirascope入门学习资料 - 优雅简洁的LLM Python库

Ray

Mirascope简介

Mirascope是一个为软件工程师设计的优雅简洁的LLM(大语言模型)Python库。它旨在为LLM API提供类似于requests库对http的开发体验。使用Mirascope构建应用不仅简单高效,而且非常有趣。

Mirascope示例

核心特性

简洁的抽象: Mirascope提供了简单透明的抽象,让开发者掌控全局。
强大的类型提示: 内置了完善的Python类型提示,简化了接口的同时保证了类型安全。
灵活的构建方式: 提供简洁清晰的构建模块,支持快速可靠的开发,同时允许开发者根据自己的需求进行定制。

安装指南

Mirascope的核心依赖只有pydantic、docstring-parser和jiter。其他依赖都是特定提供商的可选依赖,你可以根据需要安装:

pip install "mirascope[openai]"     # 例如使用 openai.call
pip install "mirascope[anthropic]"  # 例如使用 anthropic.call

学习资源

官方文档: 全面详细的使用指南和API参考。
GitHub仓库: 源代码、issues和最新更新。
示例目录: 丰富的使用示例,帮助快速上手。
PyPI页面: 查看最新版本和安装统计。

核心概念

Mirascope的两个核心原语是call和BasePrompt。

call装饰器

call装饰器用于将函数转换为LLM调用:

from mirascope.core import openai, prompt_template

@openai.call("gpt-4o-mini")
@prompt_template("Recommend a {genre} book")
def recommend_book(genre: str): ...
    
response = recommend_book("fantasy")
print(response)
# > Sure! I would recommend The Name of the Wind by...

BasePrompt类

BasePrompt类用于编写与特定提供商无关的提示:

from mirascope.core import BasePrompt, prompt_template

@prompt_template(
    """
    Evaluate the toxicity of the following text:
    {text}
    """
)
class ToxicityEvaluationPrompt(BasePrompt):
    text: str

Mirascope类型提示