OllamaSharp简介
OllamaSharp是一个.NET库,为Ollama API提供了简单易用的绑定。它可以帮助开发者轻松地在.NET应用中与Ollama进行交互,无论是本地还是远程使用。
主要特性
OllamaSharp具有以下主要特性:
- 易用性: 只需几行代码即可与Ollama进行交互
- 全面的API支持: 支持Ollama的所有API端点,包括聊天、嵌入、列出模型、拉取和创建新模型等
- 实时流式传输: 可以直接将响应流式传输到应用程序
- 进度报告: 可以获取诸如模型拉取等任务的实时进度反馈
- 支持视觉模型和工具(函数调用)
安装
通过NuGet包管理器安装OllamaSharp:
Install-Package OllamaSharp
基本用法
以下是一些基本用法示例:
初始化客户端
var uri = new Uri("http://localhost:11434");
var ollama = new OllamaApiClient(uri);
ollama.SelectedModel = "llama2";
列出本地可用模型
var models = await ollama.ListLocalModels();
拉取模型并报告进度
await foreach (var status in ollama.PullModel("llama2"))
{
Console.WriteLine($"{status.Percent}% {status.Status}");
}
生成文本并直接输出到控制台
await foreach (var stream in ollama.Generate("How are you today?"))
{
Console.Write(stream.Response);
}
构建交互式聊天
var chat = new Chat(ollama);
while (true)
{
var message = Console.ReadLine();
await foreach (var answerToken in chat.Send(message))
{
Console.Write(answerToken);
}
}
更多资源
OllamaSharp是开源项目,欢迎贡献代码和提出建议。如果您在使用过程中遇到任何问题,也可以在GitHub仓库中提出issue。
通过使用OllamaSharp,您可以轻松地将Ollama的强大功能集成到您的.NET应用中,快速构建基于大语言模型的智能应用。希望本指南能帮助您快速上手OllamaSharp,开启AI应用开发的新篇章!
