项目介绍:Chrome AI
Chrome AI 是一个由 Vercel AI 提供支持的项目,旨在为 Chrome 浏览器内置的 AI 模型(Gemini Nano)提供功能扩展。它是一个技术前沿的模块,利用 Google Chrome 的实验性 AI 特性,为开发人员带来新的可能性。
安装方式
要使用 ChromeAI 提供的功能,可以通过 npm 进行安装:
npm install chrome-ai
语言模型
ChromeAI 提供了一个易于使用的语言模型接口。开发者可以通过引入 chromeai
函数来创建一个语言模型实例:
import { chromeai } from 'chrome-ai';
const model = chromeai();
在创建模型时,开发者可以传递额外的设置来定制化模型,例如调节温度和 topK
参数,这些设置可以影响生成文本的随机和多样化程度。
嵌入模型
Chrome AI 提供了嵌入模型功能,允许开发者通过 embedMany
和 cosineSimilarity
函数进行操作。例如,可以比较两个文本的相似度:
import { chromeai } from 'chrome-ai';
import { embedMany, cosineSimilarity } from 'ai';
const { embeddings } = await embedMany({
model: chromeai('embedding'),
values: ['sunny day at the beach', 'rainy afternoon in the city'],
});
const similarity = cosineSimilarity(embeddings[0], embeddings[1]);
使用示例
开发者可以利用 Chrome 内置语言模型进行文本生成。以下是使用 generateText
和 streamText
函数的示例:
import { generateText } from 'ai';
import { chromeai } from 'chrome-ai';
const { text } = await generateText({
model: chromeai(),
prompt: 'Who are you?',
});
console.log(text);
这些方法允许从简单的字符串到复杂的对象生成不同类型的数据结构。
启用 Chrome 内建 AI
要启用 Chrome 内建的 AI 功能,用户需使用 Chrome 127 或更新版本(现在可在开发版或金丝雀版中找到),正式发布预计在 2024 年 7 月。用户需要在 Chrome 中开启特定的实验标志,并下载相关模型。
此外,对于非 Chrome 的浏览器,也可以尝试使用 chrome-ai/polyfill
实验功能,通过支持 WebGPU 和 WebAssembly 的浏览器来体验这些功能。
import 'chrome-ai/polyfill';
项目历史
Chrome AI 项目在 GitHub 上的关注度可以通过星图进行追踪,显示了项目的受欢迎程度。
许可证
Chrome AI 项目由 MIT 许可证支持,意味着开发者可以自由地使用和修改代码。
对于任何问题或者功能需求,开发者可以通过 GitHub 报告或提交拉取请求。该项目仍在开发中,可能会有频繁更新和变化。