Transformers.js: 在浏览器中运行先进的机器学习模型

Ray

transformers.js

Transformers.js:在浏览器中运行先进的机器学习模型

在人工智能和机器学习快速发展的今天,如何更便捷地将这些先进技术应用到web应用中,一直是开发者们关注的重点。Transformers.js的出现无疑为此提供了一个绝佳的解决方案。这个由Xenova开发的JavaScript库允许开发者直接在浏览器中运行先进的机器学习模型,无需任何服务器支持,大大简化了AI应用的开发流程。

什么是Transformers.js?

Transformers.js是一个功能强大的JavaScript库,它允许开发者在浏览器中直接运行预训练的机器学习模型。这个库的设计目标是与Hugging Face的transformers Python库在功能上等效,这意味着开发者可以使用非常相似的API来运行相同的预训练模型。

Transformers.js支持多个领域的常见任务,包括:

自然语言处理:文本分类、命名实体识别、问答系统、语言建模、文本摘要、翻译等。
计算机视觉:图像分类、目标检测、图像分割等。
音频处理:语音识别、音频分类等。
多模态:零样本图像分类等。

这个库使用ONNX Runtime在浏览器中运行模型。最棒的是,开发者可以轻松地使用🤗 Optimum将预训练的PyTorch、TensorFlow或JAX模型转换为ONNX格式。

Image 1: transformers.js javascript library logo

Transformers.js的主要特点

浏览器端运行: 无需服务器支持,直接在浏览器中运行复杂的机器学习模型。
多任务支持: 支持自然语言处理、计算机视觉、音频处理等多个领域的常见任务。
易于使用: API设计与Python版本的transformers库类似,对于熟悉该库的开发者来说学习成本很低。
预训练模型: 提供了大量预训练模型,可以直接使用或进行微调。
高性能: 使用ONNX Runtime确保模型运行的高效性。
模型转换: 提供工具支持将PyTorch、TensorFlow或JAX模型转换为ONNX格式。

如何使用Transformers.js?

使用Transformers.js非常简单。以下是一个基本的例子,展示了如何使用sentiment-analysis pipeline:

import { pipeline } from '@xenova/transformers';

// 创建一个sentiment-analysis pipeline
let pipe = await pipeline('sentiment-analysis');

// 使用pipeline进行预测
let result = await pipe('I love transformers!');
console.log(result); 
// 输出: [{'label': 'POSITIVE', 'score': 0.999817686}]

这个例子展示了Transformers.js的使用有多么简单。只需几行代码,就可以在浏览器中运行一个复杂的情感分析模型。