访问官网
Github
文档
论文TornadoVM：让Java程序在异构硬件上自动运行
TornadoVM是一个OpenJDK和GraalVM的插件,它能让程序员自动在异构硬件上运行Java程序。TornadoVM支持OpenCL、PTX和SPIR-V兼容的设备,包括多核CPU、独立GPU(Intel、NVIDIA、AMD)、集成GPU(Intel HD Graphics和ARM Mali)以及FPGA(Intel和Xilinx)。
TornadoVM有三个后端,分别生成OpenCL C、NVIDIA CUDA PTX汇编和SPIR-V二进制代码。开发人员可以选择安装和运行哪些后端。
安装
TornadoVM提供了自动安装脚本,可以在Linux和macOS上轻松安装。用户可以通过命令行参数选择要安装的JDK版本和后端(OpenCL、PTX、SPIRV)。例如:
./bin/tornadovm-installer --jdk jdk21 --backend opencl,spirv,ptx
此外,TornadoVM还支持手动从源码安装,以及使用Docker进行安装。
编程模型
TornadoVM通过轻量级API向程序员公开任务级、数据级和流水线级并行性。它采用单一源代码的方式,加速代码和主机代码位于同一Java程序中。
TornadoVM提供两种编写计算内核的方法:
-
循环并行API:使用
@Parallel和@Reduce注解来表达并行性。 -
内核API:通过
KernelContext数据结构直接访问线程ID、分配本地内存等,类似于CUDA/OpenCL编程。
这两种API可以在同一个任务图中混合使用。
动态重配置
TornadoVM能够在设备之间进行实时任务迁移,自动选择性能最佳的硬件来执行代码。如果应用程序无法在异构硬件上获得更好的性能,它会继续在CPU上使用默认的JIT编译器执行。
在项目中使用TornadoVM
要使用TornadoVM,需要:
- 包含API的TornadoVM jar文件(使用GPL v2 with Classpath Exception许可)
- TornadoVM核心库和驱动代码动态库(.so文件)
可以通过Maven依赖导入TornadoVM API:
<dependency>
<groupId>tornado</groupId>
<artifactId>tornado-api</artifactId>
<version>1.0.8</version>
</dependency>
应用领域
TornadoVM目前被用于加速机器学习、深度学习、计算机视觉、物理模拟、金融应用、计算摄影和信号处理等领域的应用。
通过TornadoVM,Java开发人员可以轻松利用异构硬件的计算能力,显著提升应用性能,同时保持Java语言的简洁性和可移植性。这为Java在高性能计算和并行处理领域开辟了新的可能性。
