热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Llama3.java
llama3.java 学习资源导航 - 在单个Java文件中实现Llama 3推理
1 个月前
llama3.java是一个在单个Java文件中实现Llama 3和3.1推理的项目。本文整理了该项目的主要特性、学习资源和使用指南,帮助读者快速了解和上手这个实用的LLM推理工具。
Llama3.java
LLama 3
LLama 3.1
Java
Graal compiler
Github
开源项目
1 个月前
相关项目
llama3.java
该项目使用单个Java文件实现Llama 3和3.1模型推理,源于llama2.java和llama2.c,具有教育价值并专注JVM编译器的优化测试,尤其是Graal编译器。项目无依赖,支持GGUF格式解析、Llama 3标记器及多种量化模型。提供--chat与--instruct的CLI模式,推荐使用OpenJDK 21+以充分利用Java Vector API提升性能。
查看
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号