llmfarm_core.swift
LLMFarm_core是一个Swift大语言模型库,支持LLaMA、GPT、RWKV等多种模型。提供多种推理和采样方法,支持Metal加速,适用于MacOS和iOS。包含模型设置模板和LoRA适配器支持,为LLM应用开发提供灵活工具。