#Phi-3-mini-4k-instruct
Phi-3-mini-4k-instruct-int4-ov - Phi-3-mini-4k-instruct模型的OpenVINO INT4量化与兼容性概览
Phi-3-mini-4k-instructGithub开源项目量化OpenVINO模型推理MIT许可证Huggingface模型
Phi-3-mini-4k-instruct模型通过NNCF的INT4权重压缩被转换为OpenVINO™ IR格式,增强OpenVINO推理效率。适用于OpenVINO 2024.4.0及以上版本,与Optimum Intel 1.23.1兼容,实现高效模型推理。
Phi-CAT - 在连续对抗训练中优化Phi-3-mini-4k模型
Huggingface机器学习对抗性训练开源项目模型Continuous Adversarial TrainingPhi-3-mini-4k-instructGithub大语言模型
该项目通过Continuous Adversarial Training(CAT)算法,对Phi-3-mini-4k-instruct模型进行优化,增强其对抗性攻击的抵御能力,提升鲁棒性。项目详细信息可在Github查阅,有关研究发表在arXiv。
Phi-3-mini-4k-instruct-llamafile - 提供跨平台AI权重,实现高效文本生成
开源项目模型AI模型Github责任感考量Huggingface推理能力量化格式Phi-3-mini-4k-instruct
Phi-3-Mini-4K-Instruct项目采用llamafile格式,提供可在Linux、MacOS、Windows等多平台运行的AI权重,适用于文本生成任务。其优化推理能力在语言理解、数学和代码等领域表现优异,尤其在内存和计算资源受限环境中有效。使用者需结合具体场景考虑模型适用性及潜在限制。