相关项目
finetuned-qlora-falcon7b-medical
项目基于QLoRA技术对Falcon-7B模型进行微调，以更好地处理精神健康对话。优化后的聊天机器人能够随时提供支持和情感帮助，使用来自在线常见问题和医疗博客的数据集，经过预处理以保持会话格式。微调在Google Colab Pro上完成，但模型也能在低阶GPU上运行。PEFT微调模型提升了响应质量，适用于Gradio前端的聊天机器人。
falcon-7b
Falcon-7B是TII开发的70亿参数因果解码器模型，基于1.5万亿个精选高质量token训练。模型采用FlashAttention和multiquery等优化架构，提升推理效率。以Apache 2.0许可证发布，允许商业使用。性能超越同类开源模型，适用多种自然语言处理任务，可进一步微调满足特定需求。