#接受率向量

Sequoia

Sequoia项目提供了可扩展、稳定且硬件感知的推断系统环境，支持Llama系列模型，灵活调整温度和Top-p参数，并提供详细的实验再现指南。通过pip命令简便地设置环境，使用bash脚本进行测试，调整示例数量和随机种子来重现结果。Sequoia还具备生成接收率向量和生成树结构图的工具，满足各类实验需求。未来计划包括支持更多开源模型、多轮对话、INT4/8量化以及多GPU功能。