#DBRX

dbrx

DBRX是由Databricks训练的开源大型语言模型，采用开放许可。该模型包含基本代码和示例，用于推理操作，并提供相关资源。DBRX是一个Mixture-of-Experts模型，拥有1320亿总参数和12T文本预训练数据，支持TensorRT-LLM和vLLM等多种推理库。DBRX提供基础版和指令微调版，且支持在Databricks平台上的多种集成应用。