相关项目
nnom
NNoM 是为微控制器设计的高层次神经网络推理库,支持如 Inception、ResNet 和 DenseNet 等复杂结构,可一键部署 Keras 模型并提供用户友好的界面。其高性能后端选择和预编译功能确保了运行时零损耗,同时提供完整的评估工具如运行时分析和混淆矩阵。最新的 v0.4.x 版本新增了循环层(RNN)支持,并切换到更适合机器处理的结构化接口。与 TensorFlow Lite 和 STM32Cube.AI 的对比显示,NNoM 在推理时间和内存占用方面表现出色。
Themis
Themis是一个8B参数的大型语言模型,设计用于自然语言生成评价,在多样性、评估独立性和灵活性方面表现出色。该模型能够处理问答评价等非常见任务,并支持个性化评估标准,提供详细的分析与解释。在SummEval、Topical-Chat、SFRES等多种NLG任务中,Themis的表现优于包括GPT-4在内的现有模型。详见相关论文中的实验结果和详细信息。