#代码嵌入

CodeSage-Small是一个开源代码嵌入模型，以编码器结构为基础，提供多语言源码理解功能。训练数据来自去重后的Stack数据集，支持九种编程语言，包括c、java和python。采用掩码语言模型和双模态数据进行训练，通过Starcoder分词器和AutoModel实现便捷加载，可生成高维代码嵌入。详细信息可参考相关研究论文。