exo
exo是一个开源项目,用于将日常设备如智能手机、平板和个人电脑整合成家庭AI集群。该项目支持多种模型,包括Llama 3.1,具备动态模型分区和自动设备发现功能。exo采用点对点连接架构,实现设备间平等协作,无需专业GPU即可运行大型AI模型。此外,exo还提供ChatGPT兼容的API接口。