Project Icon

RePlay

全周期推荐系统开发与评估框架

RePlay是一个覆盖推荐系统全生命周期的开发评估框架。它集成了数据预处理、模型构建、参数优化、性能评估和模型集成等功能。该框架支持CPU、GPU等多种硬件,并可与PySpark结合实现分布式计算。RePlay能帮助开发者顺利将推荐系统从离线实验转到在线生产环境,提升系统的可扩展性和适应性。


GitHub 许可证 PyPI - 版本 PyPI - 下载量
GitHub 工作流状态(带事件) 加入 GitHub 讨论社区

RePlay 是一个先进的框架,旨在促进推荐系统的开发和评估。它提供了一套强大的工具,涵盖了推荐系统管道的整个生命周期:

🚀 特性:

  • 数据预处理和拆分: 简化推荐系统的数据准备过程,确保数据结构和格式最优,以便高效处理。
  • 广泛的推荐模型: 支持从最先进到常用基线的推荐模型的构建,并评估它们的性能和质量。
  • 超参数优化: 提供工具来微调模型参数,以实现最佳性能,降低优化过程的复杂性。
  • 全面的评估指标: 包含广泛的评估指标,用于评估推荐模型的准确性和有效性。
  • 模型集成和混合: 支持结合多个模型的预测并创建两级(集成)模型,以提高推荐质量。
  • 无缝模式转换: 方便从离线实验到在线生产环境的轻松过渡,确保可扩展性和灵活性。

💻 硬件和环境兼容性:

  1. 多样化硬件支持: 兼容各种硬件配置,包括 CPU、GPU、多 GPU。
  2. 集群计算集成: 与 PySpark 集成以实现分布式计算,为大规模推荐系统提供可扩展性。

📖 文档可在此处获取。

目录

🔧 安装

默认推荐通过 pip 包管理器进行安装:

pip install replay-rec

这种情况下,将安装不包含 PySparkPyTorch 依赖的 core 包。 同时 experimental 子模块也不会被安装。

要安装 experimental 子模块,请指定带有 rc0 后缀的版本。 例如:

pip install replay-rec==XX.YY.ZZrc0

附加功能

除了核心包之外,还提供了几个附加功能,包括:

  • [spark]:安装 PySpark 功能
  • [torch]:安装 PyTorch 和 Lightning 功能
  • [all][spark] [torch]

示例:

# 安装带有 PySpark 依赖的核心包
pip install replay-rec[spark]

# 安装带有实验子模块和 PySpark 依赖的包
pip install replay-rec[spark]==XX.YY.ZZrc0

要从源代码构建 RePlay,请使用此说明

如果在安装 RePlay 过程中遇到错误,请查看故障排除指南。

📈 快速入门(基于 PySpark)

from rs_datasets import MovieLens

from replay.data import Dataset, FeatureHint, FeatureInfo, FeatureSchema, FeatureType
from replay.data.dataset_utils import DatasetLabelEncoder
from replay.metrics import HitRate, NDCG, Experiment
from replay.models import ItemKNN
from replay.utils.spark_utils import convert2spark
from replay.utils.session_handler import State
from replay.splitters import RatioSplitter

spark = State().session

ml_1m = MovieLens("1m")
K=10

# 数据预处理
interactions = convert2spark(ml_1m.ratings)

# 数据拆分
splitter = RatioSplitter(
    test_size=0.3,
    divide_column="user_id",
    query_column="user_id",
    item_column="item_id",
    timestamp_column="timestamp",
    drop_cold_items=True,
    drop_cold_users=True,
)
train, test = splitter.split(interactions)
# 数据集创建
feature_schema = FeatureSchema(
    [
        FeatureInfo(
            column="user_id",
            feature_type=FeatureType.CATEGORICAL,
            feature_hint=FeatureHint.QUERY_ID,
        ),
        FeatureInfo(
            column="item_id",
            feature_type=FeatureType.CATEGORICAL,
            feature_hint=FeatureHint.ITEM_ID,
        ),
        FeatureInfo(
            column="rating",
            feature_type=FeatureType.NUMERICAL,
            feature_hint=FeatureHint.RATING,
        ),
        FeatureInfo(
            column="timestamp",
            feature_type=FeatureType.NUMERICAL,
            feature_hint=FeatureHint.TIMESTAMP,
        ),
    ]
)

train_dataset = Dataset(
    feature_schema=feature_schema,
    interactions=train,
)
test_dataset = Dataset(
    feature_schema=feature_schema,
    interactions=test,
)

# 数据编码
encoder = DatasetLabelEncoder()
train_dataset = encoder.fit_transform(train_dataset)
test_dataset = encoder.transform(test_dataset)

# 模型训练
model = ItemKNN()
model.fit(train_dataset)

# 模型推理
encoded_recs = model.predict(
    dataset=train_dataset,
    k=K,
    queries=test_dataset.query_ids,
    filter_seen_items=True,
)

recs = encoder.query_and_item_id_encoder.inverse_transform(encoded_recs)

# 模型评估
metrics = Experiment(
    [NDCG(K), HitRate(K)],
    test,
    query_column="user_id",
    item_column="item_id",
    rating_column="rating",
)
metrics.add_result("ItemKNN", recs)
print(metrics.results)

📑 资源

使用示例

  1. 01_replay_basics.ipynb - RePlay 入门。
  2. 02_models_comparison.ipynb - 在 MovieLens-1M 数据集 上可重现的模型比较。
  3. 03_features_preprocessing_and_lightFM.ipynb - 使用 pyspark 进行特征预处理的 LightFM 示例。
  4. 04_splitters.ipynb - RePlay 数据分割器的使用示例。
  5. 05_feature_generators.ipynb - 使用 RePlay 进行特征生成。
  6. 06_item2item_recommendations.ipynb - 物品到物品推荐示例。
  7. 07_filters.ipynb - 过滤器的使用示例。
  8. 08_recommending_for_categories.ipynb - 产品类别推荐示例。
  9. 09_sasrec_example.ipynb - 使用变换器生成推荐的示例。

视频和论文

💡 为 RePlay 做贡献

我们欢迎社区贡献。详情请查看我们的贡献指南

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号