Project Icon

ice

用于语言模型程序的 Python 库和跟踪可视化工具

ICE是专为语言模型程序设计的Python库和可视化工具,支持多人模式、代理定义、快速并行执行等功能,允许在浏览器中调试执行轨迹。适用于Python 3.9及以上版本,支持虚拟环境安装和开发,API可能会发生变动,欢迎社区贡献。

项目介绍:ICE

ICE,全称为「交互式组成探索器」(Interactive Composition Explorer),是一个用于语言模型程序的Python库和执行轨迹可视化工具。这一工具的出现,为开发者提供了一种便捷的方法来运行和调试复杂的语言模型任务。

功能特点

  • 多模式运行语言模型任务:ICE支持在多种模式下运行语言模型程序,包括单独由人类、由人类和语言模型结合、或完全由语言模型执行的模式。
  • 浏览器中调试执行轨迹:通过浏览器,用户可以直观地查看和调试模型的执行轨迹,让问题的诊断更为高效。
  • 自定义语言模型代理:用户可以定义和使用新的语言模型代理,比如链式思维代理等,以适应不同的需求。
  • 快速运行任务:借助并行化技术,ICE允许快速进行语言模型调用,加速任务执行。
  • 复用组件任务:支持复用问答、排名和验证等组件任务,提高开发效率。

使用前须知

ICE目前处于1.0版本前,这意味着其API可能随时进行变更,包括功能移除、方法重命名或将ICE拆分成多个项目。用户需谨慎使用并随时关注更新。

使用要求

  • Python版本:需要Python 3.9、3.10或3.11版本。如果尚未安装支持的版本,推荐使用pyenv进行安装和管理多个Python版本。
  • Windows用户:需要通过WSL(Windows Subsystem for Linux)运行ICE。

快速开始

  1. 创建虚拟环境:首先创建并激活一个虚拟环境,以避免全局安装ICE。

    python -m venv venv
    source venv/bin/activate
    
  2. 安装ICE

    pip install ought-ice
    
  3. 运行示例程序:通过Primer运行Hello World程序,查看执行轨迹。

  4. 设置机密信息(可选):在~/.ought-ice/.env中设置机密信息(如OpenAI API密钥),格式可参考.env.example。如未设置,运行需要这些信息的任务时会提示输入。

术语解析

  • Recipe(任务分解):将一个任务分解为若干子任务,以便于执行和调试。
  • Agent(代理):执行预定义形状的原子子任务,如补全、评分或分类。代理不关心调用它们的具体任务分解,也不维护子任务之间的状态。
  • Mode(运行模式):决定任务分解的执行方式,比如由人或由代理执行等。可通过RecipeSettings对特定子任务类型使用特定的代理。

开发与贡献

ICE是由Ought开发的开源项目,欢迎来自社区的贡献。开发者可以贡献代码来修复Bug、改进代码质量和性能,或添加新功能;语言模型研究者可以帮助添加新代理,改进现有的任务分解和组件。

如有大规模贡献计划,请先创建问题讨论后再提交PR。

ICE还在招募更多人才加入项目团队,欢迎查看招聘信息以获取更多机会。

引用方式

如果在您的研究中使用了ICE,请按照以下方式引用:

Iterated Decomposition: Improving Science Q&A by Supervising Reasoning Processes. Justin Reppert, Ben Rachbach, Charlie George, Luke Stebbing Jungwon Byun, Maggie Appleton, Andreas Stuhlmüller (2023). Ought Technical Report. arXiv:2301.01751 [cs.CL]

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号