Project Icon

amphi-etl

Python低代码ETL工具 支持多类型数据处理

Amphi-etl是一款现代ETL工具,专注于AI时代的数据处理需求。它通过低代码界面加速数据和AI管道开发,生成可移植的Python代码。支持多样化数据处理,包括结构化和非结构化数据的导入、转换和导出。提供私有化部署,保障数据安全与隐私。

基于Python的低代码ETL工具,用于数据操作和转换。


Test Slack License

Screenshot 2024-05-29 at 3 47 44 PM

中文 · 更新日志 · 报告错误 · 功能请求

目录

目录

📦 安装

要安装amphi-etl,请运行以下命令:

pip install amphi-etl

[!注意]

如果你更喜欢安装Amphi的Jupyterlab扩展,请在你的环境中使用pip install jupyterlab-amphi。更多信息请点击这里


🔨 使用方法

要启动Amphi,只需运行:

amphi start

使用以下参数指定你的工作空间(你可以在系统上访问文件和创建管道的地方)和要使用的端口:

amphi start -w /your/workspace/path -p 8888

要更新Amphi ETL,请运行以下命令:

pip install --upgrade amphi-etl

✨ 特性

[!注意]

Amphi专注于数据和AI管道的结构化和非结构化数据处理。它旨在使数据科学家和数据工程师能够通过直观的低代码界面轻松开发管道,同时生成可以在任何地方部署的Python代码。

amphi-screenshot-github

AI时代的现代ETL:

  • 🧑‍💻 低代码:加速数据和AI管道开发,减少维护时间。
  • 🐍 Python代码生成:生成利用常见库(如pandasDuckDBLangChain)的原生Python代码,可以在任何地方运行。
  • 🔒 私密且安全:在你的笔记本电脑或云端自托管Amphi,完全保护你的数据隐私和安全。

结构化和非结构化

  • 🔢 结构化 - 从各种来源导入数据,包括CSV和Parquet文件,以及数据库。使用聚合、过滤、连接、SQL查询等方法转换结构化数据。将转换后的数据导出到常见文件或数据库中。
  • 📝 非结构化 - 从PDF、Word文档和网站(HTML)中提取数据。执行解析、分块和嵌入处理。将处理后的数据加载到Pinecone和ChromaDB等向量存储中。
  • 🔁 转换 - 轻松将结构化数据转换为非结构化文档以用于向量存储,反之亦然,用于RAG管道。

正在进行中的功能

  • 自定义组件 - 添加开发自己的组件和封装已配置组件的能力
  • 实现连接 - 添加安全创建连接以在组件中重复使用的能力
  • 开发者文档 - 编写全面的文档以允许扩展
  • 保存组件 - 保存组件并在其他管道中重复使用它们

🤝 贡献

  • 使用和创新:尝试Amphi并与我们分享你的使用案例。你的实际使用和反馈帮助我们改进产品。
  • 表达你的见解:遇到问题?有疑问?通过提交issues来分享它们,帮助我们改善用户体验。
  • 塑造未来:有代码改进或功能想法?我们邀请你提出pull requests并直接贡献。

我们欢迎每一份贡献,无论大小。加入我们的使命,完善和提升ETL在数据和AI领域的世界。😃


🛣️ 生态系统

Amphi可作为Jupyterlab的扩展使用,Amphi ETL基于Jupyterlab。因此,Jupyterlab扩展可以安装在Amphi ETL上。


📝 许可证

版权所有 © 2024 - 现在 Amphi Labs
本项目采用ELv2许可。

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号