#Kafka

Gather-Deployment - Python 部署、基础设施与实践指南
TensorflowFlaskDockerKafkaPySparkGithub开源项目
详细介绍Python部署与基础设施的内容,包括Tensorflow部署、简单后端、Apache技术栈、数据管道与实时ETL。涵盖Flask, Docker, Kafka, PySpark, PyFlink等多种技术和工具,并包含单元测试、压力测试、监控和映射方案,让开发者全面了解Python在实际应用中的场景。
every-single-day-i-tldr - 每日汇编Scala、大数据和Kafka等技术资源
KafkaData EngineeringBig DataScalaJavaGithub开源项目
该项目是一个每日阅读资源的合集,包括文章、博客和视频,内容涵盖Scala、数据工程、Java、大数据等技术主题。用户可以使用Ctrl+F快速查找所需内容,非常适合关注Kafka生态系统管理和最新技术趋势的人。
kaf - 简化 Kafka 集群管理的命令行工具
KafkaCLI工具配置管理消费者组主题操作Github开源项目
Kaf 是一个受 kubectl 和 docker 启发的 Kafka 命令行工具,为 Kafka 集群管理提供简洁直观的界面。用户可以轻松查看节点和主题信息、操作消费者组以及生产消息。Kaf 支持通过 Go、安装脚本、AUR 和 Homebrew 等多种方式安装,并提供丰富的配置选项和 Shell 自动补全功能,提升了 Kafka 管理的效率。
kafka-go - Go语言开发的高性能Kafka客户端库
kafka-goKafkaGo消息队列分布式系统Github开源项目
kafka-go是一款Go语言开发的高性能Kafka客户端库,提供低级和高级API与Kafka交互。该库实现Go标准库接口,易于使用和集成,支持生产者、消费者和消费者组功能。它具备自动重试、重连和偏移量管理等特性,适用于Kafka 0.10.1.0至2.7.1版本,需要Go 1.15或更高版本。
fast-data-dev - 快速部署全功能Kafka开发环境的Docker镜像
KafkaDockerLensesiofast-data-dev容器化Github开源项目
fast-data-dev是一个Docker镜像,用于快速部署Kafka开发环境。它集成了完整的Kafka分发版、Kafka Connect、Schema Registry等核心组件,以及Lenses.io开源UI工具和25+个Kafka连接器。开发者可在几秒内搭建功能齐全的Kafka环境,支持自定义配置和扩展功能。适用于本地开发、云端部署等多种场景,简化了Kafka开发环境的搭建过程。
kafka-beginners-course - Apache Kafka初学者实践课程资源
KafkaJava编程Conduktor数据流处理消息队列Github开源项目
该项目提供Apache Kafka入门学习资源,包含Java编程基础、Wikimedia生产者、OpenSearch消费者和Kafka Streams示例。项目由Conduktor团队开发,旨在简化Kafka学习过程。内容适合初学者和希望提升技能的开发人员,提供实用的学习材料和实践案例。
kafka_exporter - Kafka 指标导出工具for Prometheus
kafka_exporterPrometheusKafka监控指标Github开源项目
kafka_exporter 是一个专为 Prometheus 设计的 Kafka 指标导出工具。支持 Apache Kafka 0.10.1.0 及以上版本,可收集 Broker、Topic 和消费者组的关键指标。提供二进制文件和 Docker 镜像,部署简便。通过丰富配置选项,可灵活定制监控范围和安全设置。集成 Grafana 仪表板,便于数据可视化。适用于需要全面监控 Kafka 集群性能的场景。
Burrow - 无阈值Kafka消费者延迟监控工具
BurrowKafka消费者滞后监控开源工具无阈值监控Github开源项目
Burrow是一款专为Apache Kafka设计的开源监控工具,其特点是无需设置阈值即可检查消费者延迟。它能自动监控所有消费者的偏移量,并实时计算状态。Burrow支持多Kafka集群监控,提供HTTP接口用于查询状态和集群信息,还可通过邮件或HTTP调用发送警报。该工具采用Go语言开发,支持Docker部署,为Kafka用户提供了高效且易用的监控方案。
console - 简化Kafka和Redpanda工作负载管理的强大Web应用
Redpanda ConsoleKafka数据流管理Web应用消息查看器Github开源项目
Redpanda Console是一个Web应用,用于管理和调试Kafka和Redpanda工作负载。它提供消息查看、消费者组管理、主题概览和集群监控等功能。该工具支持消息探索、模式注册表管理和Kafka连接器操作,有助于提高数据流处理效率和可视化水平。
kafdrop - 直观的 Apache Kafka 集群管理工具
KafdropKafkaWeb UI消息浏览集群管理Github开源项目
Kafdrop 是一个开源的 Apache Kafka 管理工具,提供直观的 Web 界面来查看集群信息。它支持浏览主题、分区、消费者组和消息内容,兼容 JSON、纯文本、Avro 和 Protobuf 格式。Kafdrop 能够创建新主题、查看 ACL,并支持 Azure Event Hubs。此工具配置简单,支持 SASL 和 TLS 安全连接,适用于 Kafka 集群的日常管理和监控。
kafka-stack-docker-compose - Docker Compose快速部署Kafka集群及相关组件
KafkaDocker ComposeConduktorZookeeper容器化Github开源项目
kafka-stack-docker-compose项目提供多种Docker Compose配置,用于部署Kafka集群及相关组件。支持单节点和多节点的Zookeeper与Kafka配置,并集成Schema Registry、REST Proxy等工具。该项目模拟真实部署环境,解决Docker网络问题,支持跨平台使用。开发者可通过简单的Docker Compose命令快速启动Kafka环境,适用于开发和测试场景。
examples - Apache Kafka事件流处理演示大全
Confluent PlatformKafka数据流处理事件流云服务Github开源项目
本文汇集了Apache Kafka®事件流处理的多个演示案例,全面展示Confluent平台的应用场景。内容涵盖Confluent Cloud、流处理、数据管道等多个方面,适合不同层次的用户在本地或Docker环境中学习和实践。同时提供了自定义演示的资源和更多相关演示仓库的链接,是深入了解Kafka技术的重要参考。
jkes - 将Java、Kafka和ElasticSearch集成的全功能搜索解决方案
Jkes搜索框架JavaKafkaElasticSearchGithub开源项目
Jkes是一个整合Java、Kafka和ElasticSearch技术的搜索框架。它采用注解驱动的JPA风格对象/文档映射,并提供RESTful API进行文档搜索。该框架支持自动索引更新和删除,同时提供灵活的查询接口。Jkes易于集成,可扩展性强,适合需要高性能搜索功能的Java应用。其架构支持多租户平台,为后续引入机器学习搜索排序功能做好了准备。