MaxwellMySQL-To-JSON 的 Kafka 生产者
Maxwell 是一个读取 MySQL binlogs 并将修改行字段的更新写入 Kafka, Kinesis, RabbitMQ, Google Cloud Pub/Sub 或 Redis (Pub/Sub or LPUSH) 以作为 JSON 的应用程序。
Maxwell 拥有可对底层进行操作的操作栏(operational bar),可生成一致、易于获取的更新流,你可以轻松“固定”流处理系统的一些优点,而无需通过整个代码库来添加(不可靠)检测点。
-
常见用例包括 ETL、缓存构建/到期、指标收集、搜索索引和服务间通信。
-
可在表的初始加载过程中执行 SELECT * from table (bootstrapping)
-
支持在 master promotion 上的自动位置恢复
-
为 Kakfa 提供灵活的分区方案 —— 按数据库、表、主键或字段进行
Maxwell 通过充当完整的 mysql 副本来完成所有这些操作,包括用于 create/alter/drop 语句的 SQL 解析器。
示例
mysql> insert into `test`.`maxwell` set id = 1, daemon = 'Stanislaw Lem'; maxwell: { "database": "test", "table": "maxwell", "type": "insert", "ts": 1449786310, "xid": 940752, "commit": true, "data": { "id":1, "daemon": "Stanislaw Lem" } }
mysql> update test.maxwell set daemon = 'firebus! firebus!' where id = 1; maxwell: { "database": "test", "table": "maxwell", "type": "update", "ts": 1449786341, "xid": 940786, "commit": true, "data": {"id":1, "daemon": "Firebus! Firebus!"}, "old": {"daemon": "Stanislaw Lem"} }
评论
从源码分析如何优雅的使用 Kafka 生产者
本文公众号来源:crossoverJie作者:crossoverJie本文已收录至我的GitHub前言其中有朋友咨询在大量消息的情况下 Kakfa 是如何保证消息的高效及一致性呢?正好以这个问题结合 Kakfa 的源码讨论下如何正确、高效的发送...
Java3y
0
C 语言中的生产者-消费者问题
在并发编程中,并发性是理解此类系统如何运作的关键概念。在使用这些系统的从业者遇到的各种挑战中,生产者-消费者问题尤为突出 - 这是最著名的同步问题之一。在本文中,我们的目标是分析这个主题并强调它对并发计算的重要性,同时研究植根于 C 的可能解决方案。unsetunset介绍unsetunset在并发
良许Linux
0