博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
MySQL-To-JSON 的 Kafka 生产者
阅读量:6971 次
发布时间:2019-06-27

本文共 1050 字,大约阅读时间需要 3 分钟。

Maxwell 是一个读取 MySQL binlogs 并将修改行字段的更新写入 Kafka, Kinesis, RabbitMQ, Google Cloud Pub/Sub 或 Redis (Pub/Sub or LPUSH) 以作为 JSON 的应用程序。

Maxwell 拥有可对底层进行操作的操作栏(operational bar),可生成一致、易于获取的更新流,你可以轻松“固定”流处理系统的一些优点,而无需通过整个代码库来添加(不可靠)检测点。 

  • 常见用例包括 ETL、缓存构建/到期、指标收集、搜索索引和服务间通信。

  • 可在表的初始加载过程中执行 SELECT * from table (bootstrapping)

  • 支持在 master promotion 上的自动位置恢复

  • 为 Kakfa 提供灵活的分区方案 —— 按数据库、表、主键或字段进行

Maxwell 通过充当完整的 mysql 副本来完成所有这些操作,包括用于 create/alter/drop 语句的 SQL 解析器。

示例

mysql> insert into `test`.`maxwell` set id = 1, daemon = 'Stanislaw Lem';  maxwell: {    "database": "test",    "table": "maxwell",    "type": "insert",    "ts": 1449786310,    "xid": 940752,    "commit": true,    "data": { "id":1, "daemon": "Stanislaw Lem" }  } mysql> update test.maxwell set daemon = 'firebus!  firebus!' where id = 1;  maxwell: {    "database": "test",    "table": "maxwell",    "type": "update",    "ts": 1449786341,    "xid": 940786,    "commit": true,    "data": {"id":1, "daemon": "Firebus!  Firebus!"},    "old":  {"daemon": "Stanislaw Lem"}  }

本文来自云栖社区合作伙伴“开源中国”

本文作者:局长

转载地址:http://tcosl.baihongyu.com/

你可能感兴趣的文章
Oracle学习笔记安装篇之在Redhat Enterprise Linux 7.0 x86_64下安装Oracle11g R2
查看>>
C++重载赋值运算符
查看>>
NO.7:别让异常逃离析构函数
查看>>
在textarea中鼠标指定的位置插入字符或表情
查看>>
c fopen文件读写
查看>>
(转)UIColor,CGColor,CIColor三者的区别和联系
查看>>
自己动手写GC
查看>>
工作习惯沉淀
查看>>
安装redis
查看>>
python 10.19作业
查看>>
groupby以后取每组前n行
查看>>
js获取页面传过来的参数
查看>>
KVO和通知中心
查看>>
Master Nginx(1) - Installing Nginx and Third-Party Modules
查看>>
单向链表的有关操作(链式存储结构)
查看>>
本学期学习计划
查看>>
java面向对象
查看>>
Eclipse快捷键大全(转载)
查看>>
网络概述:TCP-IP协议
查看>>
[1127]图形打印 sdutOJ
查看>>