【Maxwell笔记】

官网地址:Maxwell's Daemon

版本:v1.29.2(之后的版本不支持JDK8)

一、工作原理

Maxwell把自己伪装成MySQL的一个slave,然后以slave的身份假装从MySQL(master)复制数据。

MySQL配置binlog:

1.配置文件:Linux:/etc/my.cnf;Windows:\my.ini

2.在[mysqld]区块设置添加log-bin=mysql-bin

3.binlog分类设置binlog_format=row(可选statement|mixed|row)

Maxwell想做监控分享,选择row(行级,binlog会记录每次操作后每行记录的变化)格式比较合适,优点:保持数据的绝对一致性(因为不管sql是什么,引用了什么函数,binlog只记录执行后的效果);缺点:占用空间大。

二、Maxwell与Canal的对比

对比CanalMaxwell
语言JavaJava
数据格式格式自由json
采集数据模式增量全量/增量
数据落地定制支持kafka等多种平台
HA支持支持

三、安装部署

1.解压:tar -zxvf maxwell-1.29.2.tar.gz

2.初始化Maxwell元数据库

(1)在MySQL中创建一个maxwell库用于存储Maxwell元数据
CREATE DATABASE maxwell;(2)分配一个账号可以操作该数据库
GRANT ALL ON maxwell.* TO 'maxwell'@'%' IDENTIFIED BY '密码';(3)分配这个账号可以监控其他数据库的权限
GRANT SELECT,REPLICATION SLAVE,REPLICATION CLIENT ON *.* TO 'maxwell'@'%';(4)刷新MySQL表权限
flush privileges;

3.Maxwell进程启动

进入Maxwell安装目录
(1)使用命令行参数启动Maxwell进程

./bin/maxwell --user='maxwell' --password='123456' --host='主机名' --producer=stdout

--user 连接mysql的用户

--password 连接mysql的用户密码

--host mysql安装的主机名或ip

--producer 生产者模式(stdout:控制台;kafka:kafka集群)

(2)修改配置文件,定制化启动Maxwell进程

cp config.properties.example config.properties 

vim config.properties

./bin/maxwell --config ./config.properties

 

 四、监控mysql数据输出到控制台

1.向test_maxwell库的test表插入一条数据,查看maxwell的控制台输出

mysql> insert into test values(1,'aaa');{"database": "test_maxwell",    --库名"table": "test",               --表名"type": "insert",              --数据更新类型"ts": 1664438392,              --操作时间"xid": 6666,                   --操作id"commit": true,                --提交成功"data": {                      --数据"id": 1,"name": "aaa"}
}mysql> update test set name='bbb' where id =1;

2.修改test_maxwell库的test表插入一条数据,查看maxwell的控制台输出

mysql> update test set name='bbb' where id =1;{"database": "test_maxwell",    --库名"table": "test",               --表名"type": "update",              --数据更新类型"ts": 1664438567,              --操作时间"xid": 6667,                   --操作id"commit": true,                --提交成功"data": {                      --修改后的数据"id": 1,"name": "bbb"},"old": {                       --修改前的数据"id": 1,"name": "aaa"}
}

 3.删除test_maxwell库的test表插入一条数据,查看maxwell的控制台输出

mysql> delete from where id =1;{"database": "test_maxwell",    --库名"table": "test",               --表名"type": "delete",              --数据更新类型"ts": 1664439235,              --操作时间"xid": 6668,                   --操作id"commit": true,                --提交成功"data": {                      --删除的数据"id": 1,"name": "bbb"}
}

 五、监控mysql数据输出到kafka

1.实现步骤

(1)启动zookeeper和kafka

(2)启动Maxwell监控binlog

./bin/maxwell --user='maxwell' --password='123456' --host='localhost' --producer=kafka --kafka.bootstrap.servers=localhost:9092 --kafka_topic=maxwell

(3)打开kafka控制台的消费者消费maxwell主题

(4)向test_maxwell库的test表再次插入一条数据

mysql> insert into test values (5, 'eee');

(5)通过kafka消费者来查看到了数据,说明成功传入kafka

2.kafka主题数据的分区控制

Maxwell监控多个mysql库的数据,然后将这些数据发往kafka的一个主题Topic,并且这个主题是多分区的,为了提高并发度,实现步骤如下:

# 修改Maxwell的配置文件config.properties
# 修改生产者模式
producer=kafka
kafka.bootstrap.servers=192.168.10.1:9092# 手动在kafka创建一个多分区的主题后,在Maxwell配置该主题
# ./kafka-topic.sh --zookeeper 192.168.10.1:2181,192.168.10.2:2181,192.168.10.3:2181 --create --replication-factor 2 --partitions 3 --topic maxwell3 
kafka.topic=maxwell3# 分区参数配置
# 分区方式[database, table, primary_key, transaction_id, thread_id, column]
producer_partition_by=database
# 如果用column分区,需指定列名和备用分区方式
# producer_partition_columns=id,foo,bar
# 备用分区方式,以防指定列不存在
# producer_partition_by_fallback=databse

 六、监控mysql指定表数据输出(过滤)

./bin/maxwell --user='maxwell' --password='123456' --host='localhost' --filter 'exclude: *.*, include: test_maxwell.test' --producer=stdout

 --filter 'exclude: *.*, include: test_maxwell.test'

过滤:排除所有库.表,包含test_maxwell库的test表

七、监控mysql指定表数据全量输出(数据初始化)

insert into maxwell.bootstrap(database_name, table_name) values("test_maxwell", "test");

同步前maxwell.bootstrap表新增数据的is_complete为0,表示待同步;启动maxwell同步后is_complete为1,started_at、completed_at更新。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://xiahunao.cn/news/254543.html

如若内容造成侵权/违法违规/事实不符,请联系瞎胡闹网进行投诉反馈,一经查实,立即删除!

相关文章

ANSYS Maxwell 2D螺线管磁场分析

所用螺线管几何模型如下所示 1. 在Maxwell软件中建立如下图所示的几何模型 2. 设置材料 线圈采用铜材料copper,空气域自动为空气材料 3. 空气域边界设置磁通平行边界条件 4. 线圈施加电流激励,实际是安匝数 上半个线圈设置参数如下 其中参考方向Posit…

Maxwell-学习笔记

一、理论知识 1. 磁场的高斯定律 磁场对任意闭合曲面的通量都为0 2.安培环路定律 磁场沿不围绕长直导线的闭合曲线的环流为0,围绕长直导线的闭合曲线的环流为uI。 3. 磁化电流 磁介质内部的分子电流因为抵消而不参与整体磁化电流的贡献。 二、有限元方法 三.EM操作步骤 …

Maxwell安装与配置

Maxwell安装与配置 maxwell 是由美国zendesk开源,用java编写的Mysql实时抓取软件。其抓取的原理也是基于binlog。 点击此处跳转Maxwell官网 参考文章如下链接 链接: Maxwell参考文章 附上本人下载好的安装包 链接:百度网盘下载连接 提取码:12…

Maxwell简介使用

Maxwell 介绍 Maxwell 是由美国 zendesk 开源,用 java 编写的 Mysql 实时抓取软件, 其抓取的 原理也是基于 binlog。 官网 https://maxwells-daemon.io/ Maxwell 和 canal 工具对比 ➢ Maxwell 没有 canal 那种 serverclient 模式,只有一个…

Maxwell 一款简单易上手的实时抓取Mysql数据的软件

第一章 Maxwell概述 1.1、Maxwell简介 Maxwell 是由美国 Zendesk 开源,用 Java 编写的 MySQL 实时抓取软件。 实时读取MySQL 二进制日志 Binlog,并生成 JSON 格式的消息,作为生产者发送给 Kafka,Kinesis、RabbitMQ、Redis、Googl…

maxwell理论知识

1 Maxwell是什么 Maxwell 是由美国 Zendesk 开源,用 Java 编写的 MySQL 实时抓取软件。 实时读取 MySQL 二进制日志 Binlog,并生成 JSON 格式的消息,作为生产者发送给 Kafka,Kinesis、 RabbitMQ、Redis、Google Cloud Pub/Sub、文…

maxwell render中文版

教程: 1、下载软件包解压,双击exe程序安装软件,点击下一步。 2、软件协议界面,选择我接受协议,点击下一步。 3、选择安装路径,选择C盘之外的磁盘安装。 4、选择安装组件,全部勾选&#xff0…

Maxwell简单使用

1.Maxwell简介 Maxwell 是由美国 Zendesk 开源,用 Java 编写的 MySQL 实时抓取软件。 实时读取MySQL 二进制日志 Binlog,并生成 JSON 格式的消息,作为生产者发送给 Kafka,Kinesis、RabbitMQ、Redis、Google Cloud Pub/Sub、文件或…

Maxwell 介绍、安装、部署、运行(MYSQL -> Maxwell -> kafka)

Maxwell 安装、部署、运行(MYSQL -> Maxwell -> kafka) 一、Maxwell 概述 Maxwell 用 Java 编写的 MySQL 实时抓取软件。 实时读取MySQL 二进制日志 Binlog,并生成 JSON 格式的消息,作为生产者发送给 Kafka等消费中心。 …

Maxwell的简介与使用

一、简介 Maxwell 是由美国Zendesk公司开源,用Java编写的MySQL变更数据抓取软件。它会实时监控Mysql数据库的数据变更操作(包括insert、update、delete),并将变更数据以 JSON 格式发送给 Kafka、Kinesi等流数据处理平台。 Maxwell…

推荐三款动态壁纸软件,足够让你的桌面惊艳!

点击上方“码农的后花园”,选择“星标” 公众号 精选文章,第一时间送达 今天给大家推荐三款动态壁纸软件,给你的桌面添加一点精彩,心情也更美呢 ~ 1,WinDynamicDesktop 进入软件界面,默认提供了5套苹果系统使用过的动态…

找壁纸不用愁了:壁纸网站/APP/工具合集

苏生不惑第261篇原创文章,将本公众号设为星标,第一时间看最新文章。 之前分享过那些好用的无版权免费图片网站,今天分享些好看的壁纸网站和工具,在公众号后台回复 壁纸 获取软件。 wallhaven 这个知名壁纸网站应该不用多介绍了htt…

免费壁纸网站大全

极简壁纸展开目录 https://bz.zzzmh.cn 国人维护的壁纸网站,图片大多来源 wallhaven 和 unsplash。 轻壁纸展开目录 一个免费纯净高清电脑壁纸分享站,主打高清横屏电脑壁纸,永久免费! https://bz.qinggongju.com 壁纸湖展开目…

推荐两款超高质量的壁纸软件

前言 整天对着电脑工作难免会感觉烦躁,但如果能经常看到自己喜欢的壁纸,那应该会稍微愉悦一点吧… 不过搜索引擎找到的壁纸壁纸普遍清晰度低、带水印、质量也不高 每次还需要下载完手动替换,比较麻烦 今天给大家推荐两款高质量并且开源的…

高清免费壁纸网站推荐

本期内容,为大家整理了6个相当不错的免费壁纸网站,访问量极大、活跃度极高。 无需登录、注册,打开右键就可以下载,而且壁纸图片的尺寸大小,可以选择,从手机、平板、再到电脑壁纸,全部都是高清。…

Wallpaper引擎 壁纸提取 (文中附工具下载链接)

有一款优秀的电脑桌面壁纸软件——《Wallpaper Engine》 用过的都知道,好得不得了 但是,这款壁纸软件还是很吃GPU的,尤其是场景类、视频类的壁纸,电脑性能不足的还会卡可怜的笔记本就这样。 有时候除了壁纸本身,是…

chatgpt赋能python:Python中怎么转置矩阵

Python中怎么转置矩阵 在Python中,我们可以轻松地实现矩阵的转置操作。矩阵转置是指将矩阵的行列互换,即将矩阵的行转换为列,将列转换为行。这种操作在数据处理和科学计算中是很常见的,因此我们需要了解如何在Python中进行矩阵转…

网络打印机因IP地址变动导致脱机的解决方法

PC版本win10 某一天因为种种原因导致网络打印机的IP变动了,那么我们在自己PC机上添加的打印机就无法使用了,来看作者是怎么解决的。假设目标IP由192.168.1.16改为192.168.2.195 打开我的打印机和扫面仪菜单

打印机显示脱机怎么办

简述 删除设备,重新添加设备就可以了。 详细 将变灰的打印机删除设备,然后添加新的打印机就OK了。 添加打印机可以选用TCP/IP连接方式。

打印机脱机了怎么办

1、 确保开启打印机电源,并且打印机处于待机准备就绪状态; 2、打印机指示灯绿灯闪烁或常亮就绪; 3、检查打印机 USB连接线到电脑之间是否有问题。重新开启打印机电源; 4、依次点击“开始”→“打印机和传真”。在“打印机和传真…