[聚合文章] 10分钟搭建MySQL Binlog分析+可视化方案

MySQL 2018-01-08 17 阅读

日志服务 最近在原有30+种数据采集渠道 基础上,新增MySQL BinlogMySQL select等数据库方案,仍然主打快捷、实时、稳定、所见即所得的特点。

以下我们以用户登录数据库作为案例。公司内非常多的人员依赖于用户登录数据以及其衍生出来的相关数据:

  • 老板要看大屏,每天UV、PV增长在哪里?
  • 安全要监控登录是否异常,现在用户账户是否遭到集体攻击?
  • 客户小二接到用户反馈,如何实时查询用户登录信息?
  • BI需要分析用户行为,数据分析如何关联用户登录数据?
  • 审计上门了,请把您3年前用户的登录数据拿出来吧?


c0a46c0ba7e85e0bcd9a57020a6a2a92.png

接下来我们将演示如何在10分钟内手把手完成从binlog采集到查询、告警、搭建报表等全过程,满足各个老板们的需求:

  1. MySQL Binlog采集
  2. 关键字段索引+统计设置
  3. 对异常账号进行查询分析
  4. 对异常登录进行告警
  5. 配置可视化仪表盘
  6. 对历史登录信息备份以备数据审计

环境准备

数据库

mysql类型数据库(使用mysql协议,例如RDS、DRDS等),数据库开启binlog,且配置binlog类型为ROW模式(RDS默认开启)

用户登录表结构

CREATE TABLE `user_login` (  `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT 'id',  `login_time` datetime NOT NULL,  `login_ip` varchar(10) NOT NULL DEFAULT '',  `dev_type` varchar(10) NOT NULL,  `usr_id` int(11) unsigned NOT NULL,`login_result` varchar(10) unsigned NOT NULL,`login_err_times` int(10) unsigned NOT NULL,`next_verify_type` varchar(10) NOT NULL, PRIMARY KEY (`id`),  KEY `usr_id_index` (`usr_id`)  )

用户登录表中记录了登录id、登录时间、登录ip、登录设备、用户id、登录结果、连续登录失败次数、下一次校验类型等信息。其中登录验证规则如下:

  • 正常情况只验证账号密码匹配
  • 若用户连续登录失败超过3次或者当前ip和上次登录ip不在同一省,下次登录将弹出验证码
  • 若用户连续登录失败超过5次,则下次登录将使用手机验证码

用户登录时表的更新方案

  • 方案1:
    每次用户登录,在user_login中新增一条记录,记录登录的ip、设备类型、时间信息
  • 方案2:
    考虑到用户数量非常多,如果每次用户登录都在user_login中新增一条记录,数据量会非常大,所以每次用户登录时,只会根据usr_id更新update表中的数据

对于方案1,优点是数据库中保存了所有用户的登录信息,缺点是user_login表会存在爆掉的问题,需要定期删除历史的数据;对于方案2,优点是user_login表的大小可控,缺点是会丢失历史用户的登录信息。

这里我们推荐使用方案2+logtail binlog采集组成最优的方案3:用户最近一次登录信息依然保存在数据库中,通过logtail的binlog功能采集user_login表,logtail会将表中的每次修改事件上传到日志服务,日志服务中的数据可设置保存时间,超时自动删除。同时在日志服务中,可以对实时采集上来的数据进行查询、统计、查看报表、监控报警,也支持将数据对接下游流计算、导入Max Compute/OSS等。

注:本文内容来自互联网,旨在为开发者提供分享、交流的平台。如有涉及文章版权等事宜,请你联系站长进行处理。