一种zabbixserver扩容改造方案

本文原创作者鲍光亚，京东商城基础平台部软件开发工程师，经作者同意发表于本人博客，如需转载需经本人同意。

创新互联长期为上千多家客户提供的网站建设服务，团队从业经验10年，关注不同地域、不同群体，并针对不同对象提供差异化的产品和服务；打造开放共赢平台，与合作伙伴共同营造健康的互联网生态环境。为桥西企业提供专业的成都网站建设、网站制作，桥西网站改版等技术服务。拥有10年丰富建站经验和众多成功案例,为您定制开发。

一、引言

随着监控量的迅速增长，zabbix管理员有一天会发现硬盘iops达到了数万，接近硬盘io的极限，无力支持处理更多监控数据。本文提出一种横向扩展方案，以尽量小的改动，增加zabbix系统的数据io能力。
考虑到zabbix的数据库io主要在于history表和trends表，这一方案是在不增加zabbix server数量的情况下，将history表和trends表的io分散到其他主机上。此方案的优点是保持单个zabbix server，不需要考虑多server之间的协同一致。这一数据库分离模式还可以兼容原有的集中模式。但是，由于io分散到多个主机上，当需要读写数据时，不得不访问多个数据库实例。同时，代码中涉及数据库读写的部分，包括zabbix server和web api，都需要重写，好在大部分可以参考已有的代码。
本方案设计基于zabbix 3.0.10版本。本文只论及对zabbix server的改造方案，对web api的修改方案将另文讨论，本文不涉及。

二、zabbix数据读写机制

由于configuration数据的io远小于history和trends数据io，本方案没有涉及对configuration数据的改动。
cache和vc_cache是zabbix源码中的两个变量名称，前者用于存储来自agent/proxy的原始数据，后者存储的则是从数据库中加载的数据(当数据已过期时，新数据则会直接从前者复制到后者之中)，用于进行trigger计算等。
1．history和trends数据的写入
poller和trapper两类进程(包括pinger)负责从agent和proxy接收history数据，然后flush到cache中，同时更新cache中的trends数据。对cache的更新主要通过函数 process_hist_data实现。
dbsyncer进程则负责将cache中的数据写入到数据库中的history表和trends表中。由于dbsyncer存在多个进程，进程之间通过锁进行协调，避免冲突。cache数据入库主要通过DCsync_history和DCsync_trends两个函数实现。

2. history和trends数据的读取
   vc_cache在程序启动时分配空间，但是并不加载数据。此时poller和trapper进程尚未开始接收数据，因此也不会往vc_cache中写数据。
   程序启动以后，当需要数据进行计算时，会尝试从vc_cache中获取values，如果获取不到则会从history表中加载数据到vc_cache中。源文件中有三个函数用于从数据库读取value并加载到vc_cache中，这三个函数名为vc_db_read_values_by_time、vc_db_read_values_by_count、 vc_db_read_values_by_time_and_count。
3. history和trends数据的删除
   housekeeper进程负责将过期的数据从history和trends表中删除。housekeeper还负责删除过期的events、alerts、sessions等。
4. 数据库连接
   zabbix各进程对数据库的访问通过单个connection来建立连接。各个查询的执行函数都没有设置连接参数，而是通过全局性的conn变量维持连接。如果要实现对多数据库的访问，则只能增加连接变量数，或者动态修改conn。
5. watchdog
   watchdog进程负责监视数据库状态，当发现连接失败时发送报警信息。

三、具体方案及实现

在数据库中，history表依照数据类型不同分为history、history_uint、history_str、history_text、history_log五个表，trends表则分为trends和trends_uint两个表。遵循着分散io的思路，可以考虑两种方案，第一种方案是按照类别将history和trends分散到两个独立的数据库中，另外一种是按照类别以及数据类型的不同，将每一个表都独立地存储到单个数据库中。下文主要按照第一种方案进行论述。

1. 改写配置文件
   在配置文件中增加所需的数据库连接参数，以及用于集中和分离模式切换的开关。配置文件的解析在程序启动时进行，因此还需要修改启动程序，增加存储数据库连接参数的数组元素以及开关变量。
2. 修改数据库connect函数
   在保留原有connect函数的基础上，新增一个带有入参的connect，以根据需要建立不同的连接。同时增加全局变量，用于保持多个连接。
3. 修改数据库查询函数
   在保持原有查询函数的基础上，增加带有连接参数的查询函数，以动态变换查询连接。zabbix中有多个查询函数，用于不同类型的查询，所有这些都需要修改。
4. 对函数的调用
   上文提及的涉及history和trends读写的函数中，对数据库的访问部分都需要修改，增加对模式开关的条件判断，以调用不同的函数。模式开关的逻辑应保证通过重启服务可以使数据存储模式在集中和分离模式之间切换。
   如果采用按监控数据类型分库的方案，则还需要对sql文本构造过程进行修改。
5. 修改watchdog逻辑
   将原来的单个实例状态监视，改为多实例同时监视，有任何实例连接失败时均报警。

四、数据一致性问题

分离模式存在的风险之一是数据一致性问题。在集中模式时，zabbix通过互斥锁来协调对缓存的访问，保证缓存数据的一致性。写数据库时则通过transaction保证一致性。因为缓存锁机制的存在，数据库的分离与否并不会影响缓存的一致性，问题只能存在于数据库内部。
如果采用按类别分离的方案，即history和trends数据分别存储在两个数据库中，则需要考虑history、trends和其他表之间的一致性。如果采用按类别+数据类型分离的方案，则同时要考虑history各个表之间的数据一致性以及trends表之间的一致性。
通过分析源码中的transaction逻辑，history/trends表的更新操作不需要与其他表保持一致性(在数据库级别)，在程序允许的情况下，双方可以独立写数据库。

五、进一步的方案

遵循数据库分离的思路，更激进的方案是将history和trends数据中的每一个表都进行拆分，以itemid或者clock为key按照一定的哈希算法，将数据分散存储到更多的数据库中。