记一次生产数据库“意外”重启的经历
前言
在一个阳光明媚的下午，电脑右下角传来一片片邮件提醒，同时伴随着微信钉钉的震动，打开一看，应用各种出错，天兔告警，数据库服务器内存爆红，MySql 数据库实例挂掉了。
排查
先交代一下数据库版本：
崩溃故障排除绝不是一项有趣的任务，特别是如果MySQL没有报告崩溃的原因。例如，当MySQL内存不足时。
数据库邮件告警提醒发来的消息：
登录 Grafana 监控面板，数据库连接在哪个时间段曾有幅度的增长。
顺手检查一下之前的服务器邮件监控告警记录，上一个时间点，内存占用率99%，这说明了数据库连接的幅度增长，可能是压垮服务器的最后一根稻草。
其实导致OOM的直接原因并不复杂，就是因为服务器内存不足，内核需要回收内存，回收内存就是kill掉服务器上使用内存最多的程序，而MySQL服务可能就是使用内存最多，所以就OOM了。
查看系统日志
我们带着这个疑问来排查一下日志：
小伙伴们继续往下看：
当out of memory发生时，outofmemory函数会选择一个内核认为犯有分配过多内存 “罪行”的进程，并杀死该进程。显然 Mysql 就是哪个“罪人”。
随后 MySql 会自动重启。重启以后，内存是下来了，但是临近下班的时候，差不多又又又占满了。
找到MySql进程，执行以下top -p pid，内存使用52.4g
计算内存使用
1)查看MySQL全局占用多少内存
查询结果为：
2）查看performance_schema占用多少内存
查询结果为：
3）查看每个线程占用多少内存
查询结果为：
查看当前线程
最终结果为：
4）查看 memory 存储引擎占用多少内存
查询结果为：
以上四项加起来差不多也就27975MB，差不错28G的样子，但是 MySql 进程显示占用了52.4G，那么剩下24.4G去哪了？
线程池
此线程池非彼连接池，其实两者是有很大区别的，连接池一般在客户端设置，而线程池是在DB服务器上配置；另外连接池可以取到避免了连接频繁创建和销毁，但是无法取到控制MySQL活动线程数的目标，在高并发场景下，无法取到保护DB的作用。比较好的方式是将连接池和线程池结合起来使用。
关于线程池的一些参数：
thread_handling：
该参数是配置线程模型，默认情况是one-thread-per-connection，也就是不启用线程池。将该参数设置为pool-of-threads即启用了线程池。
threadpoolsize：
该参数是设置线程池的Group的数量，默认为系统CPU的个数，充分利用CPU资源。
threadpooloversubscribe：
该参数设置group中的最大线程数，每个group的最大线程数为threadpooloversubscribe+1，注意listener线程不包含在内。
threadpoolhighpriomode：
高优先级队列的控制参数，有三个值（transactions/statements/none），默认是transactions，三个值的含义如下：
transactions：对于已经启动事务的语句放到高优先级队列中，不过还取决于后面的threadpoolhighpriotickets参数
statements：这个模式所有的语句都会放到高优先级队列中，不会使用到低优先级队列
none：这个模式不使用高优先级队列
threadpoolhighpriotickets：
该参数控制每个连接最多语序多少次被放入高优先级队列中，默认为4294967295，注意这个参数只有在threadpoolhighpriomode为transactions的时候才有效果。
threadpoolidle_timeout：
worker线程最大空闲时间，默认为60秒，超过限制后会退出。
threadpoolmax_threads：
该参数用来限制线程池最大的线程数，超过该限制后将无法再创建更多的线程，默认为100000。
threadpoolstall_limit：
该参数设置timer线程的检测group是否异常的时间间隔，默认为500ms。
最终配置如下：
备注：线程池在Percona,MariaDB,Oracle MySQL企业版中提供，Oracle MySQL社区版并不提供。
线程池貌似并不会直接导致内存不回收，网上有说同时开启Thread pool和PS会出现内存泄露，但是 目前Percona server 5.7.21-20+版本已经修复了这个问题，显然是不存在的。
慢查询
由于是生产环境，这个问题拖得时间有点长，那么慢查询会不会影响内存使用问题呢？带着这个问题，查看了慢查询后台列表，在数据库奔溃的前一个时间段，的确有不少慢查询语句。但是这并不能在一定程度上说明问题，由于服务器的 MySql 服务在杀死之前，内存已经见底，此时连接数并不多，也就三四十来个左右，大多处于休眠状态，并且此时已经占用了大部分的Swap空间。也就是说，在资源有限的情况下必定会出现不少慢查询语句。
小结
其实这个"意外"一点也不意外，其实已经发生了多次了。但是还是做个小结吧，因为最终没有确认问题出现在哪里，所以还是发布了吧，万一有专业的DBA遇到类似的问题还可以小小的解惑一下。
参考
https://bugs.mysql.com/bug.php?id=91861
https://bugs.mysql.com/bug.php?id=91710
https://dev.mysql.com/doc/refman/5.7/en/memory-use.html
https://www.percona.com/blog/2018/06/28/what-to-do-when-mysql-runs-out-of-memory-troubleshooting-guide/
https://dev.mysql.com/doc/refman/5.7/en/thread-pool-tuning.html
转载声明：本文转载自「爪哇笔记」，搜索「Java_notes」即可关注。
- 发表于:
- 原文链接：https://kuaibao.qq.com/s/20181222B0D50A00?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
