连接池

    以连接池做引子,我们说说服务端工程师基础必修课。

    从我们应用最多的 HTTP 连接、数据库连接、消息推送、日志存储等,所有点到点之间,都需要花样繁多的各色连接。为了传输数据,我们需要完成创建连接、收发数据、拆除连接。对并发量不高的场景,我们为每个请求都完整走这三步(短连接),开发工作基本只考虑业务即可,基本上也不会有什么问题。一旦挪到高并发应用场景,那么可能我们就要郁闷了。

    • 性能普遍上不去
    • 网络一旦抖动,会有大量 TIME_WAIT 产生,不得不定期重启服务或定期重启机器

    这时候我们可以优化的第一件事情就是 把短链接改成长连接。也就是改成创建连接、收发数据、收发数据… 拆除连接,这样我们就可以减少大量创建连接、拆除连接耗费的时间。从性能上来说肯定要比短连接好很多。但这里还是有比较大的浪费。

    举例:请求进入时,直接分配数据库长连接资源,假设有 80% 时间在与关系型数据库通讯,20% 时间是在与 Nosql 数据库通讯。当有 50K 个并行请求时,后端要分配 50K*2=100K 的长连接支撑请求。无疑这时候系统压力是非常大的。数据库再牛也抵不住滥用不是?

    在 OpenResty 中,所有具备 set_keepalive 的类、库函数,说明他都是支持连接池的。

    来点代码,给大家提提神,看看连接池使用时的一些注意点,麻雀虽小,五脏俱全。

    • 坑①:只有数据传输完毕了,才能放到池子里,系统无法帮你自动做这个事情
    • 坑③:逗你玩,这个不是坑,是正确的

    理解了连接池,那么线程池、内存池,就应该都明白了,只是存放的东西不一样,思想没有任何区别。