本篇文章是根据某一个公开课进行整理的,如何在服务端和客户端去实现单机百万的并发。

从客户端角度看,单机如果能发出百万并发,那我可以做出一个能发出百万并发的压测工具。从服务端角度看,可以优化现有的服务器支持更多的并发。

服务端支撑百万并发

  • 文件句柄设置

    设置fd > 100w

  • 预估内存

    每个连接占用内存3KB ~ 10KB,100W连接占用内存:100W * 10KB = 10GB

  • 机器配置说明
    普通X86物理机:40Cores / 192GB Memory / 10KB Network / 1TB SAS

  • Nginx版本推荐
    Nginx-1.14.2

Client端发出超过65535的连接数

  • 绑定多张网卡
    65535 * Count(网卡数)

  • 多张网卡接入VIP
    提供APP接入VIP

单机服务端最大TCP连接数

  • 实际受到机器资源(内存)、操作系统设置等限制

  • Linux下影响TCP连接的主要因素是内存和机器允许的文件描述符个数每个tcp连接都要占用一定内存,每个socket就是一个文件描述符fd,1024以下端口为保留端口,每个socket占用在3KB-10KB,文件句柄修改 /etc/security/limits.conf

单机Client端最大TCP连接数

  • client每次发起tcp连接请求,选择一个空闲的本地端口,该端口是d独占的,不能共享

  • tcp port的数据类型是unsigned short,所以单机最大TCP连接数为65535=2的16次方-1(port=0保留)

  • 怎么突破最大连接数为65535个
    一块网卡对应一个IP地址
    一个IP地址对应65535个端口
    一个端口只能一个socket监听
    一个socket(ip、port)可以接受多个socket连接

  • 单机客户端最大连接数为 65535 * count(单机网卡数)

什么是socket

  • Socket是应用层与TCP/IP协议族通信的中间软件抽象层,它是一组接口。

  • 在设计模式中,Socket其实就是一个门面模式,它把复杂的TCP/IP协议族隐藏在Socket接口后面

  • Socket的出现只是可以更方便的使用TCP/IP协议栈而已,其对TCP/IP进行了抽象形成了几个最基本的函数接口
    -create,listen,accept,connect,read和write等等