从Go编程看IO多路复用Select

IO多路复用通过某种机制使进程监听某些文件描述符,当文件描述符中有读或写就绪时,进程能够收到系统内核发送的相应通知从而进行相应的IO操作;IO多路复用有:select、poll、epoll等模式,这里主要介绍select;select本质上也是同步IO,调用时阻塞自己,IO事件就绪后被唤醒返回负责读写操作;

在Go中其函数定义如下:

func Select(nfd int, r *FdSet, w *FdSet, e *FdSet, timeout
*Timeval) (n int, err error)

FdSet定义:

type FdSet struct {
  Bits [16]int64
}

select函数实现IO多路复用,通过其参数通知内核:

1、关注的文件描述符
2、关心的文件描述符的哪种状态:可读、可写还是异常
3、等待时间,无限等待阻塞或是固定超时时间

通过上面的介绍可以知道我们需要有这么几种参数传递给select函数,所关注的描述符,所关注的状态、等待时间;

nfd(maxfd): 文件描述符集合中要监听的文件描述符个数,0-(maxfd-1)为需要检测的文件描述符;
r(readfds): 读监控文件描述符集,监控文件描述符集的读变化,如文件描述符集中有文件可读即通过该参数回传有变化的描述符,清空无变化的描述符;
w(writefds): 写监控文件描述符集,监控文件描述符集的写变化,如文件描述符集中有文件可写即通过该参数回传有变化的描述符,清空无变化的描述符;
e(exceptfds): 异常监控文件描述符集,监控文件描述符集的异常,如文件描述符集中有文件异常即通过该参数回传有变化的描述符,清空无变化的描述符;
timeout参数: 传入nil时函数无限阻塞等待,整数值为超时时间;

上面三个文件描述符集合如无需关注某一类状态可传入nil,则select将不监控文件描述符的读、写或异常;
tcp连接中可只需关注是否可读即可;

通过函数返回可知这么两类信息:
1、准备好的文件描述符个数
2、具体哪些文件描述符处于就绪可读、可写或异常状态

-1 发生错误
0 函数超时,当设置了超时时间,该时间内未有状态变化时
大于0 有满足读、写、异常的文件描述符,需检查文件描述符集

每次函数返回时都会将文件描述符集FdSet中未发生任何事件的fd清空,每次调用select时都需将所关注的fd重新加入FdSet中;
可监控文件描述符个数取决于 FdSet中Bits的位长度,每个bit代表一个文件描述符,默认情况下Go中的定义为:Bits [16]int64,也就是一个8字节整数数组,数组长度为16,第一个数组元素可存储的文件描述符为:0-63,第二个为:64-127依次类推;此时最多可以监听的文件描述符数为1024个;

1、内核将消息传递到用户空间需要执行系统拷贝,如监听了大量fd会导致性能下降
2、每次调用select都需要从用户态拷贝fd集合到内核态
3、每次调用select内核态都需要遍历传进来的所有fd集合
4、默认select支持的fd集合过小,只有1024;
5、轮询效率低,每次调用select、内核通知都需要轮询整个fd集合

func SelectIO(fd int) {
//读文件描述符集
fdReadSet := &syscall.FdSet{}
connect = &Connect{maxFd: fd, childsMap: map[string]int{}}
for {
    FD_ZERO(fdReadSet)
    FD_SET(fd, fdReadSet) //socket文件描述符
    for _, child := range connect.childsMap {
        FD_SET(child, fdReadSet) //连接监听
        if child > connect.maxFd {
            connect.maxFd = child
        } else {

        }
    }
    n, err := syscall.Select(connect.maxFd+1, fdReadSet, nil, nil, nil)
    if err != nil {
        log.Println(err)
        if err == syscall.EAGAIN { //非阻塞模型下资源限制或不满足条件返回eagain 异常 Resource temporarily unavailable
            continue
        }
    }
    log.Printf("n:%v,fdReadSet:%v", n, FD_ISSET(fd, fdReadSet))
    //-1 出错  >0就绪的文件描述符数  0 超时
    if n > 0 && FD_ISSET(fd, fdReadSet) {
        //接受连接
        nfd, naddr, err := syscall.Accept(fd) //阻塞模式下在此方法会阻塞
        if err != nil {
            log.Printf("接受连接出错:%v,%v", fd, err)
            continue
        }
        //设置非阻塞
        if err := syscall.SetNonblock(nfd, true); err != nil {
            log.Fatal(err)
        }
        var addr = naddr.(*syscall.SockaddrInet4)
        var ip = fmt.Sprintf("%d.%d.%d.%d:%d", addr.Addr[0], addr.Addr[1],
            addr.Addr[2], addr.Addr[3], addr.Port)
        log.Printf("新连接:%v", ip)
        processConn(nfd, ip)
    } else {
        readMsg(fdReadSet)
        }
    }
}

Original: https://www.cnblogs.com/softlin/p/16060353.html
Author: AiFly
Title: 从Go编程看IO多路复用Select

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/516386/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

  • Go语言之高级篇Beego框架之爬虫项目实战

    一、爬虫项目 1、爬虫基础 a、网页上面会有相同的数据 b、去重处理 布隆过滤器哈希存储 c、标签匹配: 正则表达式beautiful soup或lxml这种标签提取库 d、动态内…

    Go语言 2023年5月29日
    055
  • 微服务追踪SQL(支持Isto管控下的gorm查询追踪)

    效果图 SQL的追踪正确插入到微服务的调用链之间 详细记录了SQL的执行内容和消耗时间 搜索SQL的类型 多线程(goroutine)下的追踪效果 在 Kubernetes 中部署…

    Go语言 2023年5月25日
    066
  • Go标准的目录结构(自总结)

    微服务版 ├── LICENSE.md ├── …

    Go语言 2023年5月25日
    049
  • GO环境配置

    一、环境安装及配置 引用链接:Go语言环境安装及配置 Go版本安装 百度网盘msi地址:版本v1.18.1提取码:m1mc GoLand工具 链接:【版本2020.1】提取码:7x…

    Go语言 2023年5月25日
    074
  • Go语言实现大数开方程序

    Go语言的big包实现大数运算,但是有关大整数运算,似乎没有相应的开方程序。 这里给出的程序,实现了大整数的开方运算函数。该程序是基于大整数开方运算的算法实现的。 Go语言程序: …

    Go语言 2023年5月29日
    058
  • Sentinel-Go 源码系列(三)滑动时间窗口算法的工程实现

    要说现在工程师最重要的能力,我觉得工程能力要排第一。 就算现在大厂面试经常要手撕算法,也是更偏向考查代码工程实现的能力,之前在群里看到这样的图片,就觉得很离谱。 算法与工程实现 在…

    Go语言 2023年5月25日
    051
  • 基于LSM的Key-Value数据库实现稀疏索引篇

    上篇文章简单的填了一个坑基于LSM数据库的实现了WAL,在该版本中如数据写入到内存表的同时将未持久化的数据写入到WAL文件,在未将数据持久化时程序崩溃,可通过WAL文件将数据还原恢…

    Go语言 2023年5月25日
    075
  • 自己实现一个Controller——标准型

    标准Controller 上一篇通过一个简单的例子,编写了一个controller-manager,以及一个极简单的controller。从而对controller的开发有个最基本…

    Go语言 2023年5月25日
    084
  • go-micro使用Consul做服务发现的方法和原理

    go-micro v4默认使用mdns做服务发现。不过也支持采用其它的服务发现中间件,因为多年来一直使用Consul做服务发现,为了方便和其它服务集成,所以还是选择了Consul。…

    Go语言 2023年5月25日
    085
  • gRPC,爆赞

    gRPC 这项技术真是太棒了,接口约束严格,性能还高,在 k8s 和很多微服务框架中都有应用。 作为一名程序员,学就对了。 之前用 Python 写过一些 gRPC 服务,现在准备…

    Go语言 2023年5月25日
    060
  • Golang接口型函数使用技巧

    什么是接口型函数?顾名思义接口函数指的是用函数实现接口,这样在调用的时候就会非常简便,这种方式适用于只有一个函数的接口。 这里以迭代一个map为例,演示这一实现的技巧。 常规接口实…

    Go语言 2023年5月25日
    055
  • Go能实现AOP吗?

    hello~大家好,我是小楼,今天分享的话题是 Go是否能实现AOP?…

    Go语言 2023年5月25日
    078
  • Go之Logrus用法入门

    Logrus是Go (golang)的结构化日志程序,完全兼容标准库的API日志程序。Logrus is a structured logger for Go (golang), …

    Go语言 2023年5月25日
    063
  • 【golang详解】go语言GMP(GPM)原理和调度

    Goroutine调度是一个很复杂的机制,下面尝试用简单的语言描述一下Goroutine调度机制,想要对其有更深入的了解可以去研读一下源码。 首先介绍一下GMP什么意思: G &#…

    Go语言 2023年5月25日
    060
  • GO语言HTTP请求案例–httpUtil.go

    package util import (“bytes”“fmt”“io/ioutil”“log…

    Go语言 2023年5月29日
    064
  • 【Go语言】(一)环境搭建与了解VScode工具

    视频链接(p1~p8): golang入门到项目实战 [2022最新Go语言教程,没有废话,纯干货!] 参考链接: 用vscode开发go的时候,安装go包报错:connectex…

    Go语言 2023年5月25日
    069
亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球