2.6.21 pi futex关键数据结构关系图及lock流程

1.futex引入的意义

传统的SYSTEM V IPC机制需要系统调用进入内核态去操作某个内核对象,由内核来仲裁同步,事实上大部分情况下并没有资源竞争即多个申请者不会同时去竞争同步对象,此种情况下仍然进入内核态会显得很浪费,系统开销增加进而造成性能拆扣。

Futex(Fast Userspace Mutex)快速用户态互斥体,它是一种由用户态和内核态共同完成的同步机制。创建时是在用户空间通过mmap申请一片共享内存以便多进程间共同访问此futex,用户程序首先访问用户态的futex,只在判断出存在冲突(如一个进程已经拥有此futex,另一个进程申请访问,此时便存在一个冲突)时才进入内核态进行仲裁同步。

用户空间的访问和冲突判断由glibc库完成,冲突仲裁由内核的futex模块完成。

内核仲裁:将用户态的锁置上等待标志表明有锁的等待者存在,并调用schedule()将锁申请者挂起;当锁的拥有者释放锁(由glibc库完成)时,检查发现该锁有等待者就进入内核将等待者唤醒。

2.6.21 pi futex关键数据结构关系图及lock流程

Glibc库中实现有pthread_mutex_lock()/pthread_mutex_unlock()等用户态锁接口,以提供快速的futex机制。

2.优先级继承功能的futex性能比普通的futex差

pthread_mutex_lock()/pthread_mutex_unlock()配有优先级继承(Priority Inherent简称pi)后的有时性能会严重影响了业务的正常运行。

不带优先级继承功能的锁,会调用内核流程futex_wait()/futex_wake(),带有优先级继承功能的锁会调用内核流程futex_lock_pi()/futex_unlock_pi();pi锁导致业务性能下降是实现机制以及业务模型导致。

3流程分析

3.1 glibc流程

3.1.1不带优先级继承(非pi)

pthread_mutex_lock

尝试获取锁,如果失败则进入内核阻塞

重复上述过程直到成功,并置持有锁标志

pthread_mutex_unlock

如果有等待者,则进入内核态唤醒

3.1.2带优先级继承(pi)

pthread_mutex_lock

尝试获取锁,如果失败则进入内核阻塞

从内核返回后(通常表明加锁成功),置持有锁标志

pthread_mutex_unlock

如果有等待者,则进入内核态唤醒

3.1.3流程对比

在加锁阶段,非pi锁可能会在glibc库中多次竞争并多次进入内核态阻塞直到获取锁;而pi锁最多只会进入内核态一次。从此角度可以看出,非pi锁存在竞争的不公平性。

3.2内核流程

3.2.1不带优先级继承(非pi)

futex_wait

取__lock的值,与传进来的val参数比较,如果不等,则直接返回;

将自己加入到等待队列中,然后调用schedule将自己调度出去。

futex_wake

遍历hash链表,找到对应的futex,调用wake_futex唤醒对应阻塞的线程。因为系统调用传进来的nr_wake参数为1,实际上只唤醒1个线程就退出,优先唤醒优先级高的。

3.2.2带优先级继承(pi)

futex_lock_pi

使用queue_lock获取spin_lock锁,保证后面对信号量相关的操作都是安全的。

再次使用cmpxchg_futex_value_locked原子指令试图将__lock字段改为tid,如果能修改成功,表明锁拥有者释放了该锁。加锁成功直接返回。

将__lock字段的bit 31置1,表明现在开始有线程将阻塞到该锁上。

从内核维护的相关锁信息pi_state中,找到对应的内核实时信号量;将自己放到用户态信号量等待队列,并调用rt_mutex_timed_lock阻塞到内核的实时信号量上。

从rt_mutex_timed_lock返回时,可能失败,也可能是真正获取到了信号量;这期间可能会导致pi_state相关信息不一致,如果不一致,则修正。

必要时对锁拥有者线程进行优先级的提升。

返回rt_mutex_timed_lock的返回结果。

futex_unlock_pi

如果__lock中的tid不是自己,返回错误。

使用cmpxchg_futex_value_locked原子操作,如果__lock等于当前的tid,则将其改为0,然后返回。

如果用户态信号量的等待队列中还有线程阻塞,则使用wake_futex_pi函数挑选优先级最高的线程为新的owner,修改__lock的tid属性为新owner的tid,并唤醒。

如果等待队列中没有线程阻塞,则在unlock_futex_pi函数中将__lock值改为0。

3.2.3流程对比

整个加锁/解锁流程中,主要有三点区别:

1. pi锁远比非pi锁复杂,并使用rt_mutex内核对象进行线程的管理和唤醒,因此pi锁在内核中的执行时间比非pi锁要长得多;

2. pi锁直接参于锁的管理,非pi锁只是简单的挂起和唤醒线程(在glibc中管理锁,见3.1);

3. pi锁会改变锁当前持有者的优先级(优先级继承,以避免优先级反转)。

4 内核pi futex结构展示

Futex通过内核对象rt_mutex实现,本文针对recursive pi类型的futex以及线程间共享锁的情况,讲解内核中的futex_lock_pi()流程,展示所涉及的几个核心数据结构。

全局变量static struct futex_hash_bucket futex_queues[1<<FUTEX_HASHBITS];

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/1c1b9240915ff4786e2f05a832afc7e0.html