队列(Queue)是一种先进先出的数据结构,Java中实现了Queue<E>接口的类都具有队列的功能。我们常用的LinkedList就实现了Queue接口,具有了offer()、poll()等操作。但是,LinkedList是线程不安全的,只使用于单线程操作。如果要实现一个线程安全的队列,一般有两种方式:一是使用阻塞算法,给读写操作加锁;二是使用非阻塞算法,通过循环CAS的方式来实现。本篇文章的ConcurrentLinkedQueue就是并发大师Doug Lea设计的一个非阻塞线程安全队列。
1 ConcurrentLinkedQueue的结构
ConcurrentLinkedQueue的类图如下:
它由head节点和tail节点组成,每个节点含有下一个节点的引用。默认情况下,head节点存储储存的元素为空,tail节点指向head节点。
2 入队操作
入队操作就是将入队元素包装成节点,加入队列的尾部,同时更新尾节点。
这里,与LinkedList不同的地方是:tail节点不一定指向队列中的最后一个节点!ConcurrentLinkedQueue的tail节点选取规则为:
1)tail节点为真正的尾节点,则加入新节点,tail节点指向其前一个节点。
2)tail节点的next节点为真正的尾节点(1操作后的情况),则加入尾节点,更新tail节点,使其指向真正的尾节点。
通过上面的分析,单线程下入队操作过程已经十分明确。但是当多线程入队时,就可能出现插队的情况。这时尾节点就会发生变化,这时线程要暂停入队操作,然后重新获取尾节点。下面看源码是怎么实现的:
public boolean offer(E e) { if (e == null) throw new NullPointerException(); //入队前,创建一个入队节点 Node<E> n = new Node</e><e>(e); retry: //死循环,入队不成功反复入队。 for (;;) { //创建一个指向tail节点的引用 Node<E> t = tail; //p用来表示队列的尾节点,默认情况下等于tail节点。 Node<E> p = t; for (int hops = 0; ; hops++) { //获得p节点的下一个节点。 Node<E> next = succ(p); //next节点不为空,说明p不是尾节点,需要更新p后在将它指向next节点 if (next != null) { //循环了两次及其以上,并且当前节点还是不等于尾节点 if (hops > HOPS && t != tail) continue retry; p = next; } //如果p是尾节点,则设置p节点的next节点为入队节点。 else if (p.casNext(null, n)) { //如果tail节点有大于等于1个next节点,则将入队节点设置成tair节点,更新失败了也没关系,因为失败了表示有其他线程成功更新了tair节点。 if (hops >= HOPS) casTail(t, n); // 更新tail节点,允许失败 return true; } // p有next节点,表示p的next节点是尾节点,则重新设置p节点 else { p = succ(p); } } } }
从源码的角度看,入队的过程:1)是定位出尾节点,2)是使用CAS算法将入队节点设置成尾节点的next节点,不成功便重试。
1)定位尾节点
tail节点可能是尾节点,也可能是尾节点的前一个节点。主循环中if (next != null)就是判断tail是否有next节点。有则表示next节点可能是尾节点,进行p=next操作,直到找到真正的尾节点。
2)设置入队节点为尾节点
p.casNext(null, n)方法用于将入队节点设置为当前尾节点的next节点。如果p的next节点是null,则说明p是当前队列的尾节点,如果p的next节点不为null,说明有其他线程更新了尾节点,则需要重新获取尾节点。这里casNext和casTail都使用了CAS原子操作,保证了结果正确。
还有最后一个问题,就是为什么tail节点有2个规则,换句话说,插入两次元素才更新一个tail?因为更新tail节点需要用到casTail操作,这是CAS原子操作,减少CAS操作,能够提高入队效率。这里在定位尾节点和减少CAS操作中取了一个平衡。
3 出队操作
同tail节点,head节点为了减少CAS操作,也采取了类似的规则:
1)head中有元素时,弹出元素,不更新head节点。
2)head中为空时,弹出next元素,更新head节点为真正的头节点。
poll()函数的源码如下:
public E poll() { Node</e><e> h = head; // p表示头节点,需要出队的节点 Node</e><e> p = h; for (int hops = 0;; hops++) { // 获取p节点的元素 E item = p.getItem(); // 如果p节点的元素不为空,使用CAS设置p节点引用的元素为null,如果成功则返回p节点的元素。 if (item != null && p.casItem(item, null)) { if (hops >= HOPS) { //将p节点下一个节点设置成head节点 Node</e><e> q = p.getNext(); updateHead(h, (q != null) ? q : p); } return item; } // 如果头节点的元素为空或头节点发生了变化,这说明头节点已经被另外一个线程修改了。那么获取p节点的下一个节点 Node</e><e> next = succ(p); // 如果p的下一个节点也为空,说明这个队列已经空了 if (next == null) { // 更新头节点。 updateHead(h, p); break; } // 如果下一个元素不为空,则将头节点的下一个节点设置成头节点 p = next; } return null; }
先取出头节点元素,如果不为空,则通过CAS操作更新。更新失败则说明已经被另外一个线程修改了,直接获取p的下一个节点。如果为空,则更新头结点。