정의
각 스레드는 스레드가 살아 있고 ThreadLocal 인스턴스에 액세스할 수 있는 한 스레드 로컬 변수의 복사본에 대한 암시적 참조를 보유합니다. 스레드가 사라진 후 스레드 로컬 인스턴스의 모든 복사본은 가비지 수집 대상입니다(이 복사본에 대한 다른 참조가 존재하지 않는 한).
스레드가 살아 있고 ThreadLocal 인스턴스에 액세스할 수 있는 한 각 스레드는 스레드 로컬 복사본에 대한 참조를 보유합니다 隐式
. 스레드가 사라진 후 변수의 모든 스레드 로컬 복사본은 가비지 수집됩니다( 해당 복사본에 대한 다른 참조가 없는 경우 ).
각 스레드는 스레드 로컬 복사본에 대한 참조를 보유 합니까 隐式
?
스레드의 관점에서 각 스레드 Thread 객체에는 threadLocals 속성이 있으며 다음은 Thread
클래스 소스 코드입니다.
/* ThreadLocal values pertaining to this thread. This map is maintained
* by the ThreadLocal class. */
ThreadLocal.ThreadLocalMap threadLocals = null;
/*
* InheritableThreadLocal values pertaining to this thread. This map is
* maintained by the InheritableThreadLocal class.
*/
ThreadLocal.ThreadLocalMap inheritableThreadLocals = null;
复制代码
이 클래스는 스레드 로컬 변수를 제공합니다. 이러한 변수는 get 또는 set 메서드를 통해 하나에 액세스하는 각 스레드가 자체적으로 독립적으로 초기화된 변수 복사본을 갖는다는 점에서 일반 변수와 다릅니다. ThreadLocal 인스턴스는 일반적으로 상태를 스레드(예: 사용자 ID 또는 트랜잭션 ID)와 연결하려는 클래스의 개인용 정적 필드입니다.
ThreadLocal 인스턴스는 일반적으로 상태 를 스레드(예: 사용자 ID 또는 트랜잭션 ID)와 연결하려는 클래스의 개인용 정적 필드입니다 .
예를 들어, 다음 코드는 각 스레드에 대해 고유한 ID를 생성하며, 스레드의 ID는 ThreadId.get()이 처음 호출될 때 할당되고 후속 호출에서 동일하게 유지됩니다.
import java.util.concurrent.atomic.AtomicInteger;
public class ThreadId {
// Atomic integer containing the next thread ID to be assigned
private static final AtomicInteger nextId = new AtomicInteger(0);
// Thread local variable containing each thread's ID
private static final ThreadLocal<Integer> threadId =
new ThreadLocal<Integer>() {
@Override protected Integer initialValue() {
return nextId.getAndIncrement();
}
};
// Returns the current thread's unique ID, assigning it if necessary
public static int get() {
return threadId.get();
}
}
复制代码
요약하다
- 쓰레드 :
ThreadLocal
이름에서 알 수 있듯 쓰레드가 아니라 쓰레드의 지역화된 객체이다. 여러 스레드에서 작업하는 개체가ThreadLocal
유지ThreadLocal
되는 변수를 사용하는 경우 해당 변수를 사용하는 각 스레드에 대해 별도의 변수 복사본을 할당합니다. - Local:
ThreadLocal
类允许我们创建只能被同一个线程读写的变量。因此,如果一段代码含有一个ThreadLocal
变量的引用,即使两个线程同时执行这段代码,它们也无法访问到对方的ThreadLocal
变量。所以每一个线程都可以独立地改变自己的副本,而不会影响其他线程所对应的副本。从线程的角度看,这个变量就像是线程的本地变量,这也是类名中 “Local” 所要表达的意思。 - 线程的数据隔离:
ThreadLocal
提供了线程的局部变量副本,每个线程都可以通过set()
和get()
来对这个局部变量进行操作,但不会和其他线程的局部变量进行冲突。其实就是你创建了一个Threadlocal
变量,每个访问Threadlocal
变量的线程都有一个本地副本,往ThreadLocal
中填充的变量属于当前**线程,该变量对其他线程而言是隔离的。 - 有状态数据同步:
ThreadLocal
的作用是提供线程内的局部变量,这种变量在线程的生命周期内起作用,减少同一个线程内多个函数或者组件之间一些公共变量的传递的复杂度。并不是解决多线程问题的,而是解决单个线程内部的变量共享的问题
数据结构
一个 ThreadLocal 只能存储一个 Object 对象,如果需要存储多个 Object 对象那么就需要多个 ThreadLocal,如下图:
ThreadLocalMap
ThreadLocalMap
有点类似HashMap
的结构,只是HashMap
是由数组+链表实现的,而ThreadLocalMap
中并没有链表结构。
如何解决 hash 冲突 ?
首先了解一下 ThreadLocalMap 的 hash 算法 int i = key.threadLocalHashCode & (len-1)
ThreadLocalMap
中hash
算法很简单,这里i
就是当前 key 在散列表中对应的数组下标位置。这里最关键的就是threadLocalHashCode
值的计算,ThreadLocal
中有一个属性为HASH_INCREMENT = 0x61c88647
。这个值很特殊,它是斐波那契数 也叫 黄金分割数。hash
增量为 这个数字,带来的好处就是 hash
分布非常均匀。
由于 ThreadLocalMap 的数据结构 和 HashMap 不一样,所以解决冲突的方法也不同,HashMap 是利用链地址法解决的,而 ThreadLocalMap 是利用开放地址法。
开放地址法:
当我们往哈希表中插入数据时,如果某个数据经过哈希函数之后,存储位置已经被占用了,我们就从当前位置开始,依次往后查找,看是否有空闲位置,直到找到为止。
开放地址法下不同的解决冲突方案:
- 线性探测法
- 平方探测法
- 双散列
线性探测法
举例:
32 % 7 = 4 ;
13 % 7 = 6 ; 49 % 7 = 0 ;
55 % 7 = 6 发生冲突,下一个存储地址( 6 + 1 )% 7 = 0 ,仍然发生冲突, 再下一个存储地址:( 6 + 2 )% 7 = 1 未发生冲突,可以存入。
线性探测法要求 hash 表空间足够大,另外它还有一个问题:如果计算散列地址时,较多的元素计算出同一个散列地址,那么就会出现 一次聚集(primary clustering)
现象,明明还有空间,却都往一个地方挤。聚集地方的冲突会越来越多,探测时间也越来越长。如下图:
平方探测法
为了解决聚集的问题,平方探测法的思路是:探测时不一个挨着一个地向后探测,跳跃着探测。
跳跃着探测,这样就避免了一次聚集
但是它也有一个小问题,就是关键字 key 散列到同一位置后探测时的路径是一样的。这样对于许多落在同一位置的关键字而言,越是后面插入的元素,探测的时间就越长。这种现象被称作 二次聚集 (secondary clustering)
双散列
二次聚集 (secondary clustering)
出现的原因是由于对于落在同一个位置的关键字我们采取了一个依赖的函数(平方函数)来进行探测,它不会因为关键字的不同或其他因素而改变探测的路径。
- 那么可以让探测的方法依赖于关键字,再另外建一个 Hash 函数(hash2),对落在同一个位置的关键字进行再次的 Hash, 探测的时候就用依赖这个 Hash 值去探测,即为双散列。
- 由于 Hash2 函数不同于 Hash1, 所以两个不同的关键字 Hash1 值和 Hash2 值同时相同的概率就会变得非常低。这样就避免了二次聚集,但同时也付出了计算另一个散列函数 Hash2 的代价。
再散列(Rehashing)
- 当散列表元素太多(即装填因子α太大)时,查找效率会下降;最大装填因子一般取 0.5 <= α<= 0.85
- 当装填因子过大时,解决的方法是加倍扩大散列表,这个过程叫做“再散列(Rehashing)”
注意:散列表扩大时,原有元素需要重新计算放置到新表中
ThreadLocalMap 处理哈希冲突时使用的是线性探测法, 因此删除 key 的时候不能直接简单把 entry 置为 null; 它采用的方法是把后续每个不为 null 的 entry 进行 rehash, 放在合适的位置,保证不会因为删除导致线性探测失效中断。
具体参考源码:
private void set(ThreadLocal<?> key, Object value) {
// We don't use a fast path as with get() because it is at
// least as common to use set() to create new entries as
// it is to replace existing ones, in which case, a fast
// path would fail more often than not.
Entry[] tab = table;
int len = tab.length;
int i = key.threadLocalHashCode & (len-1);
for (Entry e = tab[i];
e != null;
e = tab[i = nextIndex(i, len)]) {
ThreadLocal<?> k = e.get();
...
}
private static int nextIndex(int i, int len) {
return ((i + 1 < len) ? i + 1 : 0);
}
复制代码
如何扩容?
ThreadLocalMap 在进行扩容之前会先进行清理工作,
有两种清除方式:
- expungeStaleEntry() 探测式清理
- cleanSomeSlots() 启发式清除
探测式清理: 是以当前遇到的 GC 元素开始,向后不断的清理。直到遇到 null 为止
private int expungeStaleEntry(int staleSlot) {
Entry[] tab = table;
int len = tab.length;
// 首先将 tab[staleSlot] 槽位的数据清空
// 然后设置 然后设置 size--
tab[staleSlot].value = null;
tab[staleSlot] = null;
size--;
// Rehash until we encounter null
Entry e;
int i;
// 以 staleSlot 位置往后迭代
for (i = nextIndex(staleSlot, len);
(e = tab[i]) != null;
i = nextIndex(i, len)) {
ThreadLocal<?> k = e.get();
// 如果遇到 key == null 的 过期数据,也是清空该槽位数据,然后 size--
if (k == null) {
e.value = null;
tab[i] = null;
size--;
} else {
// 如果 key != null 表示 key 没有过期,重新计算当前 key 的下标位置是不是当前槽位下标位置
// 如果不是 h != i ,那么说明产生了 hash 冲突 ,此时以新计算出来正确的槽位位置往后迭代
// 找到最后一个存放 entry 的位置
int h = k.threadLocalHashCode & (len - 1);
if (h != i) {
tab[i] = null;
// Unlike Knuth 6.4 Algorithm R, we must scan until
// null because multiple entries could have been stale.
---------- 翻译 ----------
/**
* 这段话提及了 Knuth 的 R 算法 我们和 R 算法的不同
* 我们必须扫描到 null,因为可能多个条目可能过期
* ThreadLocal 使用了弱引用,即有多种状态,(已回收、未回收)所以不能安全按照 R 算法实现
*/
while (tab[h] != null)
h = nextIndex(h, len);
tab[h] = e;
}
}
}
return i;
}
复制代码
探测式清理结束后,数组中过期的元素应该会被部分清除,而且之前发生 Hash 冲突
的 Entry 元素的位置应该更接近真实 hash 出来的位置。提升了查找的效率,这里探测式清理并不能全部清除数组中的过期元素,而是从传入的下标清理到第一个 Entry==null
为止。部分清除。其余的部分,需要通过 启发式清除
启发式清除:
Heuristically scan some cells looking for stale entries. This is invoked when either a new element is added, or another stale one has been expunged. It performs a logarithmic number of scans, as a balance between no scanning (fast but retains garbage) and a number of scans proportional to number of elements, that would find all garbage but would cause some insertions to take O(n) time.
试探的扫描一些单元格,寻找过期元素,也就是被垃圾回收的元素。当添加新元素或删除另一个过时元素时,将调用此函数。它执行对数扫描次数,作为不扫描(快速但保留垃圾)和与元素数量成比例的扫描次数之间的平衡,这将找到所有垃圾,但会导致一些插入花费 O(n)时间。
private boolean cleanSomeSlots(int i, int n) {
boolean removed = false;
Entry[] tab = table;
int len = tab.length;
// do while 循环 循环中不断的右移进行寻找被清理的过期元素
// 最终都会使用 expungeStaleEntry 进行处理
do {
i = nextIndex(i, len);
Entry e = tab[i];
if (e != null && e.get() == null) {
n = len;
removed = true;
i = expungeStaleEntry(i);
}
} while ( (n >>>= 1) != 0);
return removed;
}
复制代码
注:ThreadLocal 调用 set()
, get()
, remove()
都会对 key = null 进行清除 value 操作
在 ThreadLocalMap.set() 方法最后,如果执行完成启发式清理工作后,未清理到任何数据,且当前散列数组中 Entry 的数量已经达到了列表的扩容阀值 就开始执行 rehash()
逻辑。
if (!cleanSomeSlots(i, sz) && sz >= threshold)
rehash();
复制代码
Entry[] 数组的扩容阈值是 len * 2 / 3
,数组长度的三分之二。
// ThreadLocalMap 的初始容量是 16
private static final int INITIAL_CAPACITY = 16;
private void setThreshold(int len) {
threshold = len * 2 / 3;
}
复制代码
数组扩容之前会进行一次 全面的清理,直接用 fori
全部遍历数组中的每一个元素,如果发现过期的 Entry 就进行探测式清理。
private void rehash() {
expungeStaleEntries();
if (size >= threshold - threshold / 4)
resize();
}
private void expungeStaleEntries() {
Entry[] tab = table;
int len = tab.length;
for (int j = 0; j < len; j++) {
Entry e = tab[j];
if (e != null && e.get() == null)
expungeStaleEntry(j);
}
}
复制代码
全面清理结束之后,会进一步判断数组的长度是否满足 size >= threshold - threshold / 4
,也就是说,扩容前真正的阈值判断是 len * 2/3 * 3/4
,也就是阈值真正的值是 数组长度的 1/2。
每次扩容会将数组长度扩容至原来的 2 倍,然后遍历老数组,将老数组中的元素重新计算下标,并插入新数组。 插入时如果发生 Hash 冲突,那就向后遍历寻找空位。
private void resize() {
Entry[] oldTab = table;
int oldLen = oldTab.length;
int newLen = oldLen * 2;
Entry[] newTab = new Entry[newLen];
int count = 0;
for (Entry e : oldTab) {
if (e != null) {
ThreadLocal<?> k = e.get();
if (k == null) {
e.value = null; // Help the GC
} else {
int h = k.threadLocalHashCode & (newLen - 1);
while (newTab[h] != null)
h = nextIndex(h, newLen);
newTab[h] = e;
count++;
}
}
}
setThreshold(newLen);
size = count;
table = newTab;
}
复制代码
如何清理过期 key ?
ThreadLocalMap 的 set 方法通过调用 replaceStaleEntry 方法(其内部也是调用了启发示清除
和 探测式清除
)回收键为 null 的 Entry 对象的值(即为具体实例)以及 Entry 对象本身从而防止内存泄漏
private void set(ThreadLocal<?> key, Object value) {
// We don't use a fast path as with get() because it is at
// least as common to use set() to create new entries as
// it is to replace existing ones, in which case, a fast
// path would fail more often than not.
Entry[] tab = table;
int len = tab.length;
int i = key.threadLocalHashCode & (len-1);
for (Entry e = tab[i];
e != null;
e = tab[i = nextIndex(i, len)]) {
ThreadLocal<?> k = e.get();
if (k == key) {
e.value = value;
return;
}
if (k == null) {
replaceStaleEntry(key, value, i);
return;
}
}
...
复制代码
应该在我们不使用的时候,主动调用 remove 方法进行清理。
try {
// 其它业务逻辑
} finally {
threadLocal 对象。remove();
}
复制代码
弱引用
ThreadLocalMap 的 Entry 对 ThreadLocal 的引用为弱引用(数据结构那节图中的虚线),弱引用的对象在 GC 时会被回收,避免了 ThreadLocal 对象无法被回收的问题
这里复习一下 java 的对象引用
- 强引用:new 出来的一般对象,只要引用在就不会被回收
- 软引用:将要发生内存溢出之前回收
- 弱引用:生存到下一次垃圾收集发生之前
- 虚引用:目的是对象被收集器回收时收到一个系统通知
/**
* ThreadLocalMap is a customized hash map suitable only for
* maintaining thread local values. No operations are exported
* outside of the ThreadLocal class. The class is package private to
* allow declaration of fields in class Thread. To help deal with
* very large and long-lived usages, the hash table entries use
* WeakReferences for keys. However, since reference queues are not
* used, stale entries are guaranteed to be removed only when
* the table starts running out of space.
*/
static class ThreadLocalMap {
/**
* The entries in this hash map extend WeakReference, using
* its main ref field as the key (which is always a
* ThreadLocal object). Note that null keys (i.e. entry.get()
* == null) mean that the key is no longer referenced, so the
* entry can be expunged from table. Such entries are referred to
* as "stale entries" in the code that follows.
*/
static class Entry extends WeakReference<ThreadLocal<?>> {
/** The value associated with this ThreadLocal. */
Object value;
Entry(ThreadLocal<?> k, Object v) {
super(k);
value = v;
}
}
复制代码
每个线程在往ThreadLocal
里放值的时候,都会往自己的ThreadLocalMap
里存,读也是以ThreadLocal
作为引用,在自己的map
里找对应的key
,从而实现了线程隔离。
ThreadLocal 类型变量为何声明为 static ?
ThreadLocal 类的目的是为每个线程单独维护一个变量的值,避免线程间对同一变量的竞争访问,适用于一个变量在每个线程中需要有自己独立的值的场合。
如果把 ThreadLocal 声明为非静态,则在含有 ThreadLocal 变量的的每个实例中都会产生一个新对象,这是毫无意义的,只是增加了内存消耗。
InheritableThreadLocal
ThreadLocal 固然很好,但是子线程并不能取到父线程的 ThreadLocal 的变量:
private static ThreadLocal<Integer> integerThreadLocal = new ThreadLocal<>();
public static void main(String[] args) throws InterruptedException {
integerThreadLocal.set(1001); // father
new Thread(() -> System.out.println(Thread.currentThread().getName() + ":"
+ integerThreadLocal.get())).start();
}
//output:
Thread-0:null
复制代码
使用 ThreadLocal 不能继承父线程的 ThreadLocal 的内容,而使用 InheritableThreadLocal
时可以做到的,这就可以很好的在父子线程之间传递数据了。inheritableThreadLocal 继承了 ThreadLocal。
private static InheritableThreadLocal<Integer> inheritableThreadLocal =
new InheritableThreadLocal<>();
public static void main(String[] args) throws InterruptedException {
inheritableThreadLocal.set(1002); // father
new Thread(() -> System.out.println(Thread.currentThread().getName() + ":"
+ inheritableThreadLocal.get())).start();
}
//output:
Thread-0:1002
复制代码
这是如何实现的呢? 实现父子线程间的局部变量共享需要追溯到 Thread 对象的构造方法:
private Thread(ThreadGroup g, Runnable target, String name,
long stackSize, AccessControlContext acc,
boolean inheritThreadLocals) {
if (name == null) {
throw new NullPointerException("name cannot be null");
}
...
this.group = g;
this.daemon = parent.isDaemon();
this.priority = parent.getPriority();
if (security == null || isCCLOverridden(parent.getClass()))
this.contextClassLoader = parent.getContextClassLoader();
else
this.contextClassLoader = parent.contextClassLoader;
this.inheritedAccessControlContext =
acc != null ? acc : AccessController.getContext();
this.target = target;
setPriority(priority);
if (inheritThreadLocals && parent.inheritableThreadLocals != null)
this.inheritableThreadLocals =
ThreadLocal.createInheritedMap(parent.inheritableThreadLocals);
/* Stash the specified stack size in case the VM cares */
this.stackSize = stackSize;
/* Set thread ID */
this.tid = nextThreadID();
...
}
复制代码
其他 ThreadLocal 实现
Netty 的 FastThreadLocal :
对 JDK 中 ThreadLocal 进行优化,由于 ThreadLocal 底层存储数据是一个 ThreadLocalMap 结构,是一个数组结构,通过 threadLocalHashCode 查找在数组中的元素 Entry , 当 hash 冲突时,继续向前检测查找,所以当 Hash 冲突时,检索的效率就会降低。而 FastThreadLocal 则正是处理了这个问题,使其时间复杂度一直为 O(1)。可参考:这里
TransmittableThreadLocal:
TransmittableThreadLocal 是 Alibaba 开源的、用于解决 在使用线程池等会缓存线程的组件情况下传递 ThreadLocal 问题的 InheritableThreadLocal 扩展。
TransmittableThreadLocal
(TTL
):在使用线程池等会池化复用线程的执行组件情况下,提供ThreadLocal
值的传递功能,解决异步执行时上下文传递的问题。一个Java
标准库本应为框架/中间件设施开发提供的标配能力,本库功能聚焦 & 0 依赖,支持Java
17/16/15/14/13/12/11/10/9/8/7/6。
JDK
的 InheritableThreadLocal
类可以完成父线程到子线程的值传递。但对于使用线程池等会池化复用线程的执行组件的情况,线程由线程池创建好,并且线程是池化起来反复使用的;这时父子线程关系的ThreadLocal
值传递已经没有意义,应用需要的实际上是把 任务提交给线程池时的ThreadLocal
值传递到 任务执行时。
内存泄露
ThreadLocalMap 使用 ThreadLocal 的弱引用作为 key,如果一个 ThreadLocal 没有外部强引用来引用它,那么系统 GC 的时候,这个 ThreadLocal 势必会被回收,这样一来,ThreadLocalMap 中就会出现 key 为 null 的 Entry,就没有办法访问这些 key 为 null 的 Entry 的 value ,如果当前线程再迟迟不结束的话,这些 key 为 null 的 Entry 的 value 就会一直存在一条强引用链:
Thread Ref -> Thread -> ThreaLocalMap -> Entry ->value
永远无法回收,可能造成内存泄漏。
简单来说,就是因为 ThreadLocalMap 的 key 是弱引用,当 ThreadLocal 外部没有强引用时,就被回收,此时会出现 ThreadLocalMap<null,value> 的情况,而线程没有结束的情况下,导致这个 null 对应的 value 一直无法回收,可能导致泄漏。
ThreadLocal 内存泄漏的根源是:由于 ThreadLocalMap 的生命周期跟 Thread 一样长,如果没有手动删除对应 key 就会导致内存泄漏,而不是因为弱引用。
虽然通过上文的介绍,ThreadLocalMap 通过 replaceStaleEntry
以及启发式清除
、 探测式清除
等方法很大程度上解决了潜在的内存泄露问题,但对于开发者最好还是养成习惯。应该在我们不使用的时候,主动调用 remove 方法进行清理。
Spring 相关
spring 框架内部很多地方使用 ThreadLocal 来辅助实现,如事务管理。但是 Spring 根本就没有对 bean 的多线程安全问题做出任何保证与措施。
- 对于每个 bean 的线程安全问题,根本原因是每个 bean 自身的设计。
- 不要在 bean 中声明任何有状态的实例变量或类变量,如果必须如此,那么就使用 ThreadLocal 把变量变为线程私有的,
- 如果 bean 的实例变量或类变量需要在多个线程之间共享,那么就只能使用 synchronized、lock、CAS 等这些实现线程同步的方法了。
最佳实践
- ThreadLocal 并不解决多线程 共享 变量的问题
- 如果要同时满足变量在线程间的隔离与方法间的共享,ThreadLocal 再合适不过
- 保存线程上下文信息,在任意需要的地方可以获取
- 线程安全的,避免某些情况需要考虑线程安全必须同步带来的性能损失
- 应该在我们不使用的时候,主动调用 remove 方法进行清理。