底层探究:抖音app是如何做线程优化的?-轻识

背景

在对某音App进行研究时，发现其在线程方面做了一些优化工作，并且其解决的问题也是之前我在做线上卡顿优化时遇到的，因此对其具体实现方案做了深入分析。本文是对其相关源码的研究加上个人理解的一个小结。

问题

创建线程卡顿

在Java中，真正的内核线程被创建是在执行 start函数的时候，底层涉及到一系列的操作，包括栈内存空间分配、内核线程创建等操作，这些操作在某些情况下可能出现长耗时现象，比如由于linux系统中，所有系统线程的创建在内核层是由一个专门的线程排队实现，那么是否可能由于队列较长同时内核调度出现问题而出现长耗时问题？具体的原因因为没有在线下复现过此类问题，因此只能大胆猜测，不过在线上确实收集到一些case, 以下是线上收集到一个阻塞现场样本:

那么是不是不要直接在主线程创建其他线程，而是直接使用线程池调度任务就没有问题？让我们看下 ThreadPoolExecutor.execute(Runnable command)的源码实现

从文档中可以知道，execute函数的执行在很多情况下会创建(JavaThread)线程，并且跟踪其内部实现后可以发现创建Java线程对象后，也会立即在当前线程执行start函数。

来看一下线上收集到的一个在主线程使用线程池调度任务依旧发生卡顿的现场。

线程数过多的问题

在ART虚拟机中，每创建一个线程都需要为其分配独立的Java栈空间，当Java层未显示设置栈空间大小时，native层会在FixStackSize函数会分配默认的栈空间大小.

从这个实现中，可以看出每个线程至少会占用1M的虚拟内存大小，而在32位系统上，由于每个进程可分配的用户用户空间虚拟内存大小只有3G，如果一个应用的线程数过多，而当进程虚拟内存空间不足时，创建线程的动作就可能导致OOM问题.

另一个问题是某些厂商的应用所能创建的线程数相比原生Android系统有更严格的限制，比如某些华为的机型限制了每个进程所能创建的线程数为500, 因此即使是64位机型，线程数不做控制也可能出现因为线程数过多导致的OOM问题。

优化思路

线程收敛

首先在一个Android App中存在以下几种情况会使用到线程

通过 Thread类直接创建使用线程
通过 ThreadPoolExecutor 使用线程
通过 ThreadTimer 使用线程
通过 AsyncTask 使用线程
通过 HandlerThread 使用线程

线程收敛的大致思路是, 我们会预先创建上述几个类的实现类，并在自己的实现类中做修改，之后通过编译期的字节码修改，将App中上述使用线程的地方都替换为我们的实现类。

使用以上线程相关类一般有几种方式：

直接通过 new 原生类创建相关实例
继承原生类，之后在代码中使用 new 指令创建自己的继承类实例

因此这里的替换包括：

修改类的继承关系，比如将所有继承 Thread类的地方，替换为我们实现的 PThread
修改上述几种类直接创建实例的地方，比如将代码中存在 new ThreadPoolExecutor(..) 调用的地方替换为我们实现的 PThreadPoolExecutor

通过字码码修改，将代码中所有使用线程的地方替换为我们的实现类后，就可以在我们的实现类做一些线程收敛的操作。

Thread类线程收敛

在Java虚拟机中，每个Java Thread 都对应一个内核线程，并且线程的创建实际上是在调用 start()函数才开始创建的，那么我们其实可以修改start()函数的实现，将其任务调度到指定的一个线程池做执行, 示例代码如下

      class ThreadProxy : Thread() {
    override fun start() {
        SuperThreadPoolExecutor.execute({
            this@ThreadProxy.run()
        }, priority = priority)
    }
}

线程池线程收敛

由于每个ThreadPoolExecutor实例内部都有独立的线程缓存池，不同ThreadPoolExecutor实例之间的缓存互不干扰，在一个大型App中可能存在非常多的线程池，所有的线程池加起来导致应用的最低线程数不容小视。

另外也因为线程池是独立的，线程的创建和回收也都是独立的，不能从整个App的任务角度来调度。举个例子: 比如A线程池因为空闲正在释放某个线程，同时B线程池确可能正因为可工作线程数不足正在创建线程，如果可以把所有的线程池合并成一个统一的大线程池，就可以避免类似的场景。

核心的实现思路为:

首先将所有直接继承 ThreadPoolExecutor的类替换为继承 ThreadPoolExecutorProxy，以及代码中所有new ThreadPoolExecutor(..)类替换为 new ThreadPoolExecutorProxy(...)
ThreadPoolExecutorProxy 持有一个大线程池实例 BigThreadPool ，该线程池实例为应用中所有线程池共用，因此其核心线程数可以根据应用当前实际情况做调整，比如如果你的应用当前线程数平均是200，你可以将BigThreadPool 核心线程设置为150后，再观察其调度情况。
在 ThreadPoolExecutorProxy 的 addWorker 函数中，将任务调度到 BigThreadPool中执行

AsyncTask 线程收敛

对于AsyncTask也可以用同样的方式实现，在execute1函数中调度到一个统一的线程池执行

      
public abstract class AsyncTaskProxy<Params,Progress,Result> extends AsyncTask<Params,Progress,Result>{

    private static final Executor THREAD_POOL_EXECUTOR = new PThreadPoolExecutor(0,20,
            3, TimeUnit.MILLISECONDS,
            new SynchronousQueue<>(),new DefaultThreadFactory("PThreadAsyncTask"));


    public static void execute(Runnable runnable){
        THREAD_POOL_EXECUTOR.execute(runnable);
    }

    /**
     * TODO 使用插桩 将所有 execute 函数调用替换为 execute1
     * @param params  The parameters of the task.
     * @return This instance of AsyncTask.
     */
    public AsyncTask<Params, Progress, Result> execute1(Params... params) {
        return executeOnExecutor(THREAD_POOL_EXECUTOR,params);
    }


}

Timer类

Timer类一般项目中使用的地方并不多，并且由于Timer一般对任务间隔准确性有比较高的要求，如果收敛到线程池执行，如果某些Timer类执行的task比较耗时，可能会影响原业务，因此暂不做收敛。

卡顿优化

针对在主线程执行线程创建可能会出现的阻塞问题，可以判断下当前线程，如果是主线程则调度到一个专门负责创建线程的线程进行工作。

          private val asyncExecuteHandler  by lazy {
        val worker = HandlerThread("asyncExecuteWorker")
        worker.start()
        return@lazy Handler(worker.looper)
    }


    fun execute(runnable: Runnable, priority: Int) {
        if (Looper.getMainLooper().thread == Thread.currentThread() && asyncExecute
        ){
            //异步执行
            asyncExecuteHandler.post {
                mExecutor.execute(runnable,priority)
            }
        }else{
            mExecutor.execute(runnable, priority)
        }

    }

32位系统线程栈空间优化

在问题分析中的环节中，我们已经知道每个线程至少需要占用 1M的虚拟内存，而32位应用的虚拟内存空间又有限，如果希望在线程这里挤出一点虚拟内存空间来，可以参考微信的一个方案，其利用PLT hook需改了创建线程时的栈空间大小。

而在另一篇 https://juejin.cn/post/7209306358582853688#heading-3 技术文章中，也介绍了另一个取巧的方案：在Java层直接配置一个负值，从而起到一样的效果

OOM了? 我还能再抢救下！

针对在创建线程时由于内存空间不足或线程数限制抛出的OOM问题，可以做一些兜底处理, 比如将任务调度到一个预先创建的线程池进行排队处理, 而这个线程池核心线程和最大线程是一致的因此不会出现创建线程的动作，也就不会出现OOM异常了。

另外由于一个应用可能会存在非常多的线程池，每个线程池都会设置一些核心线程数，要知道默认情况下核心线程是不会被回收的，即使一直处于空闲状态，该特性是由线程池的 allowCoreThreadTimeOut控制。

该参数值可通过 allowCoreThreadTimeOut(value) 函数修改

从具体实现中可以看出，当value值和当前值不同且 value 为true时会触发 interruptIdleWorkers()函数, 在该函数中，会对空闲Worker 调用 interrupt来中断对应线程

因此当创建线程出现OOM时，可以尝试通过调用线程池的 allowCoreThreadTimeOut 来触发 interruptIdleWorkers 实现空闲线程的回收。具体实现代码如下:

因此我们可以在每个线程池创建后，将这些线程池用弱引用队列保存起来，当线程start 或者某个线程池execute 出现OOM异常时，通过这种方式来实现线程回收。

线程定位

线程定位主要是指在进行问题分析时，希望直接从线程名中定位到创建该线程的业务，关于此类优化的文章网上已经介绍的比较多了，基本实现是通过ASM 修改调用函数，将当前类的类名或类名+函数名作为兜底线程名设置。这里就不详细介绍了，感兴趣的可以看 booster 中的实现

字节码修改工具

前文讲了一些优化方式，其中涉及到一个必要的操作是进行字节码修改，这些需求可以概括为如下

替换类的继承关系，比如将所有继承于 java.lang.Thread的类，替换为我们自己实现的 ProxyThread
替换 new 指令的实例类型，比如将代码中所有 new Thread(..) 的调用替换为 new ProxyThread(...)

针对这些通用的修改，没必要每次遇到类似需求时都进行插件的单独开发，因此我将这种修改能力集成到开源库 LanceX插件中:https://github.com/Knight-ZXW/LancetX ，我们可以通过以下注解方便实现上述功能。

替换 new 指令

      @Weaver
@Group("threadOptimize")
public class ThreadOptimize {

    @ReplaceNewInvoke(beforeType = "java.lang.Thread",
    afterType = "com.knightboost.lancetx.ProxyThread")
    public static void replaceNewThread(){
    }

}

这里的 beforeType表示原类型，afterType 表示替换后的类型，使用该插件在项目编译后，项目中的如下源码

会被自动替换为

替换类的继承关系

      @Weaver
@Group("threadOptimize")
public class ThreadOptimize {

    @ChangeClassExtends(
            beforeExtends = "java.lang.Thread",
            afterExtends = "com.knightboost.lancetx.ProxyThread"
    )
    public void changeExtendThread(){};

    

}

这里的beforeExtends表示原继承父类，afterExtends表示修改后的继承父类，在项目编译后，如下源码

会被自动替换为

总结

本文主要介绍了有关线程的几个方面的优化

主线程创建线程耗时优化
线程数收敛优化
线程默认虚拟空间优化
OOM优化

这些不同的优化手段需要根据项目的实际情况进行选择，比如主线程创建线程优化的实现方面比较简单、影响面也比较低，可以优先实施。而线程数收敛需要涉及到字节码插桩、各种对象代理复杂度会高一些，可以根据当前项目的实际线程数情况再考虑是否需要优化。

线程OOM问题主要出现在低端设备或一些特定厂商的机型上，可能对于某些大厂的用户基数来说有一定的收益，如果你的App日活并没有那么大，这个优化的优先级也是较低的。

性能优化专栏历史文章：

文章	地址
抖音消息调度优化启动速度方案的实践	https://juejin.cn/post/7217664665090080826
扒一扒抖音是如何做线程优化的	https://juejin.cn/post/7212446354920407096
监控Android Looper Message调度的另一种姿势	https://juejin.cn/post/7139741012456374279
Android 高版本采集系统CPU使用率的方式	https://juejin.cn/post/7135034198158475300
Android 平台下的 Method Trace 实现及应用	https://juejin.cn/post/7107137302043820039
Android 如何解决使用SharedPreferences 造成的卡顿、ANR问题	https://juejin.cn/post/7054766647026352158
基于JVMTI 实现性能监控	https://juejin.cn/post/6942782366993612813

本文作者：卓修武，公众号：编程物语。
原文连接：https://juejin.cn/post/7212446354920407096

「点击关注，Carson每天带你学习一个Android知识点。」

最后福利：学习资料赠送

福利：本人亲自整理的「Android学习资料」
数量：10名
参与方式：「点击右下角”在看“并回复截图到公众号，随机抽取」
点击就能升职、加薪水！

底层探究:抖音app是如何做线程优化的?

背景

问题