阿里妹导读:Flutter是一款开源的移动跨平台UI开发套件,它不仅与现存的Native代码兼容,还能帮你用Dart语言快速开发高质量的跨平台App。
本文由闲鱼技术团队福居撰写,结合FlutterEngine官方文档讨论了FlutterEngine内的线程管理模式以及DartIsolate机制,希望与大家一起探讨。
在终端业务需求日益复杂,版本迭代日趋于频繁的情况下,我们迫切需要优秀的多端统一跨平台开发方案以提升研发效率。目前已有类似RN,Weex这种通过JavaScript桥接到Native的终端技术方案。但是,基于JavaScript的桥接模式有JavaScriptCore自身的性能瓶颈和桥接层的消耗。
目前闲鱼团队在积极尝试和探索Flutter在业务中的实践以追求更加高效,高性能的跨平台终端方案。同为跨平台技术,Flutter有何优势呢?
Flutter在Rlease模式下直接将Dart编译成本地机器码,避免了代码解释运行的性能消耗。Dart本身针对高频率循环刷新(如屏幕每秒60帧)在内存层面进行了优化,使得Dart运行时在屏幕绘制实现如鱼得水。Flutter实现了自己的图形绘制避免了Native桥接。
Flutter在应用层使用Dart进行开发,而支撑它的是用C++开发的引擎。
为了更好地应用和实践,我们需要深入到引擎内部去理解的它的实现原理和构造。线程一直是在开发当中令人比较头疼的话题,我们也在实践过程中踩过不少坑,本文就Flutter引擎的线程模式进行一些探讨。
Flutter线程管理
FlutterEngine要求Embeder提供四个TaskRunner,Embeder指的是将引擎移植到平台的中间层代码。这四个主要的TaskRunner包括:
PlatformTaskRunner
FlutterEngine的主TaskRunner,类似于AndroidMainThread或者iOS的MainThread。但是需要注意他们还是有区别的。
一般来说,一个Flutter应用启动的时候会创建一个Engine实例,Engine创建的时候会创建一个线程供PlatformRunner使用。
跟FlutterEngine的所有交互(接口调用)必须在PlatformThread进行,否则可能导致无法预期的异常。这跟iOSUI相关的操作都必须在主线程进行相类似。需要注意的是在FlutterEngine中有很多模块都是非线程安全的。
规则很简单,对于FlutterEngine的接口调用都需保证在PlatformThread进行。
阻塞PlatformThread不会直接导致Flutter应用的卡顿(跟iOSandroid主线程不同)。尽管如此,也不建议在这个Runner执行繁重的操作,长时间卡住PlatformThread应用有可能会被系统Watchdog强杀。
UITaskRunnerThread(DartRunner)
UITaskRunner用于执行Dartrootisolate代码(isolate我们后面会讲到,姑且先简单理解为DartVM里面的线程)。Rootisolate比较特殊,它绑定了不少Flutter需要的函数方法,以便进行渲染相关操作。对于每一帧,引擎要做的事情有:
Rootisolate通知FlutterEngine有帧需要渲染。FlutterEngine通知平台,需要在下一个vsync的时候得到通知。平台等待下一个vsync对创建的对象和Widgets进行Layout并生成一个LayerTree,这个Tree马上被提交给FlutterEngine。当前阶段没有进行任何光栅化,这个步骤仅是生成了对需要绘制内容的描述。创建或者更新Tree,这个Tree包含了用于屏幕上显示Widgets的语义信息。这个东西主要用于平台相关的辅助Accessibility元素的配置和渲染。
除了渲染相关逻辑之外RootIsolate还是处理来自NativePlugins的消息,Timers,Microtasks和异步IO等操作。RootIsolate负责创建管理的LayerTree最终决定绘制到屏幕上的内容。因此这个线程的过载会直接导致卡顿掉帧。
GPUTaskRunner
GPUTaskRunner主要用于执行设备GPU的指令。UITaskRunner创建的LayerTree是跨平台的,它不关心到底由谁来完成绘制。GPUTaskRunner负责将LayerTree提供的信息转化为平台可执行的GPU指令。GPUTaskRunner同时负责绘制所需要的GPU资源的管理。资源主要包括平台Framebuffer,Surface,Texture和Buffers等。
一般来说UIRunner和GPURunner跑在不同的线程。GPURunner会根据目前帧执行的进度去向UIRunner要求下一帧的数据,在任务繁重的时候可能会告诉UIRunner延迟任务。这种调度机制确保GPURunner不至于过载,同时也避免了UIRunner不必要的消耗。
建议为每一个Engine实例都新建一个专用的GPURunner线程。
IOTaskRunner
前面讨论的几个Runner对于执行流畅度有比较高的要求。PlatformRunner过载可能导致系统WatchDog强杀,UI和GPURunner过载则可能导致Flutter应用的卡顿。但是GPU线程的一些必要操作,例如IO,放到哪里执行呢?答案正是IORunner。
IORunner的主要功能是从图片存储(比如磁盘)中读取压缩的图片格式,将图片数据进行处理为GPURunner的渲染做好准备。IORunner首先要读取压缩的图片二进制数据(比如PNG,JPEG),将其解压转换成GPU能够处理的格式然后将数据上传到GPU。
获取诸如ui.Image这样的资源只有通过asynccall去调用,当调用发生的时候FlutterFramework告诉IORunner进行加载的异步操作。
IORunner直接决定了图片和其它一些资源加载的延迟间接影响性能。所以建议为IORunner创建一个专用的线程。
各个平台目前默认Runner线程实现
前面我们提到EngineRunner的线程可以按照实际情况进行配置,各个平台目前有自己的实现策略。
iOS和Android
Mobile平台上面每一个Engine实例启动的时候会为UI,GPU,IORunner各自创建一个新的线程。所有Engine实例共享同一个PlatformRunner和线程。
Fuchsia
每一个Engine实例都为UI,GPU,IO,PlatformRunner创建各自新的线程。
自定义配置线程可行方案
我们注意到Mobile平台上面,PlatformRunner和Thread是共享的。引擎源码如下:
这里我们可以进行改动,让引擎每个实例初始化独自的线程:
理论上你可以配置任意线程供其使用,不过最好遵循最佳实践。
具体代码导读
iOSAndroid平台可以参考FlutterEngine源码:
Dartisolate机制
isolate定义
isolate是Dart对actor并发模式的实现。运行中的Dart程序由一个或多个actor组成,这些actor也就是Dart概念里面的isolate。isolate是有自己的内存和单线程控制的运行实体。isolate本身的意思是“隔离”,因为isolate之间的内存在逻辑上是隔离的。isolate中的代码是按顺序执行的,任何Dart程序的并发都是运行多个isolate的结果。因为Dart没有共享内存的并发,没有竞争的可能性所以不需要锁,也就不用担心死锁的问题。
isolate之间的通信
由于isolate之间没有共享内存,所以他们之间的通信唯一方式只能是通过Port进行,而且Dart中的消息传递总是异步的。
isolate与普通线程的区别
我们可以看到isolate神似Thread,但实际上两者有本质的区别。操作系统内的线程之间是可以有共享内存的而isolate没有,这是最为关键的区别。
isolate实现简述
我们可以阅读Dart源码里面的isolate.cc文件看看isolate的具体实现。我们可以看到在isolate创建的时候有以下几个主要步骤:
初始化isolate数据结构初始化堆内存(Heap)进入新创建的isolate,使用跟isolate一对一的线程运行isolate配置Port配置消息处理机制(MessageHandler)配置Debugger,如果有必要的话将isolate注册到全局监控器(Monitor)
我们看看isolate开始运行的主要代码:
我们可以看到Dart本身抽象了isolate和thread,实际上底层还是使用操作系统的提供的OSThread。
FlutterEngineRunners与DartIsolate
有朋友看到这里可能会问既然FlutterEngine有自己的Runner,那为何还要Dart的Isolate呢,他们之间又是什么关系呢?
那我们还要从Runner具体的实现说起,Runner是一个抽象概念,我们可以往Runner里面提交任务,任务被Runner放到它所在的线程去执行,这跟iOSGCD的执行队列很像。我们查看iOSRunner的实现实际上里面是一个loop,这个loop就是CFRunloop,在iOS平台上Runner具体实现就是CFRunloop。被提交的任务被放到CFRunloop去执行。
Dart的Isolate是Dart虚拟机自己管理的,FlutterEngine无法直接访问。RootIsolate通过Dart的C++调用能力把UI渲染相关的任务提交到UIRunner执行这样就可以跟FlutterEngine相关模块进行交互,FlutterUI相关的任务也被提交到UIRunner也可以相应的给Isolate一些事件通知,UIRunner同时也处理来自App方面NativePlugin的任务。
所以简单来说Dartisolate跟FlutterRunner是相互独立的,他们通过任务调度机制相互协作。
踩坑血泪史
理解FlutterEngine的原理以及Dart虚拟机的异步实现,让我们避免采坑,更加灵活高效地进行开发。在项目应用过程我们踩过不少坑,在采坑和填坑的过程中不断学习。这里我简单聊其中一个具体的案例:当时我们需要把Native加载好图片数据注册到Engine里面去以便生成Texture渲染,使用完资源我们需要将其移除,看起来非常清晰的逻辑竟然造成了野指针问题。后来排查到注册的时候在一个子线程进行而移除却在Platform线程进行,在弄清楚线程结构以后问题也就迎刃而解。
结语
本文我们主要讨论了Flutter引擎层面的线程配置管理以及Dart本身isolate的机制。在深入了解Flutter线程机制以后,我们在开发过程当中能够更加得心应手。在理解Flutter设计的过程中,我们得到启发如何去设计类似应用内的线程结构。
目前我们在探索单个FlutterEngine以组件的方式启动,多个FlutterEngine实例同时存在通过Port来进行通信的可能方案。欢迎感兴趣的朋友一起交流!
参考资料: