搜索
AndroidDisplaySystem---SurfaceFlingerSurfaceFlinger是Androidmultimedia的一个部分，在Android的实现中它是一个service，提供系统范围内的surfacecomposer功能，它能够将各种应用程序的2D、3Dsurface进行组合。在具体讲SurfaceFlinger之前，我们先来看一下有关显示方面的一些基础知识。1、原理分析让我们首先看一下下面的屏幕简略图：每个应用程序可能对应着一个或者多个图形界面，而每个界面我们就称之为一个surface，或者说是window，在上面的图中我们能看到4个surface，一个是home界面，还有就是红、绿、蓝分别代表的3个surface，而两个button实际是homesurface里面的内容。在这里我们能看到我们进行图形显示所需要解决的问题：a、首先每个surface在屏幕上有它的位置，以及大小，然后每个surface里面还有要显示的内容，内容，大小，位置这些元素在我们改变应用程序的时候都可能会改变，改变时应该如何处理？b、然后就各个surface之间可能有重叠，比如说在上面的简略图中，绿色覆盖了蓝色，而红色又覆盖了绿色和蓝色以及下面的home，而且还具有一定透明度。这种层之间的关系应该如何描述？我们首先来看第二个问题，我们可以想象在屏幕平面的垂直方向还有一个Z轴，所有的surface根据在Z轴上的坐标来确定前后，这样就可以描述各个surface之间的上下覆盖关系了，而这个在Z轴上的顺序，图形上有个专业术语叫Z-order。对于第一个问题，我们需要一个结构来记录应用程序界面的位置，大小，以及一个buffer来记录需要显示的内容，所以这就是我们surface的概念，surface实际我们可以把它理解成一个容器，这个容器记录着应用程序界面的控制信息，比如说大小啊，位置啊，而它还有buffer来专门存储需要显示的内容。在这里还存在一个问题，那就是当存在图形重合的时候应该如何处理呢，而且可能有些surface还带有透明信息，这里就是我们SurfaceFlinger需要解决问题，它要把各个surface组合(compose/merge)成一个mainSurface，最后将MainSurface的内容发送给FB/V4l2Output，这样屏幕上就能看到我们想要的效果。在实际中对这些Surface进行merge可以采用两种方式：一种就是采用软件的形式来merge，还一种就是采用硬件的方式，软件的方式就是我们的SurfaceFlinger，而硬件的方式就是Overlay。2、OverLay因为硬件merge内容相对简单，我们首先来看overlay。Overlay实现的方式有很多，但都需要硬件的支持。以IMX51为例子，当IPU向内核申请FB的时候它会申请3个FB，一个是主屏的，还一个是副屏的，还一个就是Overlay的。简单地来说，Overlay就是我们将硬件所能接受的格式数据和控制信息送到这个OverlayFrameBuffer，由硬件驱动来负责mergeOverlaybuffer和主屏buffer中的内容。一般来说现在的硬件都只支持一个Overlay，主要用在视频播放以及camerapreview上，因为视频内容的不断变化用硬件Merge比用软件Merge要有效率得多，下面就是使用Overlay和不使用Overlay的过程：SurfaceFlinger中加入了Overlayhal，只要实现这个Overlayhal可以使用overlay的功能，这个头文件在：/hardware/libhardware/include/harware/Overlay.h，可以使用FB或者V4L2output来实现，这个可能是我们将来工作的内容。实现Overlayhal以后,使用Overlay接口的sequence就在：/frameworks/base/libs/surfaceflinger/tests/overlays/Overlays.cpp,这个sequnce是很重要的，后面我们会讲到。不过在实际中我们不一定需要实现Overlayhal,如果了解硬件的话，可以在驱动中直接把这些信息送到OverlayBuffer，而不需要走上层的Android。Fsl现在的Camerapreview就是采用的这种方式，而且我粗略看了r3补丁的内容，应该在opencore的视频播放这块也实现了Overlay。3、SurfaceFlinger现在就来看看最复杂的SurfaceFlinger，首先要明确的是SurfaceFlinger只是负责mergeSurface的控制，比如说计算出两个Surface重叠的区域，至于Surface需要显示的内容，则通过skia，opengl和pixflinger来计算。所以我们在介绍SurfaceFlinger之前先忽略里面存储的内容究竟是什么，先弄清楚它对merge的一系列控制的过程，然后再结合2D，3D引擎来看它的处理过程。3.1、Surface的创建过程前面提到了每个应用程序可能有一个或者多个Surface，我们需要一些数据结构来存储我们的窗口信息，我们还需要buffer来存储我们的窗口内容，而且最主要的是我们应该确定一个方案来和SurfaceFlinger来交互这些信息，让我们首先看看下面的Surface创建过程的类图：在IBinder左边的就是客户端部分，也就是需要窗口显示的应用程序，而右边就是我们的SurfaceFlingerservice。创建一个surface分为两个过程：一个是在SurfaceFlinger这边为每个应用程序(Client)创建一个管理结构，另一个就是创建存储内容的buffer，以及在这个buffer上的一系列画图之类的操作。因为SurfaceFlinger要管理多个应用程序的多个窗口界面，为了进行管理它提供了一个Client类，每个来请求服务的应用程序就对应了一个Client。因为surface是在SurfaceFlinger创建的，必须返回一个结构让应用程序知道自己申请的surface信息，因此SurfaceFlinger将Client创建的控制结构per_client_cblk_t经过BClient的封装以后返回给SurfaceComposerClient，并向应用程序提供了一组创建和销毁surface的操作：为应用程序创建一个Client以后，下面需要做的就是为这个Client分配Surface，Flinger为每个Client提供了8M的空间，包括控制信息和存储内容的buffer。在说创建surface之前首先要理解layer这个概念，回到我们前面看的屏幕简略图，实际上每个窗口就是z轴上的一个layer，layer提供了对窗口控制信息的操作，以及内容的处理(调用opengl或者skia)，也就是说SurfaceFlinger只是控制什么时候应该进行这些信息的处理以及处理的过程，所有实际的处理都是在layer中进行的，可以理解为创建一个Surface就是创建一个Layer。不得不说Android这些乱七八糟的名字，让我绕了很久……创建Layer的过程，首先是由这个应用程序的Client根据应用程序的pid生成一个唯一的layerID，然后根据大小，位置，格式啊之类的信息创建出Layer。在Layer里面有一个嵌套的Surface类，它主要包含一个ISurfaceFlingerClient::Surface_data_t，包含了这个Surace的统一标识符以及buffer信息等，提供给应用程序使用。最后应用程序会根据返回来的ISurface信息等创建自己的一个Surface。Android提供了4种类型的layer供选择，每个layer对应一种类型的窗口，并对应这种窗口相应的操作：Layer，LayerBlur，LayerBuffer，LayerDim。不得不说再说Android起的乱七八糟的名字，LayerBuffer很容易让人理解成是Layer的Buffer，它实际上是一种Layer类型。各个Layer的效果大家可以参考Surface.java里面的描述：/frameworks/base/core/java/android/view/surface.java。这里要重点说一下两种Layer，一个是Layer(normlayer)，另一个是LayerBuffer。NormLayer是Android种使用最多的一种Layer，一般的应用程序在创建surface的时候都是采用的这样的layer，了解NormalLayer可以让我们知道Android进行display过程中的一些基础原理。NormalLayer为每个Surface分配两个buffer：frontbuffer和backbuffer，这个前后是相对的概念，他们是可以进行Flip的。Frontbuffer用于SurfaceFlinger进行显示，而Backbuffer用于应用程序进行画图，当Backbuffer填满数据(dirty)以后，就会flip，backbuffer就变成了frontbuffer用于显示，而frontbuffer就变成了backbuffer用来画图，这两个buffer的大小是根据surface的大小格式动态变化的。这个动态变化的实现我没仔细看，可以参照：/frameworks/base/lib/surfaceflinger/layer.cpp中的setbuffers()。两个bufferflip的方式是Androiddisplay中的一个重要实现方式，不只是每个Surface这么实现，最后写入FB的mainsurface也是采用的这种方式。LayerBuffer也是将来必定会用到的一个Layer，个人觉得也是最复杂的一个layer，它不具备renderbuffer，主要用在camerapreview/videoplayback上。它提供了两种实现方式，一种就是postbuffer，另外一种就是我们前面提到的overlay，Overlay的接口实际上就是在这个layer上实现的。不管是overlay还是postbuffer都是指这个layer的数据来源自其他地方，只是postbuffer是通过软件的方式最后还是将这个layermerge主的FB，而overlay则是通过硬件merge的方式来实现。与这个layer紧密联系在一起的是ISurface这个接口，通过它来注册数据来源，下面我举个例子来说明这两种方式的使用方法：前面几个步骤是通用的：//要使用Surfaceflinger的服务必须先创建一个clientspSurfaceComposerClientclient=newSurfaceComposerClient();//然后向Surfaceflinger申请一个Surface，surface类型为PushBuffersspSurfacesurface=client-createSurface(getpid(),0,320,240,PIXEL_FORMAT_UNKNOWN,ISurfaceComposer::ePushBuffers);//然后取得ISurface这个接口，getISurface()这个函数的调用时具有权限限制的，必须在Surface.h中打开：/framewoks/base/include/ui/Surface.hspISurfaceisurface=Test::getISurface(surface);//overlay方式下就创建overlay，然后就可以使用overlay的接口了spOverlayRefref=isurface-createOverlay(320,240,PIXEL_FORMAT_RGB_565);spOverlayverlay=newOverlay(ref);//postbuffer方式下，首先要创建一个buffer，然后将buffe