一、图形API简介
1、OpenGL
OpenGL(Open Graphics Library)是⼀个跨编程语⾔言、跨平台的编程图形程序接⼝口,它将计算机的资源抽象称为⼀个OpenGL的对象,对这些资源的操作抽象为⼀个的OpenGL指令。
主要针对PC端
2、OpenGL ES
OpenGL ES (OpenGL for Embedded Systems)是 OpenGL三维图形 API 的⼦子集,针对⼿手机、PDA和游戏主机等嵌⼊入式设备⽽而设计,去除了了许多不不必要和性能较低的API接⼝口。
主要针对移动端
3、DirectX
DirectX 是由很多API组成的,DirectX并不不是⼀个单纯的图形API. 最重要的是DirectX是属于 Windows上⼀个多媒体处理理API。并不支持Windows以外的平台,所以不是跨平台框架, 按照性 质分类,可以分为四⼤大部分,显示部分、声⾳音部分、输⼊入部分和⽹网络部分。
主要针对windows
4、Metal
Metal : Apple为游戏开发者推出了了新的平台技术Metal,该技术能够为 3D 图像提⾼高 10 倍的渲染性能。Metal是Apple为了了解决3D渲染⽽而推出的框架。
apple公司推出的解决3D渲染推出的框架
二、图形API解决的问题
简单来说就是实现图形的底层渲染
- A. ⽐比如在游戏开发中,对于游戏场景/游戏⼈人物的渲染
- B. ⽐比如在⾳音视频开发中,对于视频解码后的数据渲染
- C. ⽐比如在地图引擎,对于地图上的数据渲染
- D. ⽐比如在动画中,实现动画的绘制
- E. ⽐比如在视频处理理中,对于视频加上滤镜效果
OpenGL /OpenGL ES/ Metal 在任何项⽬目中解决问题的本质就是
a、利用GPU芯⽚来高效渲染图形图像.
b、图形API 是iOS开发者唯一接近GPU的⽅式.
三、OpenGL专业名词解析
1、OpenGL 上下文 ( context )
-
在应⽤程序调⽤任何OpenGL的指令之前,首先需要创建⼀个OpenGL的上下文。这个上下⽂是⼀个⾮常庞⼤的状态机,保存了了OpenGL中的各种状态,这也是OpenGL指令执⾏的基础。
-
OpenGL的函数不管在哪个语⾔中,都是类似C语⾔一样的面向过程的函数。本质上都是对OpenGL上下⽂这个庞⼤的状态机中的某个状态或者对象进行操作。通过对OpenGL指令的封装,可以将OpenGL的相关调⽤封装成为⼀个⾯向对象的图形API。
-
由于OpenGL上下⽂是⼀个巨⼤的状态机,切换上下文往往会产生较⼤的开销,但是不同的绘制模块,可能需要使⽤完全独立的状态管理。因此,可以在应⽤程序中分别创建多个不同的上下文,在不同线程中使⽤不同的上下文,上下⽂之间共享纹理、缓冲区等资源。这样的⽅方案,会⽐比反复切换上下⽂,或者⼤量修改渲染状态,更加合理高效。
2、OpenGL 状态机
状态机是理理论上的一种机器.这个非常难以理解.所以我们把这个状态机这么理解:
- 状态机描述了了一个对象在其生命周期内所经历的各种状态,状态间的 转变,发生转变的动因、条件及转变中所执行的活动。
- 或者说,状态机是一种行为,说明对象在其⽣命周期中响应事件所经历的状态序列以及对那些状态事件的响应。因此具有以下特点
- 有记忆功能,能记住其当前的状态
- 可以接收输入,根据输入的内容和⾃己的原先状态,修改⾃己当前状态,并且可以有对应输出
- 当进入特殊状态(停机状态)的时候,变不再接收输入,停止工作;
类推到OpenGL 中来,可以这么理理解:
- OpenGL可以记录⾃己的状态(如当前所使用的颜色、是否开启了了混合功能等)
- OpenGL可以接收输入(当调用OpenGL函数的时候,实际上可以看成 OpenGL在接收我们的输入),如我们调用glColor3f,则OpenGL接收到 这个输⼊后会修改⾃己的“当前颜色”这个状态
- OpenGL可以进⼊停⽌状态,不再接收输入。在程序退出前,OpenGL总会先停⽌工作的
3、渲染
渲染:将图形/图像数据转换成2D空间图像操作叫做渲染(Rendering).
4、顶点数组和顶点缓冲区
顶点指的是我们在绘制一个图形时,它的顶点位置数据.⽽而这个数据可以直接存储在数组中或者将其缓存到GPU内存中
画图⼀般是先画好图像的骨架,然后再往骨架里⾯面填充颜色,这对于 OpenGL也是⼀一样的。顶点数据就是要画的图像的⻣骨架,和现实中不不同的 是,OpenGL中的图像都是由图元组成。在OpenGL ES中,有3种类型的图元:点、线、三角形。那这些顶点数据最终是存储在哪里的呢?开发者可以选择设定函数指针,在调用绘制方法的时候,直接由内存传⼊顶点数据,也就是说这部分数据之前是存储在内存当中的,被称为顶点数组。⽽性能更高的做法是,提前分配一块显存,将顶点数据预先传入到显存当中。这部分的显存,就被称为顶点缓冲区
5、着⾊器程序Shader
就全面的将固定渲染管线架构变为了可编程渲染管线。因此,OpenGL在实际调用绘制函数之前,还需要指定⼀个由shader编译成的着色器器程序。常见的着⾊器主要有顶点着色器(VertexShader),片段着⾊色器 (FragmentShader)/像素着色器(PixelShader),几何着色器(GeometryShader),曲面细分着色器(TessellationShader)。片段着色 器和像素着色器只是在OpenGL和DX中的不同叫法⽽而已。可惜的是,直到 OpenGLES 3.0,依然只⽀支持了了顶点着⾊器和⽚段着色器这两个最基础的着⾊器。
OpenGL在处理理shader时,和其他编译器器一样。通过编译、链接等步骤,⽣成了着色器程序(glProgram),着⾊器程序同时包含了顶点着⾊器和⽚段着⾊器的运算逻辑。在OpenGL进行绘制的时候,⾸首先由顶点着⾊器对传入的顶点数据进行运算。再通过图元装配,将顶点转换为图元。然后进⾏光栅化,将图元这种⽮量图形,转换为栅格化数据。最后,将栅格化数据传入片段着色器中进行运算。片段着色器会对栅格化数据中的每一个像素进行运算,并决定像素的颜色
6、管线
在OpenGL 下渲染图形,就会有经历一个一个节点.而这样的操作可以理解管线.大家可以想象成流水线.每个任务类似流水线般执行.任务之间有先后顺序. 管线是一个抽象的概念,之所以称之为管线是因为显卡在处理数据的时候是按照一个固定的顺序来的,⽽而且严格按照这个顺序。就像水从⼀根管子的一端流到另一端,这个顺序是不能打破的
7、固定管线
在早期的OpenGL 版本,它封装了很多种着色器程序块内置的一段包含了光照、坐标变换、裁剪等诸多功能的固定shader程序来完成,来帮助开发者 来完成图形的渲染.而开发者只需要传⼊入相应的参数,就能快速完成图形的渲染.类似于iOS开发会封装很多API,⽽而我们只需要调⽤用,就可以实现功能.不需要关注底层实现原理理,这种封装好的api就叫做固定管线。
但是由于OpenGL 的使⽤场景非常丰富,固定管线或存储着⾊器⽆无法完成每一 个业务.这时将相关部分开放成可编程,这种api叫做可编程管线
8、顶点着色器VertexShader
- 一般⽤用来处理理图形每个顶点变换(旋转/平移/投影等)
- 顶点着色器是OpenGL中用于计算顶点属性的程序。顶点着⾊器是逐顶点运算的程序,也就是说每个顶点数据都会执行⼀次顶点着⾊器,当然这是并行的,并且顶点着⾊器运算过程中⽆法访问其他顶点的数据
- 一般来说典型的需要计算的顶点属性主要包括顶点坐标变换、逐顶点光照 运算等等。顶点坐标由自身坐标系转换到归一化坐标系的运算,就是在这里发生的。
9、片元着色器程序
- 一般用来处理图形中每个像素点颜色计算和填充片段着⾊器是OpenGL中用于计算⽚段(像素)颜色的程序。
- 片段着⾊器是逐像素运算的程序,也就是说每个像素都会执行一次片段着色器,当然也是并行的
10、GLSL (OpenGL Shading Language)
- OpenGL着⾊色语⾔言(OpenGL Shading Language)是⽤用来在OpenGL中着色编程的语言,也即开发人员写的短小的⾃定义程序,他们是在图形卡的GPU (Graphic Processor Unit图形处理单元)上执行的,代替了固定的渲染管线的一部分,使渲染管线中不同层次具有可编程性。比如:视图转换、投影转换等。GLSL(GL Shading Language)的着⾊器代码分成2个部分: Vertex Shader(顶点着⾊色器器)和Fragment(⽚片元着⾊色器器)
11、光栅化Rasterization
- 是把顶点数据转换为片元的过程,具有将图转化为⼀个栅格组成的图象的作用,特点是每个元素对应帧缓冲区中的⼀像素。
- 光栅化就是把顶点数据转换为片元的过程。⽚元中的每一个元素对应于帧缓冲区中的一个像素。
- 光栅化其实是一种将⼏何图元变为二维图像的过程。该过程包含了了两部分的工作。
- 第一部分⼯作:决定窗口坐标中的哪些整型栅格区域被基本图元 占⽤用;
- 第二部分工作:分配一个颜色值和一个深度值到各个区域。光栅化过程产生的是片元
- 把物体的数学描述以及与物体相关的颜色信息转换为屏幕上用于对应位置的像素及用于填充像素的颜色,这个过程称为光栅化,这是一个将模拟信号转化为离散信号的过程
12、纹理
- 纹理可以理理解为图⽚.大家在渲染图形时需要在其编码填充图⽚片,为了使得场景更加逼真.而这里使用的图片,就是常说的纹理.但是在OpenGL,我们更加习惯叫纹理,⽽不是图片.
13、混合 Blending
在测试阶段之后,如果像素依然没有被剔除,那么像素的颜色将会和帧缓冲区中颜色附着上的颜⾊进行混合,混合的算法可以通过OpenGL的函数进行指定。但是OpenGL提供的混合算法是有限的,如果需要更加复杂的混合算法,一般可以通过像素着⾊器进行实现,当然性能会比原⽣的混合算法差一些.
14、变换矩阵(Transformation)
- 例如图形想发生平移,缩放,旋转变换.就需要使用变换矩阵.
15、投影矩阵Projection
- 用于将3D坐标转换为二维屏幕坐标,实际线条也将在二维坐标下进⾏绘制
16、渲染上屏/交换缓冲区(SwapBuffer)
- 渲染缓冲区一般映射的是系统的资源比如窗口。如果将图像直接渲染到窗口对应的渲染缓冲区,则可以将图像显示到屏幕上。
- 但是,值得注意的是,如果每个窗口只有一个缓冲区,那么在绘制过程中屏幕进行了刷新,窗口可能显示出不完整的图像
- 为了解决这个问题,常规的OpenGL程序至少都会有两个缓冲区。显示在屏幕上的称为屏幕缓冲区,没有显示的称为离屏缓冲区。在一个缓冲区渲染完成之后,通过将屏幕缓冲区和离屏缓冲区交换,实现图像在屏幕上的显示。
- 由于显示器的刷新一般是逐行进行的,因此为了了防止交换缓冲区的时候屏幕上下区域的图像分属于两个不同的帧,因此交换一般会等待显示器刷新完成的信号,在显示器两次刷新的间隔中进行交换,这个信号就被称为垂直同步信号,这个技术被称为垂直同步
- 使⽤了双缓冲区和垂直同步技术之后,由于总是要等待缓冲区交换之后再进行下一帧的渲染,使得帧率无法完全达到硬件允许的最高水平。为了解决这个问题,引入了了三缓冲区技术,在等待垂直同步时,来回交替渲染两个离屏的缓冲区,⽽垂直同步发生时,屏幕缓冲区和最近渲染完成的离屏缓冲区交换,实现充分利用硬件性能的目的
17、2D笛卡尔坐标系

18、3D笛卡尔坐标系

19、视口


20、投影方式
- 透视投影,正投影


21、坐标系

22、摄像机坐标系

23、坐标变化全局图
