嵌入式系统超标量体系CPU的高效软件优化技术

admin

引言
       
        　　公司基于超标量体系结构的某款PowerPC芯片开发出了电力系列自动化装置，它对实时性要求很高。但软件的运行效率低，这就需要我们针对该芯片的超标量体系结构特点进行软件优化。实践中，在针对性优化后进行对比实验，装置软件运行效率大大提高，实际效果良好。
       
        1　超标量体系结构PowerPC芯片特点
       
        1.1　超标量体系结构芯片
       
        　　PowerPC芯片属于超标量体系结构。超标量体系结构是一种微处理器设计模式，它能够在一个时钟周期内执行多条指令。在超标量体系结构设计中，处理器或指令编译器判断指令能否独立于其他顺序指令而执行,或是依赖于另一指令，必须按顺序执行。然后处理器使用多个执行单元并行执行两个或更多独立指令。
       
        1.2　PowerPC芯片特点
       
        1.2.1　流水线机制
       
        　　该芯片一条指令,可简单分为取指、译码、执行,提交4个时钟周期操作。同一周期,CPU的不同部件可并行执行多条指令的不同操作,从而达到指令并行,提高CPU的吞吐率。
       
        1.2.2　总线频率
       
        　　该芯片的主频达到400 MHz，但访问内存的总线频率是100 MHz，只有主频的1/4。由此可见，当访问内存数据时，其运行时间比执行计算程序慢多了。当系统大量访问内存时，系统运行速度会明显下降。
       
        1.2.3　16 KB的指令Cache和16 KB的数据Cache
       
        　　PowerPC芯片中指令Cache和数据Cache中访问指令和数据的速度与主频一样。同样，当读取指令和数据时在Cache中读取的速度约是内存中读取速度的4倍。
       
        （1） 指令Cache运作机制
       
        　　每次指令运行时若指令未在指令Cache中,即指令Cache未命中,则一次从内存中读出待执行的连续32字节(32字节相当于8个浮点数)指令到指令Cache。同时将指令Cache中最久未访问的代码淘汰出Cache。32字节相当于3~5条普通C语言代码。
       
        （2） 数据Cache运作机制
       
        　　每次访问数据时,若数据未在数据Cache中,即数据Cache未命中,则一次从内存中读出连续32字节数据到数据Cache。同时将数据Cache中最久未访问的数据淘汰出Cache。
       
        2　从超标量流水线机制的角度进行优化
       
        2.1　超标量流水线机制对程序效率的分析
       
        　　从前面的流水线机制可以看到，若指令能达到尽可能的并行，程序运行效率会明显提高。这就需要优化代码，让编译器优化成并行指令。
       
        2.2　从提高指令并行和流水线不被打断的角度进行优化
       
        　　要提高指令并行,主要就要提高代码并行可能性。防止流水线不被打断,就是要尽量避免跳转。
       
        2.2.1　循环体代码并行执行的优化
       
        　　代码举例1：
        for(i=0;i<1000;i++) {
        Y=Y+Y[i-1];
        }
       
        　　该代码循环体代码之间因为存在相关数据,导致代码无法被CPU并行执行,需要避免类似代码。
       
        　　代码举例2:
        for(i=0;i<1000;i++)  {
         Y=X+Z;
        }
       
        　　该代码循环体代码之间不存在相关,能被CPU并行执行。CPU执行时代码如下：
        Y[0]=X[0]+Z[0],
        Y[1]=X[1]+Z[1],
        Y[2]=X[2]+Z[2],
        Y[3]=X[3]+Z[3],
       
        2.2.2　代码顺序执行避免跳转的优化
       
        　　跳转的语句主要有if_else结构、switch_case结构、循环结构等。
       
        　　if_else结构可以将选择概率最大的语句放到if语句之后。因为取指时,紧接着if语句的指令会被取到。这样发生跳转的次数降低,流水线被中断的概率降低。
       
        　　尽量降低循环嵌套层数和循环次数,这样发生跳转的次数也降低。
       
        2.2.3　避免小段程序代码循环的优化
       
        　　比如2~3句的小循环,可以适当展开。
        　　一是可以提高循环内指令并行的可能性。
        　　二是可以减少跳转次数。
        　　循环体代码超过10句普通C语言代码,可以不要展开。
       
        3　从指令Cache的角度进行优化
       
        3.1　指令Cache对程序效率的分析
       
        　　从前面分析可知，若程序取指环节能从指令Cache中读取，而不是每次都从内存中读取，则能显著提高程序执行速度。
       
        3.2　从提高指令Cache命中的角度进行优化
       
        ① 尽量使程序顺序执行。
        ② 避免大量相似的代码重复实现、分散调用。
        ③ 尽量将相同的代码在一个地方循环执行,提高指令Cache的命中率。不要分散执行,导致多次读取同一段代码到指令Cache中。
       
        3.2.1　多个相似函数的优化
       
        　　代码举例3：
        {
        FuncA;//3个相似函数连续调用
        FuncB;
        FuncC;
        }
        优化为
        for(i=0;i<3;i++)  {
        Func(i);
        }
       
        　　这样相同的代码一次即可从内存读到Cache中,另外2次指令都是从Cache中读取。
       
        3.2.2　大函数拆分的优化
       
        　　由于函数体较大,超出了指令Cache的大小，导致第1次循环结束、第2次循环开始时,函数体前面内容已经被调出Cache。同样代码又重新从内存中读取到Cache中,如此反复，实际的结果是函数体Func代码被三次从内存中读取到Cache中，导致效率大大降低。
       
        　　代码举例4：
        for(i=0;i<3;i++) {
        Func(i);
        }
        被优化为：
        for(i=0;i<3;i++) {
        Func1(i);
        }
        for(i=0;i<3;i++) {
        Func2(i);
        }
        for(i=0;i<3;i++) {
        Func3(i);
        }
       
        　　将函数体Func分成几个单独的子函数：Func1、Func2、Func3,然后分别循环。这样Func1循环时,由于代码量较小,整个函数体都在Cache中。Func2、Func3类似。这样的结果是，函数体Func1、Func2、Func3都只从内存被读一次到Cache中。
       
        4　从数据Cache的角度进行优化
       
        4.1　数据Cache对程序效率的分析
       
        　　从前面分析可知，在程序取操作数环节，若能从数据Cache中读取操作数，而不是每次都从内存中读取则能提高程序执行速度。
       
        4.2　从提高数据Cache命中的角度进行优化
       
        ① 访问数据时,最好是对同一段数据在一个地方集中访问。
        ② 访问数据时,最好是根据数据的顺序依次访问。比如对数组的访问,最好是按数组成员依次访问,效率较高。
        ③ 为了使程序能够连续访问数据,需要调整数据结构、重构代码使得数据结构和程序配合,提高数据Cache的命中率。
       
        4.2.1　数组连续访问的优化
       
        　　代码举例5：
        float afBuf[1000];
        float  xBuf[8][24];
        Func {
        for(i=0;i<24;i++) {
        xBuf[0]=afBuf[0+i];
        xBuf[1]=afBuf[24+i];
        ……
        xBuf[7]=afBuf[168+i];
        }
        }
       
        　　被优化为：
        Func {
        for(i=0;i<8;i++) {
        m=i*24;
        xBuf[0]=afBuf[0+m]
        xBuf[1]=afBuf[1+m];
        ……
        xBuf[23]=afBuf[23+m];
        }
        }
       
        　　这样优化后,数据每次访问都是连续的。
       
        4.2.2　将不连续数据访问重构为连续访问的优化
       
        　　代码举例6：
        floatafBufA[24];
        floatafBufB[24];
        floatafBufC[24];
        floatxbuf[200];
        Func  {
        xBuf[0]=afBufA[0];
        xBuf[1]=afBufB[0];
        xBuf[2]=afBufC[0];
        ……
        xBuf[69]=afBufA[23];
        xBuf[70]=afBufB[23];
        xBuf[71]=afBufC[23];
        }
       
        　　被优化为：
        struct {
        float fA;
        float fB;
        float fC;
        } aBufABC[24];
        floatxbuf[200];
        Func {
        xBuf[0]=aBufABC[0].fA;
        xBuf[1]=aBufABC[0].fB;
        xBuf[2]=aBufABC[0].fC;
        ……
        xBuf[69]=aBufABC[23].fA;
        xBuf[70]=aBufABC[23].fB;
        xBuf[71]=aBufABC[23].fC;
        }
       
        5　软件优化实验结果
       
        5.1　优化对比实验
       
        　　在自动化装置的主要消耗资源的实时扫描任务中进行了代码分析，并按上述可能优化措施进行了优化。优化前实时扫描任务占用资源为系统CPU总资源的52%。代码优化后实时扫描任务占用CPU资源只有系统总资源的31%。
       
        　　对比可以看出，系统效率提高了40%，效果是非常明显的。
       
        结语
       
        　　虽然CPU的标称性能指标非常高，但其有专用的体系结构，对一般开发者的编程开发方式而言并不是完全匹配，导致发挥不出CPU的潜力。所以有针对性的根据CPU的体系结构特点进行分析，并采取针对性的优化措施，才能真正发挥其性能，满足嵌入式强实时性要求。