显示转换为uint的代码示例比范围检查更有效

时间:2015-03-31 21:23:58

标签: c# clr jit

所以我看this question并且普遍的共识是uint强制转换版本比使用0的范围检查更有效。由于代码也在MS的List实现中,我认为它是一个真正的优化。但是,我无法生成代码示例,从而为uint版本带来更好的性能。我尝试了不同的测试,但是我的代码中缺少某些东西,或者我的代码的其他部分使检查的时间相形见绌。我的最后一次尝试看起来像这样:

class TestType
{
    public TestType(int size)
    {
        MaxSize = size;
        Random rand = new Random(100);
        for (int i = 0; i < MaxIterations; i++)
        {
            indexes[i] = rand.Next(0, MaxSize);
        }
    }

    public const int MaxIterations = 10000000;
    private int MaxSize;
    private int[] indexes = new int[MaxIterations];

    public void Test()
    {
        var timer = new Stopwatch();

        int inRange = 0;
        int outOfRange = 0;

        timer.Start();
        for (int i = 0; i < MaxIterations; i++)
        {
            int x = indexes[i];
            if (x < 0 || x > MaxSize)
            {
                throw new Exception();

            }

            inRange += indexes[x];
        }
        timer.Stop();

        Console.WriteLine("Comparision 1: " + inRange + "/" + outOfRange + ", elapsed: " + timer.ElapsedMilliseconds + "ms");

        inRange = 0;
        outOfRange = 0;

        timer.Reset();
        timer.Start();

        for (int i = 0; i < MaxIterations; i++)
        {
            int x = indexes[i];
            if ((uint)x > (uint)MaxSize)
            {
                throw new Exception();
            }

            inRange += indexes[x];
        }

        timer.Stop();

        Console.WriteLine("Comparision 2: " + inRange + "/" + outOfRange + ", elapsed: " + timer.ElapsedMilliseconds + "ms");

    }
}

class Program
{
    static void Main()
    {
        TestType t = new TestType(TestType.MaxIterations);
        t.Test();
        TestType t2 = new TestType(TestType.MaxIterations);
        t2.Test();
        TestType t3 = new TestType(TestType.MaxIterations);
        t3.Test();
    }
}

代码有点乱,因为我尝试了很多东西来使uint检查执行得更快,比如将比较变量移动到类的字段中,生成随机索引访问等等但是在每种情况下结果似乎都是这两个版本都是一样的。那么这种变化是否适用于现代x86处理器,有人可以某种方式进行演示吗?

请注意,我并不是要求某人修复我的样本或解释它有什么问题。我只是想看看优化确实有效的情况。

3 个答案:

答案 0 :(得分:14)

       if (x < 0 || x > MaxSize)

通过CMP处理器指令(比较)执行比较。您需要查看Agner Fog's instruction tables document(PDF),它列出了说明的费用。在列表中找回处理器,然后找到CMP指令。

对于我的,Haswell,CMP需要1个周期的延迟和0.25个周期的吞吐量。

像这样的小数成本可以使用解释,Haswell有4个整数执行单元,可以同时执行指令。当程序包含足够的整数运算(如CMP)而没有相互依赖性时,它们都可以同时执行。实际上使程序加快了4倍。你并不总是设法让所有4个人同时忙于你的代码,这实际上是非常罕见的。但在这种情况下,你确实让其中2人忙碌。换句话说,两次比较只需要一次,一次循环。

还有其他因素可以使执行时间相同。有一点有用的是处理器可以很好地预测分支,它可以推测性地执行x > MaxSize,尽管有短路评估。事实上它最终会使用结果,因为从不采用分支。

此代码中的真正瓶颈是数组索引,访问内存是处理器可以做的最慢的事情之一。所以代码的“快速”版本并不快,即使它提供了更多机会允许处理器同时执行指令。无论如何,今天的机会并不多,处理器有太多的执行单元来保持忙碌。否则,使HyperThreading工作的功能。在这两种情况下,处理器都以相同的速率陷入困境。

在我的机器上,我必须编写占用 more 而不是4个引擎的代码,以使其变慢。像这样的愚蠢的代码:

     if (x < 0 || x > MaxSize || x > 10000000 || x > 20000000 || x > 3000000) {
         outOfRange++; 
     }
     else {
         inRange++;
     }

使用5比较,现在我可以有所不同,61对47毫秒。或者换句话说,这是一种计算处理器中整数引擎数量的方法。呵呵:)

所以这是一个微优化,它可能在十年前得到了回报。它不再了。从你需要担心的事项列表中删除它:)

答案 1 :(得分:3)

我建议尝试在index超出范围时不会抛出异常的代码。例外是非常昂贵的,可以完全放弃你的替补结果。

下面的代码为1,000,000次结果的1,000次迭代提供了一个时间平均的工作台。

using System;
using System.Diagnostics;

namespace BenchTest
{
    class Program
    {
        const int LoopCount = 1000000;
        const int AverageCount = 1000;

        static void Main(string[] args)
        {
            Console.WriteLine("Starting Benchmark");
            RunTest();
            Console.WriteLine("Finished Benchmark");

            Console.Write("Press any key to exit...");
            Console.ReadKey();
        }

        static void RunTest()
        {
            int cursorRow = Console.CursorTop; int cursorCol = Console.CursorLeft;

            long totalTime1 = 0; long totalTime2 = 0;
            long invalidOperationCount1 = 0; long invalidOperationCount2 = 0;

            for (int i = 0; i < AverageCount; i++)
            {
                Console.SetCursorPosition(cursorCol, cursorRow);
                Console.WriteLine("Running iteration: {0}/{1}", i + 1, AverageCount);

                int[] indexArgs = RandomFill(LoopCount, int.MinValue, int.MaxValue);
                int[] sizeArgs = RandomFill(LoopCount, 0, int.MaxValue);

                totalTime1 += RunLoop(TestMethod1, indexArgs, sizeArgs, ref invalidOperationCount1);
                totalTime2 += RunLoop(TestMethod2, indexArgs, sizeArgs, ref invalidOperationCount2);
            }

            PrintResult("Test 1", TimeSpan.FromTicks(totalTime1 / AverageCount), invalidOperationCount1);
            PrintResult("Test 2", TimeSpan.FromTicks(totalTime2 / AverageCount), invalidOperationCount2);
        }

        static void PrintResult(string testName, TimeSpan averageTime, long invalidOperationCount)
        {
            Console.WriteLine(testName);
            Console.WriteLine("    Average Time: {0}", averageTime);
            Console.WriteLine("    Invalid Operations: {0} ({1})", invalidOperationCount, (invalidOperationCount / (double)(AverageCount * LoopCount)).ToString("P3"));
        }

        static long RunLoop(Func<int, int, int> testMethod, int[] indexArgs, int[] sizeArgs, ref long invalidOperationCount)
        {
            Stopwatch sw = new Stopwatch();

            Console.Write("Running {0} sub-iterations", LoopCount);
            sw.Start();
            long startTickCount = sw.ElapsedTicks;

            for (int i = 0; i < LoopCount; i++)
            {
                invalidOperationCount += testMethod(indexArgs[i], sizeArgs[i]);
            }

            sw.Stop();
            long stopTickCount = sw.ElapsedTicks;

            long elapsedTickCount = stopTickCount - startTickCount;
            Console.WriteLine(" - Time Taken: {0}", new TimeSpan(elapsedTickCount));
            return elapsedTickCount;
        }

        static int[] RandomFill(int size, int minValue, int maxValue)
        {
            int[] randomArray = new int[size];

            Random rng = new Random();

            for (int i = 0; i < size; i++)
            {
                randomArray[i] = rng.Next(minValue, maxValue);
            }

            return randomArray;
        }

        static int TestMethod1(int index, int size)
        {
            return (index < 0 || index >= size) ? 1 : 0;
        }

        static int TestMethod2(int index, int size)
        {
            return ((uint)(index) >= (uint)(size)) ? 1 : 0;
        }
    }
}

答案 2 :(得分:3)

你没有比较喜欢。

您所谈论的代码不仅通过使用优化保存了一个分支,而且还通过一个小方法保存了4个字节的CIL。

在一个小方法中,4个字节可能是内联的差异而不是内联。

如果调用该方法的方法也写得很小,那么这可能意味着两个(或更多)方法调用被作为一个内联代码进行jitted。

然后可能有一些,因为它是内联的,可用于抖动分析,再次进一步优化。

真正的区别不在index < 0 || index >= _size(uint)index >= (uint)_size之间,而是在重复努力最小化方法主体大小的代码和不重复方法主体大小的代码之间。查看示例如何在必要时使用另一种方法抛出异常,进一步削减CIL的几个字节。

(不,这并不是说我认为所有的方法都应该这样编写,但当人们确实存在性能差异时)。