我有一个应用程序,我将日志字符串保存在循环缓冲区中。当日志变满时,对于每个新插入,旧的字符串将被释放用于垃圾收集,然后它们在第2代内存中。因此,最终会发生第2代GC,我想避免这种情况。
我试图将字符串编组成结构。令人惊讶的是,我仍然得到第2代GC:s。结构似乎仍然保留了对字符串的引用。完整的控制台应用程序任何帮助赞赏。
using System;
using System.Collections.Generic;
using System.Diagnostics;
using System.Linq;
using System.Runtime.InteropServices;
using System.Text;
using System.Threading.Tasks;
namespace ConsoleApplication
{
class Program
{
[StructLayout(LayoutKind.Sequential)]
public struct FixedString
{
[MarshalAs(UnmanagedType.ByValTStr, SizeConst = 256)]
private string str;
public FixedString(string str)
{
this.str = str;
}
}
[StructLayout(LayoutKind.Sequential)]
public struct UTF8PackedString
{
private int length;
[MarshalAs(UnmanagedType.ByValArray, SizeConst = 256)]
private byte[] str;
public UTF8PackedString(int length)
{
this.length = length;
str = new byte[length];
}
public static implicit operator UTF8PackedString(string str)
{
var obj = new UTF8PackedString(Encoding.UTF8.GetByteCount(str));
var bytes = Encoding.UTF8.GetBytes(str);
Array.Copy(bytes, obj.str, obj.length);
return obj;
}
}
const int BufferSize = 1000000;
const int LoopCount = 10000000;
static void Main(string[] args)
{
Console.WriteLine("{0}\t{1}\t{2}\t{3}\t{4}",
"Type".PadRight(20), "Time", "GC(0)", "GC(1)", "GC(2)");
Console.WriteLine();
for (int i = 0; i < 5; i++)
{
TestPerformance<string>(s => s);
TestPerformance<FixedString>(s => new FixedString(s));
TestPerformance<UTF8PackedString>(s => s);
Console.WriteLine();
}
Console.ReadKey();
}
private static void TestPerformance<T>(Func<string, T> func)
{
var buffer = new T[BufferSize];
GC.Collect(2);
Stopwatch stopWatch = new Stopwatch();
var initialCollectionCounts = new int[] { GC.CollectionCount(0), GC.CollectionCount(1), GC.CollectionCount(2) };
stopWatch.Reset();
stopWatch.Start();
for (int i = 0; i < LoopCount; i++)
buffer[i % BufferSize] = func(i.ToString());
stopWatch.Stop();
Console.WriteLine("{0}\t{1}\t{2}\t{3}\t{4}",
typeof(T).Name.PadRight(20),
stopWatch.ElapsedMilliseconds,
(GC.CollectionCount(0) - initialCollectionCounts[0]),
(GC.CollectionCount(1) - initialCollectionCounts[1]),
(GC.CollectionCount(2) - initialCollectionCounts[2])
);
}
}
}
编辑:使用执行所需工作的UnsafeFixedString更新代码:
using System;
using System.Collections.Generic;
using System.Diagnostics;
using System.Linq;
using System.Runtime.InteropServices;
using System.Text;
using System.Threading.Tasks;
namespace ConsoleApplication
{
class Program
{
public unsafe struct UnsafeFixedString
{
private int length;
private fixed char str[256];
public UnsafeFixedString(int length)
{
this.length = length;
}
public static implicit operator UnsafeFixedString(string str)
{
var obj = new UnsafeFixedString(str.Length);
for (int i = 0; i < str.Length; i++)
obj.str[i] = str[i];
return obj;
}
}
const int BufferSize = 1000000;
const int LoopCount = 10000000;
static void Main(string[] args)
{
Console.WriteLine("{0}\t{1}\t{2}\t{3}\t{4}",
"Type".PadRight(20), "Time", "GC(0)", "GC(1)", "GC(2)");
Console.WriteLine();
for (int i = 0; i < 5; i++)
{
TestPerformance(s => s);
TestPerformance<UnsafeFixedString>(s => s);
Console.WriteLine();
}
Console.ReadKey();
}
private static void TestPerformance<T>(Func<string, T> func)
{
var buffer = new T[BufferSize];
GC.Collect(2);
Stopwatch stopWatch = new Stopwatch();
var initialCollectionCounts = new int[] { GC.CollectionCount(0), GC.CollectionCount(1), GC.CollectionCount(2) };
stopWatch.Reset();
stopWatch.Start();
for (int i = 0; i < LoopCount; i++)
buffer[i % BufferSize] = func(String.Format("{0}", i));
stopWatch.Stop();
Console.WriteLine("{0}\t{1}\t{2}\t{3}\t{4}",
typeof(T).Name.PadRight(20),
stopWatch.ElapsedMilliseconds,
(GC.CollectionCount(0) - initialCollectionCounts[0]),
(GC.CollectionCount(1) - initialCollectionCounts[1]),
(GC.CollectionCount(2) - initialCollectionCounts[2])
);
}
}
}
我的电脑上的输出是:
Type Time GC(0) GC(1) GC(2)
String 5746 160 71 19
UnsafeFixedString 5345 418 0 0
答案 0 :(得分:7)
带struct
字段的string
在这里有所不同,这应该不足为奇:string
字段总是只是对托管堆上的对象 - 特别是某处的string
对象。 string
仍然存在,最终仍会导致GC2。
“修复”这个问题的唯一方法就是不要将它作为对象完全;并且唯一的方法(不完全超出托管内存)是使用fixed
缓冲区:
public unsafe struct FixedString
{
private fixed char str[100];
}
此处,每个结构实例FixedString
都有200个字节保留给数据。 str
只是标记此预订开始的char*
的相对偏移量。但是,使用工作非常棘手 - 并且始终需要unsafe
代码。另请注意,无论您是否确实要存储3个字符或170,每个FixedString
都会保留相同的空间量。为避免内存问题,您可能需要使用null-teriminator,或分别存储有效负载长度。
请注意,在.NET 4.5中,<gcAllowVeryLargeObjects>
支持可以使这些值具有相当大的数组(例如,FixedString[]
) - 但请注意,您不希望经常复制数据。为避免这种情况,您可能希望始终允许数组中的备用空间(因此您不要仅仅添加一个项目来复制整个数组),并通过ref
处理单个项目,即
FixedString[] data = ...
int index = ...
ProcessItem(ref data[index]);
void ProcessItem(ref FixedString item) {
// ...
}
此处item
直接与数组中的元素对话 - 我们没有在任何时候复制数据。
现在我们只有一个对象 - 数组本身。
答案 1 :(得分:2)
const int BufferSize = 1000000;
你的缓冲区太大了,因此能够存储一个字符串引用太长时间并允许它们被提升到第一代。尝试使用缓冲区大小可以提供此解决方案:
const int BufferSize = 180000;
不再有GC(2)集合。
你可以从中推断出gen#1堆大小。虽然这个测试程序很难做到,但是字符串大小变化太大了。无论如何,在真正的应用程序中都需要进行手动调整。
答案 2 :(得分:1)
虽然我喜欢Marc Gravell和Hans Passant的答案(一如既往)......
您可以微调GC以便同时运行,从而避免冻结时间。 阅读它here
答案 3 :(得分:0)
使用StringBuilder
s的缓冲区基本上与unsafe fixed char[]
方法完全相同。但是给你一个超出你最初分配的特定字符串长度的潜在灵活性(当然,是的,这将导致一个字符串,或更确切地说是char[]
的基础StringBuilder
有资格进行垃圾收集,但让它变得实用)。此外,您不必自己进行字符串长度管理。
private static void TestPerformance2()
{
var buffer = new StringBuilder[BufferSize];
// Initialize each item of the array. This is no different than what
// unsafe struct is.
for (int i = 0; i < BufferSize; i++)
{
buffer[i] = new StringBuilder(256);
}
GC.Collect(2);
Stopwatch stopWatch = new Stopwatch();
var initialCollectionCounts = new int[] { GC.CollectionCount(0), GC.CollectionCount(1), GC.CollectionCount(2) };
stopWatch.Reset();
stopWatch.Start();
for (int i = 0; i < LoopCount; i++)
{
buffer[i % BufferSize].Clear(); // Or use .Length = 0;, which is what the Clear() method does internally.
buffer[i % BufferSize].AppendFormat("{0}", i);
}
stopWatch.Stop();
Console.WriteLine("{0}\t{1}\t{2}\t{3}\t{4}",
typeof(StringBuilder).Name.PadRight(20),
stopWatch.ElapsedMilliseconds,
(GC.CollectionCount(0) - initialCollectionCounts[0]),
(GC.CollectionCount(1) - initialCollectionCounts[1]),
(GC.CollectionCount(2) - initialCollectionCounts[2])
);
}
结果,速度提高了一倍(你甚至可以将秒表移动到包括阵列初始化,它仍然比UnsafeFixedString
更快。)
Type Time GC(0) GC(1) GC(2)
String 4647 131 108 23
StringBuilder 2600 94 0 0
UnsafeFixedString 5135 161 0 0