我的一个IIS应用程序池进程有一个非常奇怪的问题。我最近得到了一个System.OutOfMemoryException错误,并且我一直试图找出究竟发生了什么。基本上我有一个脚本,它使用Web服务从我们的DAM获取文件。然后检查文件存储一个字节数组,然后使用Response输出文件。唯一一个遇到问题的是PDF,当它们超过20MB时,它们似乎有时会导致错误。如果我增加应用程序池中的内存,它会暂时解决问题。我看了w3wp.exe进程,看到有时当我运行这个脚本时,它会将内存增加到400MB,我们拥有的最大文件是45MB,这将导致这种类型的行为发生。这个问题似乎每天晚上都会消失,早上它会工作一段时间然后再开始做同样的事情。这个应用程序是c#asp.net应用程序。它在sharepoint内部运行。
观看服务一段时间后,我注意到,因为这些PDF在浏览器窗口中呈现,直到文件完全下载,它才会从内存中释放。这是有道理的,但我可以看到这有点像我的问题。如果我有几个人加载文件,平均(没有文件下载)内存使用量为385,000 kb。它可以很容易地达到900,000-1,100,000 KB,这是应用程序池的限制。
我不是在寻找一个确切的答案,而是更像是一个方向,因为我完全没有想法。
答案 0 :(得分:10)
当您将文件数据作为字节数组存入内存时,会给Web服务器带来很大的压力。
您应该尝试将文件流以块的形式写入响应流,而不是将整个文件数据存储在一个字节数组中。
伪示例:
context.Response.Buffer = false;
byte[] buffer = new byte[4096];
int bytesRead = 0;
using(var stream = new FileStream(path, FileMode.Open, FileAccess.Read))
{
while ((bytesRead = stream.Read(buffer, 0 , buffer.Length)) > 0)
{
context.Response.OutputStream.Write(buffer, 0, buffer.Length);
context.Response.OutputStream.Flush();
}
}
这里的想法是,在每次读取文件流时,只将一大块文件数据带入内存,然后将其写入响应。请注意,response buffering已被禁用,您可以使用另一个Stream数据源替换文件流(我在从SQL数据库读取二进制数据时使用了此方法)。
编辑:(响应如何将数据从SQL传输到HTTP响应)
为了从SQL Server数据库表(例如varbinary(max)列)流式传输数据,您可以在SqlCommand上使用顺序访问:
#region WriteResponse(HttpContext context, Guid id)
/// <summary>
/// Writes the content for a media resource with the specified <paramref name="id"/>
/// to the response stream using the appropriate content type and length.
/// </summary>
/// <param name="context">The <see cref="HttpContext"/> to write content to.</param>
/// <param name="id">The unique identifier assigned to the media resource.</param>
private static void WriteResponse(HttpContext context, Guid id)
{
using(var connection = ConnectionFactory.Create())
{
using (var command = new SqlCommand("[dbo].[GetResponse]", connection))
{
command.CommandType = CommandType.StoredProcedure;
command.Parameters.Add("@Id", SqlDbType.UniqueIdentifier);
command.Parameters.AddReturnValue();
command.Parameters["@Id"].Value = id;
command.Open();
using(var reader = command.ExecuteReader(CommandBehavior.SequentialAccess))
{
if(reader.Read())
{
WriteResponse(context, reader);
}
}
}
}
}
#endregion
#region WriteResponse(HttpContext context, SqlDataReader reader)
/// <summary>
/// Writes the content for a media resource to the response stream using the supplied <paramref name="reader"/>.
/// </summary>
/// <param name="context">The <see cref="HttpContext"/> to write content to.</param>
/// <param name="reader">The <see cref="SqlDataReader"/> to extract information from.</param>
private static void WriteResponse(HttpContext context, SqlDataReader reader)
{
if (context == null || reader == null)
{
return;
}
DateTime expiresOn = DateTime.UtcNow;
string contentType = String.Empty;
long contentLength = 0;
string fileName = String.Empty;
string fileExtension = String.Empty;
expiresOn = reader.GetDateTime(0);
fileName = reader.GetString(1);
fileExtension = reader.GetString(2);
contentType = reader.GetString(3);
contentLength = reader.GetInt64(4);
context.Response.AddHeader("Content-Disposition", String.Format(null, "attachment; filename={0}", fileName));
WriteResponse(context, reader, contentType, contentLength);
ApplyCachePolicy(context, expiresOn - DateTime.UtcNow);
}
#endregion
#region WriteResponse(HttpContext context, SqlDataReader reader, string contentType, long contentLength)
/// <summary>
/// Writes the content for a media resource to the response stream using the
/// specified reader, content type and content length.
/// </summary>
/// <param name="context">The <see cref="HttpContext"/> to write content to.</param>
/// <param name="reader">The <see cref="SqlDataReader"/> to extract information from.</param>
/// <param name="contentType">The content type of the media.</param>
/// <param name="contentLength">The content length of the media.</param>
private static void WriteResponse(HttpContext context, SqlDataReader reader, string contentType, long contentLength)
{
if (context == null || reader == null)
{
return;
}
int ordinal = 5;
int bufferSize = 4096 * 1024; // 4MB
byte[] buffer = new byte[bufferSize];
long value;
long dataIndex;
context.Response.Buffer = false;
context.Response.ContentType = contentType;
context.Response.AppendHeader("content-length", contentLength.ToString());
using (var writer = new BinaryWriter(context.Response.OutputStream))
{
dataIndex = 0;
value = reader.GetBytes(ordinal, dataIndex, buffer, 0, bufferSize);
while(value == bufferSize)
{
writer.Write(buffer);
writer.Flush();
dataIndex += bufferSize;
value = reader.GetBytes(ordinal, dataIndex, buffer, 0, bufferSize);
}
writer.Write(buffer, 0, (int)value);
writer.Flush();
}
}
#endregion
答案 1 :(得分:1)
Oppositional对处理文件本身有很好的建议。我还会查看您在Web处理中可能会依赖的引用。在会话状态或应用程序状态中存储任何内容?如果是这样,请仔细跟踪这些内容,以确保它们不会依次指向页面或处理文件的其他相关信息。
我提到这一点,因为几年前我们遇到了一个令人讨厌的“漏洞”,这是因为一个物体处于应用状态。事实证明,该对象订阅了页面事件,并且由于该对象从未死亡,所以所有页面都没有!糟糕