Question

我正在撰写以斯坦福大学Folding @ Home项目为中心的大型服务。项目的这一部分是在Windows服务内部托管的WCF服务。使用适当的数据库索引和双核Core2Duo / 7200rpm盘片，我能够以每秒大约1500行的速度运行（SQL 2012 Datacenter实例）。每次运行此更新时，都需要花费大量时间来遍历所有150万用户，并在必要时添加更新。

查看SQL Server Management Studio 2012中的性能分析器，我看到每个用户都是通过单个查询加载的。有没有办法让EF急切地加载一组给定大小的用户，在内存中更新它们，然后保存更新的用户 - 使用比单选，单更新更优雅的查询？我目前正在使用EF5，但如果我需要转到6以提高性能，我会的。此过程的主要延迟来源是等待数据库结果。

此外，如果我有任何关于ForAll或预处理的更改，请随时提及。通过控制每个EF上下文的大小，组预处理非常快速并且显着提高了更新的速度 - 但如果我可以预处理更多并改善总体时间，我非常愿意调查它！

private void DoUpdate(IEnumerable<Update> table)
{
    var t = table.ToList();
    var numberOfRowsInGroups = t.Count() / (Properties.Settings.Default.UpdatesPerContext); //Control each local context size.  120 works well on most systems I have.

    //Split work groups out of the table of updates.
    var groups = t.AsParallel()
                    .Select((update, index) => new {Value = update, Index = index})
                    .GroupBy(a => a.Index % numberOfRowsInGroups)
                    .ToList();

    groups.AsParallel().ForAll(group =>
    {
        var ents = new FoldingDataEntities();
        ents.Configuration.AutoDetectChangesEnabled = false;
        ents.Configuration.LazyLoadingEnabled = true;
        ents.Database.Connection.Open();

        var count = 0;
        foreach (var a in group)
        {
            var update = a.Value;
            var data = UserData.GetUserData(update.Name, update.Team, ents); //(Name,Team) is a superkey; passing ents allows external context control

            if (data.TotalPoints < update.NewCredit)
            {
                data.addUpdate(update.NewCredit, update.Sum); //basic arithmetic, very quick - may attach a row to the UserData.Updates collection. (does not SaveChanges here)
            }
        }

        ents.ChangeTracker.DetectChanges();
        ents.SaveChanges();
    });
}

//from the UserData class which wraps the EF code.
public static UserData GetUserData(string name, long team, FoldingDataEntities ents)
{
    return context.Users.Local.FirstOrDefault(u => (u.Team == team && u.Name == name))
        ?? context.Users.FirstOrDefault(u => (u.Team == team && u.Name == name))
        ?? context.Users.Add(new User { Name = name, Team = team, StartDate = DateTime.Now, LastUpdate = DateTime.Now });
}

internal struct Update
{
    public string Name;
    public long NewCredit;
    public long Sum;
    public long Team;
}

Answer 1

EF不是原始性能的解决方案......这是进行数据访问层或DAL的“简单方法”，但却带来了相当大的开销。我强烈建议使用Dapper或原始ADO.NET进行批量更新......速度会快得多。

http://www.ormbattle.net/

现在，要回答您的问题，要在EF中进行批量更新，您需要下载一些扩展和第三方插件来启用此类功能。请参阅：Batch update/delete EF5

如何优化全表更新的性能

1 个答案: