集合分区比差分更好
Partition problem是NP难的。根据问题的具体情况，我们可以尝试动态编程或一些启发式方法，如差分（也称为Karmarkar-Karp算法）。
后者似乎对于具有大数字的实例（使动态编程难以处理）非常有用，但并不总是完美的。什么是找到更好的解决方案的有效方法（随机，禁忌搜索，其他近似）？
PS：问题背后有一些故事。自2004年7月以来，SPOJ面临着一个挑战Johnny Goes Shopping。到目前为止，1087个用户已经解决了这一挑战，但其中只有11个得分高于正确的Karmarkar-Karp算法实现（目前得分为Karmarkar-Karp）得出11.796614分）。怎么做得更好？ （最受欢迎的已接受提交支持的答案，但请不要透露您的代码。）3 个答案:
答案 0 :(得分：16)
有很多论文描述了用于集合划分的各种高级算法。这里只有两个：
- "A complete anytime algorithm for number partitioning"作者Richard E. Korf。 Hans Kellerer等人的
- "An efficient fully polynomial approximation scheme for the Subset-Sum Problem"
老实说，我不知道哪一个能提供更有效的解决方案。可能不需要这些高级算法来解决SPOJ问题。科夫的论文仍然非常有用。这里描述的算法非常简单（理解和实现）。他还概述了几种更简单的算法（第2节）。因此，如果您想了解Horowitz-Sahni或Schroeppel-Shamir方法（如下所述）的详细信息，您可以在Korf的论文中找到它们。另外（在第8节中）他写道，随机方法并不能保证足够好的解决方案。因此，您不太可能通过爬山，模拟退火或禁忌搜索等方式获得显着改进。
我尝试了几种简单的算法及其组合来解决分区问题，大小高达10000，最大值高达10 14 ，时间限制为4秒。他们在随机均匀分布的数字上进行测试。我尝试的每个问题实例都找到了最佳解决方案。对于某些问题实例，算法保证了最优性，对于其他问题，最优性不是100％保证，但获得次优解的概率非常小。
对于最大4的尺寸（左侧绿色区域），Karmarkar-Karp算法始终提供最佳结果。
对于最大54的尺寸，强力算法足够快（红色区域）。 Horowitz-Sahni或Schroeppel-Shamir算法之间有一个选择。我使用了Horowitz-Sahni，因为它对于给定的限制似乎更有效。 Schroeppel-Shamir使用更少的内存（一切都适合L2缓存），因此当其他CPU内核执行一些内存密集型任务或使用多个线程进行集合分区时，这可能更为可取。或者在没有严格时间限制的情况下解决更大的问题（Horowitz-Sahni的内存耗尽）。
当大小乘以所有值的总和小于5 * 10 9 （蓝色区域）时，动态编程方法适用。图中的强力和动态编程区域之间的边界显示了每种算法在哪些方面表现更好。
右边的绿色区域是Karmarkar-Karp算法以几乎100％的概率提供最佳结果的地方。这里有很多完美的分区选项（delta 0或1），Karmarkar-Karp算法几乎肯定能找到其中之一。可以发明Karmarkar-Karp总是给出次优结果的数据集。例如{17 13 10 10 10 ...}。如果将此乘以某个大数，KK和DP都无法找到最佳解。幸运的是，这些数据集实际上不太可能。但是问题设定者可能会添加这样的数据集以使比赛变得更加困难。在这种情况下，您可以选择一些高级算法以获得更好的结果（但仅适用于图中的灰色和右侧绿色区域）。
我尝试了两种方法来实现Karmarkar-Karp算法的优先级队列：使用最大堆和排序数组。使用线性搜索，排序数组选项似乎稍快一些，而使用二进制搜索则显着更快。
黄色区域是您可以在保证最佳结果（使用DP）或仅具有高概率的最佳结果（使用Karmarkar-Karp）之间进行选择的地方。
最后，灰色区域，其中两个简单算法本身都不能给出最佳结果。在这里，我们可以使用Karmarkar-Karp预处理数据，直到它适用于Horowitz-Sahni或动态编程。在这个地方还有许多完美的分区选项，但比绿色区域要少，因此Karmarkar-Karp本身有时会错过适当的分区。更新：如@mhum所述，没有必要实现动态编程算法来使事情有效。 Horowitz-Sahni与Karmarkar-Karp预处理就足够了。但是，Horowitz-Sahni算法必须在所述时间限制内处理大小达到54的大小，以（几乎）保证最佳分区。因此，优选C ++或其他具有良好优化编译器和快速计算机的语言。
以下是我将Karmarkar-Karp与其他算法结合使用的方法：
template<bool Preprocess = false>
i64 kk(const vector<i64>& values, i64 sum, Log& log)
{
log.name("Karmarkar-Karp");
vector<i64> pq(values.size() * 2);
copy(begin(values), end(values), begin(pq) + values.size());
sort(begin(pq) + values.size(), end(pq));
auto first = end(pq);
auto last = begin(pq) + values.size();
while (first - last > 1)
{
if (Preprocess && first - last <= kHSLimit)
{
hs(last, first, sum, log);
return 0;
}
if (Preprocess && static_cast<double>(first - last) * sum <= kDPLimit)
{
dp(last, first, sum, log);
return 0;
}
const auto diff = *(first - 1) - *(first - 2);
sum -= *(first - 2) * 2;
first -= 2;
const auto place = lower_bound(last, first, diff);
--last;
copy(last + 1, place, last);
*(place - 1) = diff;
}
const auto result = (first - last)? *last: 0;
log(result);
return result;
}
Link to full C++11 implementation.此程序仅确定分区总和之间的差异，它不报告分区本身。 警告：如果要在可用内存小于1 Gb的计算机上运行它，请将kHSLimit常量减少。
答案 1 :(得分：15)
无论它的价值如何，[Korf88]中“完整的Karmarkar Karp”（CKK）搜索程序的简单，未经优化的Python实现 - 在给定的时间限制之后仅稍微修改一下以取消搜索（例如，4.95）返回到目前为止找到的最佳解决方案 - 足以在SPOJ问题上得分 14.204234 ，击败Karmarkar-Karp的得分。 在撰写本文时，这是#3 on the rankings （ 请参阅下面的编辑＃2 ）
在[Mert99]中可以找到更加可读的Korf CKK算法。
编辑＃2 - 我已经实施了应用Karmarkar-Karp的Evgeny Kluev's混合启发式算法，直到数字列表低于某个阈值，然后切换到精确的Horowitz-Sahni子集枚举方法[HS74]（简要说明可在[Korf88]中找到）。正如所怀疑的那样，我的Python实现需要降低切换阈值而不是他的C ++实现。经过一些反复试验，我发现阈值为37是允许我的程序在限定时间内完成的最大值。然而，即使在那个较低的门槛上，我也能够获得 15.265633 的分数，足够second place。
我进一步尝试将这种混合KK / HS方法结合到CKK树搜索中，基本上通过使用HS作为非常积极且昂贵的修剪策略。在简单的CKK中，我无法找到甚至与KK / HS方法匹配的切换阈值。然而，使用ILDS（见下文）CKK和HS（阈值为25）的搜索策略进行修剪，我能够在之前的得分中获得非常小的增益，直到 15.272802 。在这种情况下，CKK + ILDS的表现可能超过普通的CKK，这可能不足为奇，因为它可以为HS阶段提供更多样化的输入。
编辑＃1 - 我已经尝试了对基本CKK算法的两个进一步改进：
-
“改进的有限差异搜索”（ILDS）[Korf96]这是搜索树中路径的自然DFS排序的替代方案。与常规的深度优先搜索相比，它倾向于更早地探索更多样化的解决方案。
-
“加速双向数字分区”[Cerq12]这将CKK中的一个修剪标准从叶节点的4个级别内的节点推广到叶节点上方5,6和7级的节点。
在我的测试案例中，这些改进通常比原始CKK在减少探索的节点数量（在后者的情况下）和更快地获得更好的解决方案（在前者的情况下）提供了显着的益处。但是，在SPOJ问题结构的范围内，这些都不足以提高我的分数。
鉴于此SPOJ问题的特殊性质（即：5秒时间限制和仅一个特定且未公开的问题实例），很难就可能实际提高分数的内容提供建议 * 。例如，我们是否应该继续寻求替代搜索排序策略（例如：Wheeler Ruml撰写的许多论文listed here）？或者我们是否应该尝试将某种形式的局部改进启发式结合到CKK找到的解决方案中以帮助修剪？或者我们应该放弃基于CKK的方法并尝试动态编程方法？ PTAS怎么样？如果不了解SPOJ问题中使用的实例的具体形状，就很难猜测哪种方法会产生最大的好处。每个都有自己的优点和缺点，具体取决于给定实例的特定属性。
* 除了简单地运行相同的东西，比如说，用C ++而不是Python实现。
参考
[Cerq12] Cerquides，Jesús和Pedro Meseguer。 “加速双向数字分区。”外部评级机构。 2012年，doi：10.3233/978-1-61499-098-7-223
[Korf88] Korf，Richard E.（1998），“A complete anytime algorithm for number partitioning”，人工智能106（2）：181-203，doi：10.1016/S0004-3702(98)00086-1，
[Mert99] Mertens，Stephan（1999），一个完整的平衡数字划分算法，arXiv：cs/9903011
答案 2 :(得分：6)
编辑这是一个以Karmarkar-Karp差异开头的实现，然后尝试优化生成的分区。
时间允许的唯一优化是从一个分区向另一个分区提供1 ，并在两个分区之间交换1为1。
我在开始时对Karmarkar-Karp的实施必须是不准确的，因为仅仅Karmarkar-Karp得分 2.711483 而不是 11.76614点由OP引用。当使用优化时，得分会变为 7.718049 。
SPOILER WARNING C＃提交代码如下
using System;
using System.Collections.Generic;
using System.Linq;
public class Test
{
// some comparer's to lazily avoid using a proper max-heap implementation
public class Index0 : IComparer<long[]>
{
public int Compare(long[] x, long[] y)
{
if(x[0] == y[0]) return 0;
return x[0] < y[0] ? -1 : 1;
}
public static Index0 Inst = new Index0();
}
public class Index1 : IComparer<long[]>
{
public int Compare(long[] x, long[] y)
{
if(x[1] == y[1]) return 0;
return x[1] < y[1] ? -1 : 1;
}
}
public static void Main()
{
// load the data
var start = DateTime.Now;
var list = new List<long[]>();
int size = int.Parse(Console.ReadLine());
for(int i=1; i<=size; i++) {
var tuple = new long[]{ long.Parse(Console.ReadLine()), i };
list.Add(tuple);
}
list.Sort((x, y) => { if(x[0] == y[0]) return 0; return x[0] < y[0] ? -1 : 1; });
// Karmarkar-Karp differences
List<long[]> diffs = new List<long[]>();
while(list.Count > 1) {
// get max
var b = list[list.Count - 1];
list.RemoveAt(list.Count - 1);
// get max
var a = list[list.Count - 1];
list.RemoveAt(list.Count - 1);
// (b - a)
var diff = b[0] - a[0];
var tuple = new long[]{ diff, -1 };
diffs.Add(new long[] { a[0], b[0], diff, a[1], b[1] });
// insert (b - a) back in
var fnd = list.BinarySearch(tuple, new Index0());
list.Insert(fnd < 0 ? ~fnd : fnd, tuple);
}
var approx = list[0];
list.Clear();
// setup paritions
var listA = new List<long[]>();
var listB = new List<long[]>();
long sumA = 0;
long sumB = 0;
// Karmarkar-Karp rebuild partitions from differences
bool toggle = false;
for(int i=diffs.Count-1; i>=0; i--) {
var inB = listB.BinarySearch(new long[]{diffs[i][2]}, Index0.Inst);
var inA = listA.BinarySearch(new long[]{diffs[i][2]}, Index0.Inst);
if(inB >= 0 && inA >= 0) {
toggle = !toggle;
}
if(toggle == false) {
if(inB >= 0) {
listB.RemoveAt(inB);
}else if(inA >= 0) {
listA.RemoveAt(inA);
}
var tb = new long[]{diffs[i][1], diffs[i][4]};
var ta = new long[]{diffs[i][0], diffs[i][3]};
var fb = listB.BinarySearch(tb, Index0.Inst);
var fa = listA.BinarySearch(ta, Index0.Inst);
listB.Insert(fb < 0 ? ~fb : fb, tb);
listA.Insert(fa < 0 ? ~fa : fa, ta);
} else {
if(inA >= 0) {
listA.RemoveAt(inA);
}else if(inB >= 0) {
listB.RemoveAt(inB);
}
var tb = new long[]{diffs[i][1], diffs[i][4]};
var ta = new long[]{diffs[i][0], diffs[i][3]};
var fb = listA.BinarySearch(tb, Index0.Inst);
var fa = listB.BinarySearch(ta, Index0.Inst);
listA.Insert(fb < 0 ? ~fb : fb, tb);
listB.Insert(fa < 0 ? ~fa : fa, ta);
}
}
listA.ForEach(a => sumA += a[0]);
listB.ForEach(b => sumB += b[0]);
// optimize our partitions with give/take 1 or swap 1 for 1
bool change = false;
while(DateTime.Now.Subtract(start).TotalSeconds < 4.8) {
change = false;
// give one from A to B
for(int i=0; i<listA.Count; i++) {
var a = listA[i];
if(Math.Abs(sumA - sumB) > Math.Abs((sumA - a[0]) - (sumB + a[0]))) {
var fb = listB.BinarySearch(a, Index0.Inst);
listB.Insert(fb < 0 ? ~fb : fb, a);
listA.RemoveAt(i);
i--;
sumA -= a[0];
sumB += a[0];
change = true;
} else {break;}
}
// give one from B to A
for(int i=0; i<listB.Count; i++) {
var b = listB[i];
if(Math.Abs(sumA - sumB) > Math.Abs((sumA + b[0]) - (sumB - b[0]))) {
var fa = listA.BinarySearch(b, Index0.Inst);
listA.Insert(fa < 0 ? ~fa : fa, b);
listB.RemoveAt(i);
i--;
sumA += b[0];
sumB -= b[0];
change = true;
} else {break;}
}
// swap 1 for 1
for(int i=0; i<listA.Count; i++) {
var a = listA[i];
for(int j=0; j<listB.Count; j++) {
var b = listB[j];
if(Math.Abs(sumA - sumB) > Math.Abs((sumA - a[0] + b[0]) - (sumB -b[0] + a[0]))) {
listA.RemoveAt(i);
listB.RemoveAt(j);
var fa = listA.BinarySearch(b, Index0.Inst);
var fb = listB.BinarySearch(a, Index0.Inst);
listA.Insert(fa < 0 ? ~fa : fa, b);
listB.Insert(fb < 0 ? ~fb : fb, a);
sumA = sumA - a[0] + b[0];
sumB = sumB - b[0] + a[0];
change = true;
break;
}
}
}
//
if(change == false) { break; }
}
/*
// further optimization with 2 for 1 swaps
while(DateTime.Now.Subtract(start).TotalSeconds < 4.8) {
change = false;
// trade 2 for 1
for(int i=0; i<listA.Count >> 1; i++) {
var a1 = listA[i];
var a2 = listA[listA.Count - 1 - i];
for(int j=0; j<listB.Count; j++) {
var b = listB[j];
if(Math.Abs(sumA - sumB) > Math.Abs((sumA - a1[0] - a2[0] + b[0]) - (sumB - b[0] + a1[0] + a2[0]))) {
listA.RemoveAt(listA.Count - 1 - i);
listA.RemoveAt(i);
listB.RemoveAt(j);
var fa = listA.BinarySearch(b, Index0.Inst);
var fb1 = listB.BinarySearch(a1, Index0.Inst);
var fb2 = listB.BinarySearch(a2, Index0.Inst);
listA.Insert(fa < 0 ? ~fa : fa, b);
listB.Insert(fb1 < 0 ? ~fb1 : fb1, a1);
listB.Insert(fb2 < 0 ? ~fb2 : fb2, a2);
sumA = sumA - a1[0] - a2[0] + b[0];
sumB = sumB - b[0] + a1[0] + a2[0];
change = true;
break;
}
}
}
//
if(DateTime.Now.Subtract(start).TotalSeconds > 4.8) { break; }
// trade 2 for 1
for(int i=0; i<listB.Count >> 1; i++) {
var b1 = listB[i];
var b2 = listB[listB.Count - 1 - i];
for(int j=0; j<listA.Count; j++) {
var a = listA[j];
if(Math.Abs(sumA - sumB) > Math.Abs((sumA - a[0] + b1[0] + b2[0]) - (sumB - b1[0] - b2[0] + a[0]))) {
listB.RemoveAt(listB.Count - 1 - i);
listB.RemoveAt(i);
listA.RemoveAt(j);
var fa1 = listA.BinarySearch(b1, Index0.Inst);
var fa2 = listA.BinarySearch(b2, Index0.Inst);
var fb = listB.BinarySearch(a, Index0.Inst);
listA.Insert(fa1 < 0 ? ~fa1 : fa1, b1);
listA.Insert(fa2 < 0 ? ~fa2 : fa2, b2);
listB.Insert(fb < 0 ? ~fb : fb, a);
sumA = sumA - a[0] + b1[0] + b2[0];
sumB = sumB - b1[0] - b2[0] + a[0];
change = true;
break;
}
}
}
//
if(change == false) { break; }
}
*/
// output the correct ordered values
listA.Sort(new Index1());
foreach(var t in listA) {
Console.WriteLine(t[1]);
}
// DEBUG/TESTING
//Console.WriteLine(approx[0]);
//foreach(var t in listA) Console.Write(": " + t[0] + "," + t[1]);
//Console.WriteLine();
//foreach(var t in listB) Console.Write(": " + t[0] + "," + t[1]);
}
}
- 我写了这段代码，但我无法理解我的错误
- 我无法从一个代码实例的列表中删除 None 值，但我可以在另一个实例中。为什么它适用于一个细分市场而不适用于另一个细分市场？
- 是否有可能使 loadstring 不可能等于打印？卢阿
- java中的random.expovariate()
- Appscript 通过会议在 Google 日历中发送电子邮件和创建活动
- 为什么我的 Onclick 箭头功能在 React 中不起作用？
- 在此代码中是否有使用“this”的替代方法？
- 在 SQL Server 和 PostgreSQL 上查询，我如何从第一个表获得第二个表的可视化
- 每千个数字得到
- 更新了城市边界 KML 文件的来源？