Java - 删除ArrayList中的重复项

时间:2010-03-12 19:16:12

标签: java algorithm arraylist

我正在开发一个使用ArrayList存储Strings的程序。程序通过菜单提示用户,并允许用户选择要执行的操作。这样的操作是将字符串添加到列表,打印条目等。我希望能够做的是创建一个名为removeDuplicates()的方法。此方法将搜索ArrayList并删除所有重复的值。我想在列表中留下一个重复值的实例。我还希望此方法返回已删除的重复项的总数。

我一直在尝试使用嵌套循环来实现这一点,但是我遇到了麻烦,因为当条目被删除时,ArrayList的索引会被改变,而且事情不能正常工作。我从概念上知道我需要做什么,但我在代码中实现这个想法时遇到了麻烦。

这是一些伪代码:

从第一次开始开始; 检查列表中的每个后续条目,看它是否与第一个条目匹配; 删除列表中与第一个条目匹配的每个后续条目;

在检查完所有条目后,转到第二个条目; 检查列表中的每个条目,看它是否与第二个条目匹配; 删除列表中与第二个条目匹配的每个条目;

重复列表中的条目

这是我到目前为止的代码:

public int removeDuplicates()
{
  int duplicates = 0;

  for ( int i = 0; i < strings.size(); i++ )
  {
     for ( int j = 0; j < strings.size(); j++ )
     {
        if ( i == j )
        {
          // i & j refer to same entry so do nothing
        }

        else if ( strings.get( j ).equals( strings.get( i ) ) )
        {
           strings.remove( j );
           duplicates++;
        }
     }
 }

   return duplicates;
}

更新:Will似乎正在寻找一个家庭作业解决方案,该解决方案涉及开发算法以删除重复项,而不是使用集合的实用解决方案。看他的评论:

Thx的建议。这是作业的一部分,我相信老师原本打算让解决方案不包括作品集。换句话说,我想出一个解决方案,在不实现HashSet的情况下搜索和删除重复项。老师建议使用嵌套循环,这是我正在尝试做的事情,但在删除某些条目后,我在ArrayList的索引方面遇到了一些问题。

20 个答案:

答案 0 :(得分:37)

为什么不使用像Set这样的集合(以及类似HashSet的实现)来自然地防止重复?

答案 1 :(得分:17)

您可以毫无问题地使用嵌套循环:

public static int removeDuplicates(ArrayList<String> strings) {

    int size = strings.size();
    int duplicates = 0;

    // not using a method in the check also speeds up the execution
    // also i must be less that size-1 so that j doesn't
    // throw IndexOutOfBoundsException
    for (int i = 0; i < size - 1; i++) {
        // start from the next item after strings[i]
        // since the ones before are checked
        for (int j = i + 1; j < size; j++) {
            // no need for if ( i == j ) here
            if (!strings.get(j).equals(strings.get(i)))
                continue;
            duplicates++;
            strings.remove(j);
            // decrease j because the array got re-indexed
            j--;
            // decrease the size of the array
            size--;
        } // for j
    } // for i

    return duplicates;

}

答案 2 :(得分:14)

您可以尝试使用此一个班轮来获取字符串保留顺序的副本。

List<String> list;
List<String> dedupped = new ArrayList<String>(new LinkedHashSet<String>(list));

这种方法也是O(n)摊销而不是O(n ^ 2)

答案 3 :(得分:8)

为了澄清我对matt b答案的评论,如果你真的想要计算删除的重复数量,请使用以下代码:

List<String> list = new ArrayList<String>();

// list gets populated from user input...

Set<String> set = new HashSet<String>(list);
int numDuplicates = list.size() - set.size();

答案 4 :(得分:4)

  

我一直在尝试使用嵌套循环来实现这一点,但是我遇到了麻烦,因为当条目被删除时,ArrayList 的索引会被改变并且事情不能正常工作

为什么不在每次删除条目时减少计数器。

删除条目时,元素也会移动:

ej:

String [] a = {"a","a","b","c" }

的位置:

a[0] = "a";
a[1] = "a";    
a[2] = "b";
a[3] = "c";

删除第一个“a”后,索引为:

a[0] = "a";
a[1] = "b";
a[2] = "c";

因此,您应该考虑到这一点,并减少jj--)的值,以避免“跳过”某个值。

见此截图:

its working

答案 5 :(得分:4)

List<String> lst = new ArrayList<String>();

lst.add("one");
lst.add("one");
lst.add("two");
lst.add("three");
lst.add("three");
lst.add("three");
Set se =new HashSet(lst);
lst.clear();
lst = new ArrayList<String>(se);
for (Object ls : lst){
    System.out.println("Resulting output---------" + ls);   
}

答案 6 :(得分:3)

public Collection removeDuplicates(Collection c) {
// Returns a new collection with duplicates removed from passed collection.
    Collection result = new ArrayList();

    for(Object o : c) {
        if (!result.contains(o)) {
            result.add(o);
        }
    }

    return result;
}

public void removeDuplicates(List l) {
// Removes duplicates in place from an existing list
    Object last = null;
    Collections.sort(l);

    Iterator i = l.iterator();
    while(i.hasNext()) {
        Object o = i.next();
        if (o.equals(last)) {
            i.remove();
        } else {
            last = o;
        }
    }
}

两者均未经测试。

答案 7 :(得分:3)

从arraylist中删除重复字符串的一种非常简单的方法

ArrayList al = new ArrayList();
// add elements to al, including duplicates
HashSet hs = new HashSet();
hs.addAll(al);
al.clear();
al.addAll(hs);

答案 8 :(得分:1)

假设您不能像您所说的那样使用Set,解决问题的最简单方法是使用临时列表,而不是尝试删除重复项:

public class Duplicates {

    public static void main(String[] args) {
        List<String> list = new ArrayList<String>();
        list.add("one");
        list.add("one");
        list.add("two");
        list.add("three");
        list.add("three");
        list.add("three");

        System.out.println("Prior to removal: " +list);
        System.out.println("There were " + removeDuplicates(list) + " duplicates.");
        System.out.println("After removal: " + list);
    }

    public static int removeDuplicates(List<String> list) {
        int removed = 0;
        List<String> temp = new ArrayList<String>();

        for(String s : list) {
            if(!temp.contains(s)) {
                temp.add(s);
            } else {
                //if the string is already in the list, then ignore it and increment the removed counter
                removed++;
            }
        }

        //put the contents of temp back in the main list
        list.clear();
        list.addAll(temp);

        return removed;
    }

}

答案 9 :(得分:1)

你可以做这样的事情,上面人们回答的必须是另一种选择,但这是另一种选择。

for (int i = 0; i < strings.size(); i++) {
    for (int j = j + 1; j > strings.size(); j++) {
      if(strings.get(i) == strings.get(j)) {
            strings.remove(j);
            j--;
       }`
    }
  }

return strings;

答案 10 :(得分:0)

public ArrayList removeDuplicates(ArrayList <String> inArray)
{
    ArrayList <String> outArray = new ArrayList();
    boolean doAdd = true;
    for (int i = 0; i < inArray.size(); i++)
    {
        String testString = inArray.get(i);
        for (int j = 0; j < inArray.size(); j++)
        {
            if (i == j)
            {
                break;
            }
            else if (inArray.get(j).equals(testString))
            {
                doAdd = false;
                break;
            }

        }
        if (doAdd)
        {
            outArray.add(testString);
        }
        else
        {
            doAdd = true;
        }

    }
    return outArray;

}

答案 11 :(得分:0)

您可以用空字符串*替换副本,从而保持索引的准确性。完成后,你可以删除空字符串。

*但仅当空字符串在您的实现中无效时才会生效。

答案 12 :(得分:0)

public <Foo> Entry<Integer,List<Foo>> uniqueElementList(List<Foo> listWithPossibleDuplicates) {
  List<Foo> result = new ArrayList<Foo>();//...might want to pre-size here, if you have reliable info about the number of dupes
  Set<Foo> found = new HashSet<Foo>(); //...again with the pre-sizing
  for (Foo f : listWithPossibleDuplicates) if (found.add(f)) result.add(f);
  return entryFactory(listWithPossibleDuplicates.size()-found.size(), result);
}

然后是一些entryFactory(Integer key, List<Foo> value)方法。如果你想改变原始列表(可能不是一个好主意,但无论如何):

public <Foo> int removeDuplicates(List<Foo> listWithPossibleDuplicates) {
  int original = listWithPossibleDuplicates.size();
  Iterator<Foo> iter = listWithPossibleDuplicates.iterator();
  Set<Foo> found = new HashSet<Foo>();
  while (iter.hasNext()) if (!found.add(iter.next())) iter.remove();
  return original - found.size();
}

对于使用字符串的特定情况,您可能需要处理一些其他的等式约束(例如,大小写版本是相同还是不同?)。

编辑:啊,这是作业。在Java Collections框架中查找Iterator / Iterable,以及Set,看看你是否得出了我提供的相同结论。仿制药部分只是肉汁。

答案 13 :(得分:0)

使用套装是最好的选择(正如其他人建议的那样)。

如果你想比较列表中的所有元素,你应该稍微调整你的for循环:

for(int i = 0; i < max; i++)
    for(int j = i+1; j < max; j++)

这样,您不会仅比较每个元素一次而不是两次。这是因为第二个循环从下一个元素开始,与第一个循环相比。

当迭代它们时从列表中删除(即使使用for循环而不是迭代器),请记住减小列表的大小。一个常见的解决方案是保留另一个要删除的项目列表,然后在完成决定删除的项目后,将其从原始列表中删除。

答案 14 :(得分:0)

使用集合是删除重复项的最佳选择:

如果你有一个数组列表,你可以删除重复数据并保留数组列表功能:

 List<String> strings = new ArrayList<String>();
 //populate the array
 ...
 List<String> dedupped = new ArrayList<String>(new HashSet<String>(strings));
 int numdups = strings.size() - dedupped.size();

如果你不能使用一个集合,对数组进行排序(Collections.sort())并迭代列表,检查当前元素是否等于前一个元素,如果是,则删除它。

答案 15 :(得分:0)

您在代码中看到的问题是您在迭代期间删除了一个条目,从而使迭代位置无效。

例如:

{"a", "b", "c", "b", "b", "d"} 
       i         j  

现在你要删除字符串[j]。

{"a", "b", "c", "b", "d"} 
       i         j  

内循环结束,j递增。

{"a", "b", "c", "b", "d"} 
       i              j

只检测到一个重复的'b'... oops。

在这些情况下的最佳做法是存储必须删除的位置,并在完成遍历arraylist后删除它们。 (一个好处是,strings.size()调用可以由你或编译器在循环之外进行优化)

提示,你可以在i + 1开始用j迭代,你已经检查了0 - i!

答案 16 :(得分:0)

内部for循环无效。如果删除元素,则无法递增j,因为j现在指向您删除的元素之后的元素,您需要检查它。

换句话说,您应该使用while循环而不是for循环,只有ji处的元素才会增加j不符合。如果他们执行匹配,请删除j处的元素。 size()将减少1,j现在将指向以下元素,因此无需增加j

此外,没有理由检查内部循环中的所有元素,只检查i之后的元素,因为i之前的重复项已经被先前的迭代删除了

答案 17 :(得分:0)

我加入这个问题有点迟了,但是我使用GENERIC类型得到了更好的解决方案。以上提供的所有解决方案只是一种解决方案。它们正在增加整个运行时线程的复杂性。

RemoveDuplicacy.java

我们可以在加载时使用应该执行所需操作的技术来最小化它。

示例:假设您使用类类型的arraylist为:

ArrayList<User> usersList = new ArrayList<User>();
        usersList.clear();

        User user = new User();
        user.setName("A");
        user.setId("1"); // duplicate
        usersList.add(user);

        user = new User();
        user.setName("A");
        user.setId("1"); // duplicate
        usersList.add(user);

        user = new User();
        user.setName("AB");
        user.setId("2"); // duplicate
        usersList.add(user);

        user = new User();
        user.setName("C");
        user.setId("4");
        usersList.add(user);

        user = new User();
        user.setName("A");
        user.setId("1"); // duplicate
        usersList.add(user);

        user = new User();
        user.setName("A");
        user.setId("2"); // duplicate
        usersList.add(user);


}

该类是上面使用的arraylist的基础:用户类

class User {
    private String name;
    private String id;

    /**
     * @param name
     *            the name to set
     */
    public void setName(String name) {
        this.name = name;
    }

    /**
     * @return the name
     */
    public String getName() {
        return name;
    }

    /**
     * @param id
     *            the id to set
     */
    public void setId(String id) {
        this.id = id;
    }

    /**
     * @return the id
     */
    public String getId() {
        return id;
    }

}

现在在java中有两个Overrided方法存在Object(父)Class,它可以帮助我们更好地服务于我们的目的。它们是:

@Override
    public int hashCode() {

        final int prime = 31;
        int result = 1;
        result = prime * result + ((id == null) ? 0 : id.hashCode());
        return result;

    }

    @Override
    public boolean equals(Object obj) {

        if (this == obj)
            return true;

        if (obj == null)
            return false;

        if (getClass() != obj.getClass())
            return false;

        User other = (User) obj;

        if (id == null) {
            if (other.id != null)
                return false;

        } else if (!id.equals(other.id))
            return false;

        return true;

    }

您必须在User类

中覆盖这些方法

以下是完整的代码:

https://gist.github.com/4584310

如果您有任何疑问,请与我们联系。

答案 18 :(得分:0)

您可以将列表添加到HashSet中,然后再将该hashset转换为list以删除重复项。

public static int removeDuplicates(List<String> duplicateList){
    List<String> correctedList = new ArrayList<String>();
    Set<String> a = new HashSet<String>();
    a.addAll(duplicateList);
    correctedList.addAll(a);
    return (duplicateList.size()-correctedList.size());
}

这里它将返回重复的数量。您还可以将correctList与所有唯一值

一起使用

答案 19 :(得分:0)

下面是在不更改列表顺序的情况下从列表中删除重复元素的代码,不使用临时列表且不使用任何设置变量。此代码可以节省内存并提高性能。

这是一种适用于任何类型列表的通用方法。

这是其中一次采访中提出的问题。 在许多论坛中搜索了解决方案,但找不到一个,所以认为这是发布代码的正确论坛。

    public List<?> removeDuplicate(List<?> listWithDuplicates) {
    int[] intArray = new int[listWithDuplicates.size()];
    int dupCount = 1;
    int arrayIndex = 0;
    int prevListIndex = 0; // to save previous listIndex value from intArray
    int listIndex;

    for (int i = 0; i < listWithDuplicates.size(); i++) {
        for (int j = i + 1; j < listWithDuplicates.size(); j++) {
            if (listWithDuplicates.get(j).equals(listWithDuplicates.get(i)))
                dupCount++;

            if (dupCount == 2) {
                intArray[arrayIndex] = j; // Saving duplicate indexes to an array
                arrayIndex++;
                dupCount = 1;
            }
        }
    }

    Arrays.sort(intArray);

    for (int k = intArray.length - 1; k >= 0; k--) {
        listIndex = intArray[k];
        if (listIndex != 0 && prevListIndex != listIndex){
            listWithDuplicates.remove(listIndex);
            prevListIndex = listIndex;
        }
    }
    return listWithDuplicates;
}