打开lucene索引时出错:java.io.IOException:Map failed

时间:2015-10-01 19:13:40

标签: java solr lucene

我有一个问题,我认为与此处描述的相同:

Error when opening a lucene index: Map failed

然而,此解决方案不适用于此案例,因此我提供了更多详细信息并再次提问。

索引是使用Solr 5.3

创建的

导致异常的代码行是:

IndexReader indexReader = DirectoryReader.open(FSDirectory.open(Paths.get("the_path")));

异常堆栈跟踪是:

Exception in thread "main" java.io.IOException: Map failed: MMapIndexInput(path="/mnt/fastdata/ac1zz/JATE/solr-5.3.0/server/solr/jate/data_aclrd/index/_5t.tvd") [this may be caused by lack of enough unfragmented virtual address space or too restrictive virtual memory limits enforced by the operating system, preventing us to map a chunk of 434505698 bytes. Please review 'ulimit -v', 'ulimit -m' (both should return 'unlimited'), and 'sysctl vm.max_map_count'. More information: http://blog.thetaphi.de/2012/07/use-lucenes-mmapdirectory-on-64bit.html]
at sun.nio.ch.FileChannelImpl.map(FileChannelImpl.java:907)
at org.apache.lucene.store.MMapDirectory.map(MMapDirectory.java:265)
at org.apache.lucene.store.MMapDirectory.openInput(MMapDirectory.java:239)
at org.apache.lucene.codecs.compressing.CompressingTermVectorsReader.<init>(CompressingTermVectorsReader.java:144)
at org.apache.lucene.codecs.compressing.CompressingTermVectorsFormat.vectorsReader(CompressingTermVectorsFormat.java:91)
at org.apache.lucene.index.SegmentCoreReaders.<init>(SegmentCoreReaders.java:120)
at org.apache.lucene.index.SegmentReader.<init>(SegmentReader.java:65)
at org.apache.lucene.index.StandardDirectoryReader$1.doBody(StandardDirectoryReader.java:58)
at org.apache.lucene.index.StandardDirectoryReader$1.doBody(StandardDirectoryReader.java:50)
at org.apache.lucene.index.SegmentInfos$FindSegmentsFile.run(SegmentInfos.java:731)
at org.apache.lucene.index.StandardDirectoryReader.open(StandardDirectoryReader.java:50)
at org.apache.lucene.index.DirectoryReader.open(DirectoryReader.java:63)
at uk.ac.shef.dcs.jate.app.AppATTF.extract(AppATTF.java:39)
at uk.ac.shef.dcs.jate.app.AppATTF.main(AppATTF.java:33)

在这种情况下,异常消息中的建议解决方案不起作用,因为我在服务器上运行应用程序而我无权更改这些解决方案。

即,

ulimit -v unlimited

打印:&#34; -bash:ulimit:虚拟内存:无法修改限制:不允许操作&#34;

和     sysctl -w vm.max_map_count = 10000000

给出:&#34;错误:关键&#39; vm.max_map_count&#39;&#34;&#34;

的权限被拒绝

无论如何我能解决这个问题吗?

由于

1 个答案:

答案 0 :(得分:1)

我找到了一个解决方案,所以我在回答自己。

如果你真的无法设置ulimit或vm.max_map_count,根据http://blog.thetaphi.de/2012/07/use-lucenes-mmapdirectory-on-64bit.html,唯一的解决方案是配置你的solr(或者如果你使用Lucene api,明确选择)来使用SimpleFSDirectory(如果是windows)或NIOFSDirectory,两者都比默认值慢。

例如

DirectoryReader.open(new NIOFSDirectory(Paths.get("path_to_index"), FSLockFactory.getDefault()))