Kafka服务器无法启动 - java.io.IOException:Map失败

时间:2017-03-27 09:05:10

标签: server out-of-memory apache-kafka ioexception

由于以下错误,我无法启动Kafka Server。

java.io.IOException: Map failed
    at sun.nio.ch.FileChannelImpl.map(FileChannelImpl.java:940)
    at kafka.log.AbstractIndex.<init>(AbstractIndex.scala:61)
    at kafka.log.TimeIndex.<init>(TimeIndex.scala:55)
    at kafka.log.LogSegment.<init>(LogSegment.scala:73)
    at kafka.log.Log.loadSegments(Log.scala:267)
    at kafka.log.Log.<init>(Log.scala:116)
    at kafka.log.LogManager$$anonfun$createLog$1.apply(LogManager.scala:365)
    at kafka.log.LogManager$$anonfun$createLog$1.apply(LogManager.scala:361)
    at scala.Option.getOrElse(Option.scala:121)
    at kafka.log.LogManager.createLog(LogManager.scala:361)
    at kafka.cluster.Partition$$anonfun$getOrCreateReplica$1.apply(Partition.scala:109)
    at kafka.cluster.Partition$$anonfun$getOrCreateReplica$1.apply(Partition.scala:106)
    at kafka.utils.Pool.getAndMaybePut(Pool.scala:70)
    at kafka.cluster.Partition.getOrCreateReplica(Partition.scala:105)
    at kafka.cluster.Partition$$anonfun$4$$anonfun$apply$3.apply(Partition.scala:166)
    at kafka.cluster.Partition$$anonfun$4$$anonfun$apply$3.apply(Partition.scala:166)
    at scala.collection.mutable.HashSet.foreach(HashSet.scala:78)
    at kafka.cluster.Partition$$anonfun$4.apply(Partition.scala:166)
    at kafka.cluster.Partition$$anonfun$4.apply(Partition.scala:160)
    at kafka.utils.CoreUtils$.inLock(CoreUtils.scala:213)
    at kafka.utils.CoreUtils$.inWriteLock(CoreUtils.scala:221)
    at kafka.cluster.Partition.makeLeader(Partition.scala:160)
    at kafka.server.ReplicaManager$$anonfun$makeLeaders$4.apply(ReplicaManager.scala:754)
    at kafka.server.ReplicaManager$$anonfun$makeLeaders$4.apply(ReplicaManager.scala:753)
    at scala.collection.mutable.HashMap$$anonfun$foreach$1.apply(HashMap.scala:99)
    at scala.collection.mutable.HashMap$$anonfun$foreach$1.apply(HashMap.scala:99)
    at scala.collection.mutable.HashTable$class.foreachEntry(HashTable.scala:230)
    at scala.collection.mutable.HashMap.foreachEntry(HashMap.scala:40)
    at scala.collection.mutable.HashMap.foreach(HashMap.scala:99)
    at kafka.server.ReplicaManager.makeLeaders(ReplicaManager.scala:753)
    at kafka.server.ReplicaManager.becomeLeaderOrFollower(ReplicaManager.scala:698)
    at kafka.server.KafkaApis.handleLeaderAndIsrRequest(KafkaApis.scala:148)
    at kafka.server.KafkaApis.handle(KafkaApis.scala:84)
    at kafka.server.KafkaRequestHandler.run(KafkaRequestHandler.scala:62)
    at java.lang.Thread.run(Thread.java:745)
Caused by: java.lang.OutOfMemoryError: Map failed
    at sun.nio.ch.FileChannelImpl.map0(Native Method)
    at sun.nio.ch.FileChannelImpl.map(FileChannelImpl.java:937)
    ... 34 more

尝试以下选项。但没用请帮忙

升级操作系统从32位到64位 将Java堆大小增加到1 GB 卸载并安装了Apache Kafka

5 个答案:

答案 0 :(得分:8)

如果这不能解决问题,您可以尝试增加vm.max_map_count。默认值为65536(使用sysctl vm.max_map_count进行检查)

使用cat /proc/[kafka-pid]/maps | wc -l,您可以看到使用了多少个地图。

使用以下方法增加设置:

sysctl -w vm.max_map_count=262144

答案 1 :(得分:7)

将JVM升级到64位解决了问题

答案 2 :(得分:3)

这对我有帮助:更改KAFKA_HEAP_OPTS =“-Xmx256M -Xms256M”(原为512m)

将其更改为:kafka-server-start脚本

谢谢!

答案 3 :(得分:0)

我在Windows上遇到了同样的问题,Kafka在此过程中占用了一些内存。因此,我们需要增加堆以防止限制应用程序的性能。可以通过JAVA控制面板以图形方式实现。

enter image description here

在运行时参数中,您可以更改JVM分配的内存大小:

  • -Xmx512m,分配512MB,
  • -分配1GB的Xmx1024m,
  • -Xmx2048m分配2GB,
  • -Xmx3072m分配3GB内存,依此类推。

enter image description here

答案 4 :(得分:0)

这对我有帮助: 变化: export KAFKA_HEAP_OPTS="-Xmx512M -Xms512M" (最初为1G)

在kafka-server-start脚本中