将外部数据文件上传到Apache Solr的方法

时间：2018-09-06 01:37:29

标签： json docker curl solr

上下文

我正在GCP Kubernetes引擎中运行official Docker Hub Apache Solr 7.4 image。

问题

我需要将JSON文档上传到索引。过去，我只有使用bin/post命令或Admin UI上传存储在托管Solr实例的同一台计算机上的文档的经验。

现在，我需要从我的机器上将相当多的JSON文档上载到Docker容器中的Solr实例（确切地说，每个文档约有30MB）。向图像添加太多额外的数据没有任何意义。并且JSON Formatted Index Updates文档页面仅提供两个选项：

  • 上传与Solr实例位于同一台机器上的JSON文档或
  • 直接在curl命令中指定JSON文档

我厌倦了使用我希望可以使用的命令添加文档（请注意，由于我首先在本地测试Docker映像，所以我在这里使用localhost，但思路是相同的）

curl 'http://localhost:8983/solr/my_core/update?commit=true' --data-binary @/my/local/data/part1.json -H 'Content-type:application/json'

但是上面的代码返回500状态代码。我尝试了其他一些变种，但没有一个起作用。

将外部数据文件上传到Apache Solr的最佳方法是什么？

如果您提供适合我的情况的替代解决方案，这也将有所帮助。

其他信息

小样本JSON文件

只有2个文档，但尝试将它们上传到文件中时却得到相同的结果。

[{"iframe":"<iframe src=\"https:\/\/www.example.com\/embed\/ph5b8e18ce6b447\" frameborder=\"0\" height=\"481\" width=\"608\" scrolling=\"no\"><\/iframe>","main_thumbnail_url":"https:\/\/ci.excdn.com\/file\/201809\/04\/181459731\/original\/(m=eaf8Ggaaaa)(mh=sYnlTgQZyb7M8XKU)8.jpg","title":"Example 1","tags":["t1","t2","t3","t4","t5"],"categories":["a","b","c","d","e","f"],"author_name":null,"duration":501,"views":0,"likes":0,"dislikes":0,"likes_ratio":0.0,"id":4250000},{"iframe":"<iframe src=\"https:\/\/www.example.com\/embed\/ph5b8e18c2943af\" frameborder=\"0\" height=\"481\" width=\"608\" scrolling=\"no\"><\/iframe>","main_thumbnail_url":"https:\/\/ci.excdn.com\/files\/201809\/04\/181459741\/original\/(m=eaf8Ggaaaa)(mh=uumefyKUUQmKHNx0)5.jpg","title":"Example 2","tags":["t1","t2"],"categories":["a","b","c","d","e","f","g","h","i"],"author":null,"duration":53,"views":0,"likes":0,"dislikes":0,"likes_ratio":0.0,"id":4250001}]

Stacktrace 

{
  "responseHeader":{
    "status":500,
    "QTime":6},
  "error":{
    "trace":"java.lang.NullPointerException\n\tat org.apache.solr.update.processor.AddSchemaFieldsUpdateProcessorFactory$AddSchemaFieldsUpdateProcessor.mapValueClassesToFieldType(AddSchemaFieldsUpdateProcessorFactory.java:509)\n\tat org.apache.solr.update.processor.AddSchemaFieldsUpdateProcessorFactory$AddSchemaFieldsUpdateProcessor.processAdd(AddSchemaFieldsUpdateProcessorFactory.java:396)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldNameMutatingUpdateProcessorFactory$1.processAdd(FieldNameMutatingUpdateProcessorFactory.java:75)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.FieldMutatingUpdateProcessor.processAdd(FieldMutatingUpdateProcessor.java:118)\n\tat org.apache.solr.update.processor.UpdateRequestProcessor.processAdd(UpdateRequestProcessor.java:55)\n\tat org.apache.solr.update.processor.AbstractDefaultValueUpdateProcessorFactory$DefaultValueUpdateProcessor.processAdd(AbstractDefaultValueUpdateProcessorFactory.java:92)\n\tat org.apache.solr.handler.loader.JsonLoader$SingleThreadedJsonLoader.handleAdds(JsonLoader.java:501)\n\tat org.apache.solr.handler.loader.JsonLoader$SingleThreadedJsonLoader.processUpdate(JsonLoader.java:145)\n\tat org.apache.solr.handler.loader.JsonLoader$SingleThreadedJsonLoader.load(JsonLoader.java:121)\n\tat org.apache.solr.handler.loader.JsonLoader.load(JsonLoader.java:84)\n\tat org.apache.solr.handler.UpdateRequestHandler$1.load(UpdateRequestHandler.java:97)\n\tat org.apache.solr.handler.ContentStreamHandlerBase.handleRequestBody(ContentStreamHandlerBase.java:68)\n\tat org.apache.solr.handler.RequestHandlerBase.handleRequest(RequestHandlerBase.java:199)\n\tat org.apache.solr.core.SolrCore.execute(SolrCore.java:2539)\n\tat org.apache.solr.servlet.HttpSolrCall.execute(HttpSolrCall.java:709)\n\tat org.apache.solr.servlet.HttpSolrCall.call(HttpSolrCall.java:515)\n\tat org.apache.solr.servlet.SolrDispatchFilter.doFilter(SolrDispatchFilter.java:377)\n\tat org.apache.solr.servlet.SolrDispatchFilter.doFilter(SolrDispatchFilter.java:323)\n\tat org.eclipse.jetty.servlet.ServletHandler$CachedChain.doFilter(ServletHandler.java:1634)\n\tat org.eclipse.jetty.servlet.ServletHandler.doHandle(ServletHandler.java:533)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.handle(ScopedHandler.java:146)\n\tat org.eclipse.jetty.security.SecurityHandler.handle(SecurityHandler.java:548)\n\tat org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:132)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextHandle(ScopedHandler.java:257)\n\tat org.eclipse.jetty.server.session.SessionHandler.doHandle(SessionHandler.java:1595)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextHandle(ScopedHandler.java:255)\n\tat org.eclipse.jetty.server.handler.ContextHandler.doHandle(ContextHandler.java:1253)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextScope(ScopedHandler.java:203)\n\tat org.eclipse.jetty.servlet.ServletHandler.doScope(ServletHandler.java:473)\n\tat org.eclipse.jetty.server.session.SessionHandler.doScope(SessionHandler.java:1564)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.nextScope(ScopedHandler.java:201)\n\tat org.eclipse.jetty.server.handler.ContextHandler.doScope(ContextHandler.java:1155)\n\tat org.eclipse.jetty.server.handler.ScopedHandler.handle(ScopedHandler.java:144)\n\tat org.eclipse.jetty.server.handler.ContextHandlerCollection.handle(ContextHandlerCollection.java:219)\n\tat org.eclipse.jetty.server.handler.HandlerCollection.handle(HandlerCollection.java:126)\n\tat org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:132)\n\tat org.eclipse.jetty.rewrite.handler.RewriteHandler.handle(RewriteHandler.java:335)\n\tat org.eclipse.jetty.server.handler.HandlerWrapper.handle(HandlerWrapper.java:132)\n\tat org.eclipse.jetty.server.Server.handle(Server.java:531)\n\tat org.eclipse.jetty.server.HttpChannel.handle(HttpChannel.java:352)\n\tat org.eclipse.jetty.server.HttpConnection.onFillable(HttpConnection.java:260)\n\tat org.eclipse.jetty.io.AbstractConnection$ReadCallback.succeeded(AbstractConnection.java:281)\n\tat org.eclipse.jetty.io.FillInterest.fillable(FillInterest.java:102)\n\tat org.eclipse.jetty.io.ChannelEndPoint$2.run(ChannelEndPoint.java:118)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.runTask(EatWhatYouKill.java:333)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.doProduce(EatWhatYouKill.java:310)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.tryProduce(EatWhatYouKill.java:168)\n\tat org.eclipse.jetty.util.thread.strategy.EatWhatYouKill.run(EatWhatYouKill.java:126)\n\tat org.eclipse.jetty.util.thread.ReservedThreadExecutor$ReservedThread.run(ReservedThreadExecutor.java:366)\n\tat org.eclipse.jetty.util.thread.QueuedThreadPool.runJob(QueuedThreadPool.java:760)\n\tat org.eclipse.jetty.util.thread.QueuedThreadPool$2.run(QueuedThreadPool.java:678)\n\tat java.base/java.lang.Thread.run(Thread.java:844)\n",
    "code":500}}

编辑：

这与我的JSON文件的格式有关……我可以毫无问题地上传Solr example JSON file。

我很确定我的文件是格式正确的JSON，因为我是通过saving a Pandas DataFrame as JSON获得的。 Python标准json模块也可以毫无问题地加载文件。因此，它必须与Solr / Java如何读取我的文件有关。

1 个答案:

答案 0 :(得分：0)

显然，Solr不允许null作为字段值（这会导致Solr抛出NullPointerException）。将示例JSON文件中的null更改为字符串后，我可以按照问题中所述的步骤上传文件。

相关问题
最新问题