我们正在索引数百万份文件。我们使用Solr 3.1和Jetty。我按照此处所述启用了Jetty中的日志记录:http://wiki.apache.org/solr/LoggingInDefaultJettySetup
对于某些全文,我们会得到例外,因此记录如下:
<record>
<date>2012-09-04T15:55:16</date>
<millis>1346766916578</millis>
<sequence>0</sequence>
<logger>org.apache.solr.core.SolrCore</logger>
<level>SEVERE</level>
<class>org.apache.solr.common.SolrException</class>
<method>log</method>
<thread>10</thread>
<message>java.lang.RuntimeException: [was class java.io.CharConversionException] Invalid UTF-8 character 0xd835(a surrogate character) at c
har #1144, byte #127)
at com.ctc.wstx.util.ExceptionUtil.throwRuntimeException(ExceptionUtil.java:18)
at com.ctc.wstx.sr.StreamScanner.throwLazyError(StreamScanner.java:731)
at com.ctc.wstx.sr.BasicStreamReader.safeFinishToken(BasicStreamReader.java:3657)
at com.ctc.wstx.sr.BasicStreamReader.getText(BasicStreamReader.java:809)
at org.apache.solr.handler.XMLLoader.readDoc(XMLLoader.java:287)
at org.apache.solr.handler.XMLLoader.processUpdate(XMLLoader.java:146)
at org.apache.solr.handler.XMLLoader.load(XMLLoader.java:77)
at org.apache.solr.handler.ContentStreamHandlerBase.handleRequestBody(ContentStreamHandlerBase.java:55)
at org.apache.solr.handler.RequestHandlerBase.handleRequest(RequestHandlerBase.java:129)
at org.apache.solr.core.SolrCore.execute(SolrCore.java:1360)
at org.apache.solr.servlet.SolrDispatchFilter.execute(SolrDispatchFilter.java:356)
at org.apache.solr.servlet.SolrDispatchFilter.doFilter(SolrDispatchFilter.java:252)
at org.mortbay.jetty.servlet.ServletHandler$CachedChain.doFilter(ServletHandler.java:1212)
at org.mortbay.jetty.servlet.ServletHandler.handle(ServletHandler.java:399)
at org.mortbay.jetty.security.SecurityHandler.handle(SecurityHandler.java:216)
at org.mortbay.jetty.servlet.SessionHandler.handle(SessionHandler.java:182)
at org.mortbay.jetty.handler.ContextHandler.handle(ContextHandler.java:766)
at org.mortbay.jetty.webapp.WebAppContext.handle(WebAppContext.java:450)
at org.mortbay.jetty.handler.ContextHandlerCollection.handle(ContextHandlerCollection.java:230)
at org.mortbay.jetty.handler.HandlerCollection.handle(HandlerCollection.java:114)
at org.mortbay.jetty.handler.HandlerWrapper.handle(HandlerWrapper.java:152)
at org.mortbay.jetty.Server.handle(Server.java:326)
</message>
</record>
还可以记录发送的文档ID。我们怎么做到这一点?
谢谢!
答案 0 :(得分:0)
您是否在询问如何让Jetty记录ID?由于无法解析请求中的XML以获取ID值,因此您无法通过Jetty进行日志记录。请注意,堆栈跟踪通知XMLLoader.readDoc()方法永远不会超过第287行。以下是该类的代码(适用于您的版本): http://svn.apache.org/viewvc/lucene/dev/tags/lucene_solr_3_1/solr/src/java/org/apache/solr/handler/XMLLoader.java?revision=1086927&view=markup
相关部分:
SolrInputDocument readDoc(XMLStreamReader parser) throws XMLStreamException {
264 SolrInputDocument doc = new SolrInputDocument();
265
266 String attrName = "";
267 for (int i = 0; i < parser.getAttributeCount(); i++) {
268 attrName = parser.getAttributeLocalName(i);
269 if ("boost".equals(attrName)) {
270 doc.setDocumentBoost(Float.parseFloat(parser.getAttributeValue(i)));
271 } else {
272 XmlUpdateRequestHandler.log.warn("Unknown attribute doc/@" + attrName);
273 }
274 }
275
276 StringBuilder text = new StringBuilder();
277 String name = null;
278 float boost = 1.0f;
279 boolean isNull = false;
280 while (true) {
281 int event = parser.next();
282 switch (event) {
283 // Add everything to the text
284 case XMLStreamConstants.SPACE:
285 case XMLStreamConstants.CDATA:
286 case XMLStreamConstants.CHARACTERS:
287 text.append(parser.getText());
Solr文档尚未构建,因此无法获得记录ID字段。
解决方法是让索引器脚本检查Solr响应的状态代码,并在状态不为0(成功)时将记录ID写入日志。同样,如果您使用的是Java或PHP或可以捕获异常的语言,您也可以捕获它们并写出来记录。
希望这会有所帮助,祝你好运。