使用Datafari从图像中搜索元数据

时间:2015-03-29 10:11:05

标签: solr full-text-search metadata manifoldcf

我正在寻找一个开源文档管理系统,索引所有类型的文件(文本:[pdf,doc ...],图像[jpg,png,bmp ...],视频[mov] ,mp4 ......]) 我偶然发现了Datafari

它使用 Solr 搜索引擎, ManifoldCF 来管理内容存储库连接,并使用 Tika连接器来帮助搜索元数据。

我安装了它,并且我试图进行设置,以便让它找到按元数据标准搜索的图像但到目前为止没有运气。

我添加了一个带有一些元数据的图像的本地存储库:

<?xml version="1.0" encoding="UTF-8"?><html xmlns="http://www.w3.org/1999/xhtml">
<head>
<meta name="Artist" content="tarzan"/>
<meta name="date" content="2015-03-28T09:47:45"/>
<meta name="Print flags information" content="0 1 0 0 0 0 0 0 0 2"/>
<meta name="Slices" content="zebre (0,0,500,500) 1 Slices"/>
<meta name="ICC Untagged Profile" content="1"/>
<meta name="Compression Type" content="Baseline"/>
<meta name="subject" content="legs"/>
<meta name="subject" content="mammal"/>
<meta name="Image Description" content="this kind of animal is hard to see behind bar"/>
<meta name="Thumbnail Compression" content="JPEG (old-style)"/>
<meta name="Print flags" content="0 0 0 0 0 0 0 0 1"/>
<meta name="By-line" content="tarzan"/>
<meta name="Number of Components" content="3"/>
<meta name="Component 2" content="Cb component: Quantization table 1, Sampling factors 1 horiz/1 vert"/>
<meta name="Component 1" content="Y component: Quantization table 0, Sampling factors 1 horiz/1 vert"/>
<meta name="tiff:ResolutionUnit" content="Inch"/>
<meta name="Object Name" content="king of disguise"/>
<meta name="Seed number" content="1"/>
<meta name="X Resolution" content="72 dots per inch"/>
<meta name="IPTC-NAA record" content="160 bytes binary data"/>
<meta name="Unknown tag (0x043a)" content="[239 bytes]"/>
<meta name="Version Info" content="1 (Adobe Photoshop, Adobe Photoshop CS6) 1"/>
<meta name="Component 3" content="Cr component: Quantization table 1, Sampling factors 1 horiz/1 vert"/>
<meta name="dc:title" content="king of disguise"/>
<meta name="modified" content="2015-03-28T09:47:45"/>
<meta name="Thumbnail Data" content="JpegRGB, 160x160, Decomp 76800 bytes, 1572865 bpp, 6513 bytes"/>
<meta name="tiff:BitsPerSample" content="8"/>
<meta name="Application Record Version" content="42432"/>
<meta name="Resolution Info" content="72.0x72.0 DPI"/>
<meta name="meta:author" content="tarzan"/>
<meta name="meta:creation-date" content="2015-03-28T09:47:45"/>
<meta name="Caption digest" content="[16 bytes]"/>
<meta name="Creation-Date" content="2015-03-28T09:47:45"/>
<meta name="resourceName" content="zebre.jpg"/>
<meta name="Orientation" content="Top, left side (Horizontal / normal)"/>
<meta name="tiff:Orientation" content="1"/>
<meta name="tiff:Software" content="Adobe Photoshop CS6 (Windows)"/>
<meta name="Thumbnail Offset" content="354 bytes"/>
<meta name="Color Transform" content="YCbCr"/>
<meta name="Global Angle" content="120"/>
<meta name="Author" content="tarzan"/>
<meta name="Exif Image Height" content="500 pixels"/>
<meta name="Software" content="Adobe Photoshop CS6 (Windows)"/>
<meta name="tiff:YResolution" content="72.0"/>
<meta name="Y Resolution" content="72 dots per inch"/>
<meta name="dc:description" content="this kind of animal is hard to see behind bars"/>
<meta name="Color transfer functions" content="[112 bytes]"/>
<meta name="Keywords" content="legs"/>
<meta name="Keywords" content="mammal"/>
<meta name="Data Precision" content="8 bits"/>
<meta name="Coded Character Set" content="%G"/>
<meta name="dc:creator" content="tarzan"/>
<meta name="tiff:ImageLength" content="500"/>
<meta name="description" content="this kind of animal is hard to see behind bars"/>
<meta name="JPEG quality" content="12 (Maximum), Standard format, 3 scans"/>
<meta name="dcterms:created" content="2015-03-28T09:47:45"/>
<meta name="dcterms:modified" content="2015-03-28T09:47:45"/>
<meta name="Last-Modified" content="2015-03-28T09:47:45"/>
<meta name="Last-Save-Date" content="2015-03-28T09:47:45"/>
<meta name="Thumbnail Length" content="6513 bytes"/>
<meta name="Color Space" content="Undefined"/>
<meta name="Credit" content="tarzan"/>
<meta name="Global Altitude" content="30"/>
<meta name="meta:save-date" content="2015-03-28T09:47:45"/>
<meta name="Country/Primary Location Name" content="kenya"/>
<meta name="Content-Length" content="93123"/>
<meta name="Content-Type" content="image/jpeg"/>
<meta name="X-Parsed-By" content="org.apache.tika.parser.DefaultParser"/>
<meta name="X-Parsed-By" content="org.apache.tika.parser.jpeg.JpegParser"/>
<meta name="creator" content="tarzan"/>
<meta name="Color halftoning information" content="[72 bytes]"/>
<meta name="dc:subject" content="legs"/>
<meta name="dc:subject" content="mammal"/>
<meta name="tiff:XResolution" content="72.0"/>
<meta name="Date/Time" content="2015:03:28 09:47:45"/>
<meta name="Grid and guides information" content="[16 bytes]"/>
<meta name="Caption/Abstract" content="this kind of animal is hard to see behind bars"/>
<meta name="DCT Encode Version" content="1"/>
<meta name="Exif Image Width" content="500 pixels"/>
<meta name="Image Height" content="500 pixels"/>
<meta name="Pixel Aspect Ratio" content="1.0"/>
<meta name="Supplemental Category(s)" content="earthly creature"/>
<meta name="Image Width" content="500 pixels"/>
<meta name="Flags 0" content="64"/>
<meta name="Resolution Unit" content="Inch"/>
<meta name="Unknown tag (0x043b)" content="[557 bytes]"/>
<meta name="URL List" content="0"/>
<meta name="meta:keyword" content="legs"/>
<meta name="meta:keyword" content="mammal"/>
<meta name="Print Scale" content="Centered, Scale 1.0"/>
<meta name="tiff:ImageWidth" content="500"/>
<meta name="Flags 1" content="0"/>
<title>king of disguise</title>
</head>
<body/></html>

在solr schema.xml中,我添加了我需要的字段:

<fields>
...
 <field name="subject" type="string" indexed="true" stored="true" multiValued="true" />

然后我重新启动了服务器

在Job列表的ManifoldCF管理中,我在Job中添加了一个Tika提取器转换: 管道是:我的存储库 - &gt; Tika Extractor - &gt; DatafariSolr

我在Solr界面尝试了搜索: 对于q,我试过"subject:legs" 并且那里,我是Solr界面,我检索了数据

但是在Datafari搜索引擎中,我没有得到任何结果

Datafari的帮助不是很有帮助,我调查了Manifoldcf documentation,但没有更多的运气。 我想通过元数据进行这种搜索的真实示例。 应该修改和/或测试什么才能在结果中看到图像?

Olivier Tavard回答后的更新:

感谢您的帮助。这个工具真的很有前途,但我仍然在配置它时遇到了问题:

我无法找到datafari / WebContent / js / search.js。你的意思是:datafari / tomcat / webapps / Datafari / js / search.js?

我添加了您的建议。

我还添加了字段&#34; description&#34;和&#34;创作者&#34;。

1 - 在SolR搜索中: - 如果我搜索q&#34; 动物&#34;我可以检索我的图像(不是用&#34;动物&#34;),现在好于&#34;描述:动物&#34;。 - 但如果我搜索&#34; leg&#34;我没有找回任何东西。是因为有几个&lt; meta&gt; &#34;主题&#34;,有不同的搜索方式吗? - 如果我搜索&#34; tarzan&#34; (来自创作者领域),我也不会检索任何东西。

Datafari UI搜索中的

2 - : - 我所做的改变似乎已经破坏了#34;搜索:当我搜索时,我的车轮一直在转动。在控制台中我有:

    GET "http://localhost:8080/Datafari/css/menu.css" 404
L'utilisation d'XMLHttpRequest de façon synchrone sur le fil d'exécution principal est obsolète à cause de son impact négatif sur la navigation de l'utilisateur final.

3 - 我添加了另一张带有相同字段的其他元数据的图片,而在SolR搜索中,如果我查询&#34; jpg&#34;,它们都出现(OK),但在json响应中,额外的字段不会出现在另一张图片中!

{
  "responseHeader": {
    "status": 0,
    "QTime": 6,
    "params": {
      "indent": "true",
      "q": "jpg\n",
      "_": "1427968093838",
      "wt": "json"
    }
  },
  "response": {
    "numFound": 2,
    "start": 0,
    "docs": [
      {
        "last_modified": "2015-03-28T09:47:45Z",
        "id": "file:/home/olivier/Bureau/datafari/images/zebre.jpg",
        "url": "file:/home/olivier/Bureau/datafari/images/zebre.jpg",
        "source": "file",
        "extension": "jpg",
        "language": "en",
        "content_en": [
          ""
        ],
        "title_en": [
          "zebre.jpg"
        ],
        "title": [
          "zebre.jpg"
        ],
        "_version_": 1496971642075611100,
        "allow_token_share": [
          "__nosecurity__"
        ],
        "deny_token_document": [
          "__nosecurity__"
        ],
        "deny_token_share": [
          "__nosecurity__"
        ],
        "allow_token_document": [
          "__nosecurity__"
        ]
      },
      {
        "last_modified": "2015-03-29T15:45:23Z",
        "subject": [
          "Description Mots clé"
        ],
        "id": "file:/home/olivier/Bureau/datafari/metadata/image1toto.jpg",
        "creator": [
          "Description, IPTC - Auteur: beta"
        ],
        "description": [
          "Description Description : gamma"
        ],
        "url": "file:/home/olivier/Bureau/datafari/metadata/image1toto.jpg",
        "source": "file",
        "extension": "jpg",
        "language": "en",
        "content_en": [
          ""
        ],
        "title_en": [
          "image1toto.jpg"
        ],
        "title": [
          "image1toto.jpg"
        ],
        "_version_": 1497001790322770000,
        "allow_token_share": [
          "__nosecurity__"
        ],
        "deny_token_document": [
          "__nosecurity__"
        ],
        "deny_token_share": [
          "__nosecurity__"
        ],
        "allow_token_document": [
          "__nosecurity__"
        ]
      }
    ]
  },
  "highlighting": {
    "file:/home/olivier/Bureau/datafari/images/imagejpg.jpg": {
      "content_fr": [
        ""
      ],
      "content_en": [
        ""
      ]
    },
    "file:/home/olivier/Bureau/datafari/images/zebre.jpg": {
      "content_fr": [
        ""
      ],
      "content_en": [
        ""
      ]
    },
    "file:/home/olivier/Bureau/datafari/metadata/image1toto.jpg": {
      "content_fr": [
        ""
      ],
      "content_en": [
        ""
      ]
    }
  },
  "spellcheck": {
    "suggestions": []
  },
  "capsuleSearchComponent": {}
}

我很困惑。

Olivier Tavard回答后编辑

对于迟到的回答感到抱歉,我正在处理紧急事件,并且无法按照我的意愿进行测试/回答。

我按照你的步骤(非常教诲,谢谢),并在某种程度上设法在客户端搜索结果:)

但是:

1-我必须使用通配符在datafari gui中找到它:&#34;伪装的马&#34; =&GT;我不得不放马*&#39;而不是&#39;马&#39;

2 - 如何检索多个字段的数据(例如:meta:keyword ...)

<meta name="meta:keyword" content="legs"/>
<meta name="meta:keyword" content="mammal"/>

3 - 我有一个&#34;标准&#34;安装,但我有localhost:8080/Datafari/css/menu.css的404,也许这就是为什么我刷新页面直到刷新页面

2 个答案:

答案 0 :(得分:1)

感谢您使用Datafari。要将字段的显示添加到UI中,您必须修改2个文件:

  • datafari / tomcat / webapps / Datafari / js / main.js

    更改行:

    Manager.store.addByValue("fl", 'title,url,id,extension');
    

    在示例主题

    中添加您要添加​​的字段
    Manager.store.addByValue("fl", 'title,url,id,extension, subject');
    
  • datafari /的WebContent / JS / search.js

    添加字段的显示,添加代码:doc.subject您要添加的位置。例如,如果要在文档的URL之后添加它:

    elm.find('.doc:last .address').append(doc.subject);
    

如果您的问题与搜索有关:搜索 leg 不会检索任何结果,则必须更改datafari / solr / solr_home / FileShare / conf / solrconfig.xml中的Solr配置:< / p>

<requestHandler name="/select" class="solr.SearchHandler">

qf (以及 pf ,如果需要)中添加主题字段到列表中:

<str name="qf">subject title_en^50 title_fr^50 content_fr^10 content_en^10 source^20 extension^20 
        </str>

如果您有兴趣,我们会开始some documentation here

答案 1 :(得分:1)

好的,我会尽力完成答案。
我从datafari.com上下载的Datafari的vanilla安装开始重现这些步骤。

假设我们要在Solr中添加一个名为meta:author的新元数据字段,并在Datafari中命名为 authorname
让我们看看每个步骤将字段显示到Datafari UI并允许使用Solr搜索字段。
1)编辑solrconfig.xml
我们希望将源文件的originam元数据: meta:author 映射到名为authorname的新Solr字段。 所以我们必须编辑Solr单元格请求处理程序:

<requestHandler name="/update/extract" 
              startup="lazy"
              class="solr.extraction.ExtractingRequestHandler" >
<lst name="defaults">
        <str name="scan">false</str>
        <str name="captureAttr">true</str>
        <str name="lowernames">true</str>
        <str name="fmap.language">ignored_</str>
        <str name="fmap.meta_author">authorname</str>
        <str name="fmap.source">ignored_</str>
        <str name="uprefix">ignored_</str>
        <str name="update.chain">datafari</str>
        <bool name="ignoreTikaException">true</bool>

正确的语法是meta_author(而不是meta:author),因为行<str name="lowernames">true</str>
documentation说:“lowernames = true | false - 将所有字段名称映射为带有下划线的小写”

您还可以在配置中看到我们在动态字段中存储了所有忽略的元数据。我邀请您更改schema.xml中字段的配置,并将stored = false更改为store = true以查看Tika找到的所有元数据(并查看将字段映射到Solr的正确语法)  例如:

Example of fields retrieved by Solr


2)编辑schema.xml
我们现在想要将新字段添加到Solr模式中。所以添加以下行:

<field name="authorname" type="text_en" indexed="true" stored="true" multiValued="true"/>

好的,到目前为止,我们可以使用ManifoldCF启动索引,并且新字段在Solr中很好。

3)将新字段添加到搜索中 编辑solrconfig.xml,在select request handler中添加字段:

<str name="qf">author title_en^50 title_fr^50 content_fr^10 content_en^10 source^20 extension^20
        </str>

核心重新加载后,我们现在可以搜索并查找新字段的数据。

4)配置Datafari UI 到datafari / tomcat / webapps / Datafari / js / main.js(源代码)或Datafari / tomcat / webapps / Datafari / js / main.js(已安装版本) 改变这一行:

Manager.store.addByValue("fl", 'title,url,id,extension'); 

并添加您要添加​​的字段,此处为autorname

Manager.store.addByValue("fl", 'title,url,id,extension, authorname');

最后一步是更改Javascript文件search.js: datafari / WebContent / js / search.js(源代码)或Datafari / tomcat / webapps / Datafari \ js / search.js(已安装版本) 添加您要添加​​代码的字段的显示:doc.subject。例如,如果要在文档的URL之后添加它: (我在之前的回答中犯了一个错误,现在是正确的)

elm.find('.doc:last .address').append('<span>' + AjaxFranceLabs.tinyUrl(decodeURIComponent(url)) + '</span>')
elm.find('.doc:last .address').append('<div id="author">' + doc.author );

最后,你的Datafari Ui应该与每个文档末尾的字段作者一样:

Datafari UI

告诉我你是否还有问题。
最好的问候

在user29296之后编辑其他问题

  • 关于通配符 这取决于您使用的字段类型以及您需要的搜索类型。通常,您不必在单词之前添加额外的通配符。如果要使用提供的后缀搜索任何前缀,则需要ReversedWildcardFilterFactory。

  • 检索多个字段的数据 在这种情况下,我不明白你的问题是什么。你能给我一个例子吗?如果更改搜索处理程序选择配置,则可以在 qf 部分中添加要搜索的字段。所以只需在此处添加meta_keyword字段即可。因此,客户端在执行搜索时也会搜索该字段。

  • Menu.css 404错误 此错误对应用程序没有任何影响。此缺失文件的修复程序将包含在Datafari的下一次更新中。