Talend中的常见日志记录

时间:2017-01-26 17:06:20

标签: talend talend-mdm

我试图在Talend中实现日志记录。所以我使用普通组件做了一份工作,我通过Twarn和Tdie记录了错误,信息和调试。 使用Logcatcher,我将日志分成两个调试和错误文件。 这部分工作正常。

现在我做了两份工作,

首先: - 使用trowgenerator生成行,然后发送到tmap和tmap,我将根据某些条件发送给两个twarn组件。

第二: - 具有tlogcatcher,t_filterrow并根据某些条件分离到两个文件的作业。

所以我和第一个作业并行运行第二个作业来捕获日志,但它没有用。

我已经尝试了几种选择,并坚持到这一步。

主要思想是拥有一个可以插入日志任何作业的通用日志记录组件。

有什么办法可以实现吗?

3 个答案:

答案 0 :(得分:1)

以下是弹出的3种方式:

log4j:企业版内置了log4j,这意味着您可以在tWarn / tDie中设置调试级别,并配置log4j将这些级别放入不同的文件中。 (当使用它时,我发现最好将警告作为我自己的信息级别日志,因为日历信息级别太深。) 我确定log4j可以成为&#34;黑客攻击&#34;进入开放式工作室。那样可以解决你的问题。 <{3}}在搜索log4j时有很多结果,你应该看看。

joblet:如果你更喜欢现在的方式,我会看到2个选项。首先是尝试创建一个joblet,但是使用多个作业中的相同文件并不是一个好主意,可能会导致错误。这不是一个很好的解决方案,但如果我们只讨论需要生成2个文件的1个作业,那么它可以工作。

项目级别日志记录:您可以尝试启用项目级别日志记录,但会将所有内容记录到文件中。它基本上意味着将logcatcher输出重定向到文件。那1个文件不是2,但至少它有效。 https://exchange.talend.com(统计和日志)

对于你需要的东西,确实没有很好的解决方案。

答案 1 :(得分:1)

Talend提供内置日志记录,设置非常简单。第1步:创建AMC数据库。步骤2.设置日志记录的项目级别属性。步骤3.检查AMC数据库中的日志。将记录所有错误和tWarns。可选步骤4:根据AMC数据库中的日志记录数据创建报告。

您可以登录到文件而不是db,但是登录到db可以提供更强大的查询和报告功能。此外,如果您从TAC中运行作业,您可以将AMC加入TAC数据库,以获取有关作业的一些非常有用的报告。

您可以记录:

  • 错误和警告
  • 统计(工作时间)
  • FlowMeter(数据流量指标)

屏幕1显示了Talend Studio中的项目设置

enter image description here

屏幕2显示来自AMC db,log table的查询。注意还有另外两个表,一个用于统计,另一个用于流。另请注意,在选定的行中有来自tWarn的消息。

enter image description here

答案 2 :(得分:0)

感谢所有人的扩展支持。我能够实现我想要实现的目标。

我创建了一个标准作业,它给出了twarn和tdie日志。 然后我有一个抓住日志并根据错误或信息/调试分发日志的joblet。

相关问题