从String中删除shell控件和不可打印的字符（linux输出）

Question

在Web扫描程序应用程序中，我需要解析一些脚本的输出以获取一些信息，但问题是我在linux shell和java输出中没有获得相同的输出，让我描述它（这个例子是在我需要在工作中扫描的一个网站上使用whatweb完成的，但是每当我在shell中有彩色输出时我也会遇到这个问题）：

这是我从linux的输出（带有一些颜色）得到的：

http://www.ceris-ingenierie.com [200] Apache[2.2.9], Cookies[ca67a6ac78ebedd257fb0b4d64ce9388,jfcookie,jfcookie%5Blang%5D,lang], Country[EUROPEAN UNION][EU], HTTPServer[Fedora Linux][Apache/2.2.9 (Fedora)], IP[185.13.64.116], Joomla[1.5], Meta-Author[Administrator], MetaGenerator[Joomla! 1.5 - Open Source Content Management], PHP[5.2.6,], Plesk[Lin], Script[text/javascript], Title[Accueil  ], X-Powered-By[PHP/5.2.6, PleskLin]

以下是我从Java获得的内容：

[1m[34mhttp://www.ceris-ingenierie.com[0m [200] [1m[37mApache[0m[[1m[32m2.2.9[0m], [1m[37mCookies[0m[[1m[33mca67a6ac78ebedd257fb0b4d64ce9388,jfcookie,jfcookie%5Blang%5D,lang[0m], [1m[37mCountry[0m[[1m[33mEUROPEAN UNION[0m][[1m[35mEU[0m], [1m[37mHTTPServer[0m[[1m[31mFedora Linux[0m][[1m[36mApache/2.2.9 (Fedora)[0m], [1m[37mIP[0m[[1m[33m185.13.64.116[0m], [1m[37mJoomla[0m[[1m[32m1.5[0m], [1m[37mMeta-Author[0m[[1m[33mAdministrator[0m], [1m[37mMetaGenerator[0m[[1m[33mJoomla! 1.5 - Open Source Content Management[0m], [1m[37mPHP[0m[[1m[32m5.2.6,[0m], [1m[37mPlesk[0m[[1m[33mLin[0m], [1m[37mScript[0m[[1m[33mtext/javascript[0m], [1m[37mTitle[0m[[32mAccueil [0m], [1m[37mX-Powered-By[0m[[1m[33mPHP/5.2.6, PleskLin[0m]

我的猜测是linux的shell中的颜色是由那些未知的字符生成的，但它们在java中解析真的很痛苦。

我通过在一个新线程中运行脚本来获取此输出，并且每当我在输出中有一个新行时，执行raw_data + = data;（其中raw_data是一个String），最后将raw_data发送到我的解析器。

我该怎么做才能避免让那些讨厌的字符变得如此，以便获得更友好的输出，就像我进入linux的shell一样？

Answer 1

在执行shell script的Java代码中，您可以添加一个额外的sed过滤器来过滤掉shell控制字符。

# filter out shell control characters
./my_script | sed -r "s/\x1B\[([0-9]{1,2}(;[0-9]{1,2})?)?[m|K]//g"

使用tr -dc '[[:print:]]'删除不可打印的字符，如下所示：

# filter out shell control characters
./my_script | \
 sed -r "s/\x1B\[([0-9]{1,2}(;[0-9]{1,2})?)?[m|K]//g" | \
 tr -dc '[[:print:]]'

您甚至可以在原始脚本周围添加包装脚本来执行此操作。并调用包装器脚本。这允许您在将其提供给Java程序之前进行任何其他预处理，并使其保持清除所有不必要的代码，并且您可以专注于应用程序的核心逻辑。

如果由于任何原因无法添加包装器脚本并希望在Java中添加过滤器，则Java不会直接在命令中支持管道。您必须将您的命令作为bash的参数调用，如下所示：

String[] cmd = {
"/bin/sh",
"-c",
"./my_script | sed -r 's/\\x1B\\[([0-9]{1,2}(;[0-9]{1,2})?)?[m|K]//g'"
};

Process p = Runtime.getRuntime().exec(cmd);

在Java中使用正则表达式时，不要忘记转义所有'\'。

sed过滤器的来源和说明：http://www.commandlinefu.com/commands/view/3584/remove-color-codes-special-characters-with-sed

Answer 2

您可以在此处使用正则表达式：

String raw_data= ...;
String cleaned_raw_data = raw_data.replaceAll("\\[\\d+m", "");

这将删除以\\[开头的任何字符序列，以m结尾并且在它们之间有一个或多个数字（\\d+）。

请注意，[前面有\\，因为[对正则表达式具有特殊含义（它是元字符）。

描述