Question

我有一个算法，用于屏蔽用户输入的列数据。以下功能也是为此而设计的。当脚本执行时，这需要大约4小时来掩盖100万条记录。客户在10分钟内想要相同的。您能否建议我如何实施以下内容，以便提高其性能。无论如何都要在不改变算法的情况下改变功能。

data_mask() {
col_val=$1
l_ret_str=""
l_an=0
l_lp=0
l_mod=0
absnum=0
austart=65
auend=90
aclsize=26
alstart=97
alend=122
nstart=48
nend=57
nclsize=10
l_lp=`expr length "$col_val"`
if [[ $l_lp -ne 0 ]]; then
for i in `eval "echo {1..$l_lp}"`
do
single_char=$(SUBSTR "$col_val" $i)
ascii_num_val=$(ASCII "$single_char")
l_mod=$((l_mod+ascii_num_val))
done
l_mod=$((l_mod % nclsize))
for i in `eval "echo {1..$l_lp}"`
do
single_char=$(SUBSTR "$col_val" $i)
ascii_num_val=$(ASCII "$single_char")
l_an=$ascii_num_val
tempvar=$((l_an - l_lp - l_mod - i))
absnum=$(ABS $tempvar)
if [[ $l_an -ge $austart && $l_an -le $auend ]]; then
tempmodval=$((absnum % aclsize))
tempasciival=$((austart + tempmodval))
l_ret_str=$l_ret_str$(CHR $tempasciival)
elif [[ $l_an -ge $alstart && $l_an -le $alend ]]; then
tempmodval=$((absnum % aclsize))
tempasciival=$((alstart + tempmodval))
l_ret_str=$l_ret_str$(CHR $tempasciival)
elif [[ $l_an -ge $nstart && $l_an -le $nend ]]; then
tempmodval=$((absnum % nclsize))
tempasciival=$((nstart + tempmodval))
l_ret_str=$l_ret_str$(CHR $tempasciival)
else
tempmodval=$((absnum % nclsize))
tempasciival=$((austart + tempmodval))
l_ret_str=$l_ret_str$(CHR $tempasciival)
fi
done
fi
echo "$l_ret_str"
}

这里用户输入col_val=$1。如果用户输入2，那么我们的代码将屏蔽第二列。我们通过以下方式调用上述功能。

    while read p; do
if [[ $line -le $skip_line ]]; then
echo "$p" >> $outputfile
else
pre_str=`echo $p | cut -d'|' -f1-$((colnum - 1))`
column_value=`echo $p | cut -d'|' -f$colnum`
post_str=`echo $p | cut -d'|' -f$((colnum + 1))-$totalcol`
echo "column_value=$column_value"
maskvalue=$(data_mask "$column_value")
echo $pre_str"|"$maskvalue"|"$post_str >> $outputfile
fi
line=$((line + 1))
done <$temp_outputfile

这里我们将文件分成3部分。然后调用我们的函数。这里skipline是我们的代码应该skip.eg标题的行数。所以如果输入是

id|name|dept
11|Shrut|consultant
12|wipro|HR
13|capgemini|IT

然后输出应该如下。

id|name|dept
11|sqmbr|consultant
12|itzaw|HR
13|khvlipkoi|IT

请提出一些建议。如果您需要一些澄清，我会在评论中提供，但请不要暂停。我必须在不改变data_mask（）中编写的算法的情况下提高执行速度。功能可以改变但不是算法。我期待你的帮助。

Answer 1

Bash执行循环的效率不高。既然你标记了问题python，python应该没问题吗？

def data_mask(col_val):
    mod = len(col_val) + sum(map(ord, col_val)) % 10
    result = ""
    for i, ch in enumerate(col_val, mod + 1):
        absnum = abs(ord(ch) - i)
        if 'A' <= ch <= 'Z':
            ch = chr(ord('A') + absnum % 26)
        elif 'a' <= ch <= 'z':
            ch = chr(ord('a') + absnum % 26)
        elif '0' <= ch <= '9':
            ch = chr(ord('0') + absnum % 10)
        else:
            ch = chr(ord('A') + absnum % 10)
        result += ch
    return result

while open(temp_outputfile) as lines:
    while open(outputfile, 'w') as output:
        output.write(next(lines))
        for line in lines:
            pre, col_val, post = line.split('|', 2)
            output.write("{}|{}|{}".format(pre, data_mask(col_val), post))

Answer 2

@ Daniel，好的代码，为同一个问题编写了类似的东西，但是因为你的代码更好，并没有发布我的代码，没有想过使用枚举，正在循环使用它们。

现在回过头来重新思考我的很多代码，以包含枚举的自由。

增强unix脚本

2 个答案: