我希望解决我在Python中遇到的问题。我有一个文件,有一列,其中包含约。 6,000行。对于每一行,每个项目都是唯一的(此文件已过滤以从40,000行文件中删除重复项)。每行中的项目长度不同,其中一些项目的长度与其他项目相同。
单行示例:
IGHV3-30/33rn-IGHJ4-CARDPSLSSMITFGGVIVTRGYFDYW
或者在第三个“ - ”(不同的第一部分)后分隔标签的更多示例:
IGHV3-23-IGHJ4 CAKDRGYTGYGVYFDYW
IGHV4-39-IGHJ4 CARHDILTGYSYYFDYW
IGHV3-23-IGHJ3 CAKSGGWYLSDAFDIW
IGHV4-39-IGHJ4 CARTGFGELGFDYW
IGHV1-2-IGHJ2 CARDSDYDWYFDLW
IGHV1-8-IGHJ3 CARGQTYYDILTGPSDAFDIW
IGHV4-39-IGHJ5 CARSTGDWFDPW
IGHV3-9-IGHJ3 CANVPIYSSSYDAFDIW
IGHV3-23-IGHJ4 CAKDWELYYFDYW
IGHV3-23-IGHJ4 CAKDRGYTGFGVYFDYW
IGHV4-39-IGHJ4 CARHLGYNNSWYPFDYW
IGHV1-2-IGHJ4 CAREGYNWNDEGRFDYW
IGHV3-23-IGHJ3 CAKSSGWYLSDAFDIW
IGHV4-39-IGHJ4 CARYLGYNSNWYPFDYW
IGHV3-23-IGHJ6 CAKEGCSSGCPYYYYGMDVW
IGHV3-23-IGHJ3 CAKWGPDAFDIW
IGHV3-11-IGHJ CATSGGSP
IGHV3-11-IGHJ4 CARDGDGYNDYW
IGHV1-2-IGHJ4 CARRIGYSSGSEDYW
IGHV1-2-IGHJ4 CARDIAVPGHGDYW
IGHV6-1-IGHJ4 CASGGAVPGYYFDYW
在第一列中,有一些项目不同。在第二列中,每个项目都是唯一的。第一列项需要匹配,然后第二列项需要按最小不匹配2排序。 理想情况下,这对Levenshtein模块来说很好,因为我可以放最大值,但我需要两个字符串。有没有办法在单个列表中的每个项目上使用Levenshtein?
我需要做的是打开这个文件(我认为首先按长度排序可能会有所帮助,但我不确定)。在按长度对所有项目进行分组后,我需要将这些项目分组为相差1个字符的组(第三个“ - ”之前的字符串需要相同,“ - ”之后的字符串应该只有1个字符不同。)
我认为我遇到的问题是生成一个正确的for循环来迭代项目长度。
我到目前为止的代码:
import sys
import os
import Levenshtein
inp = sys.argv[1] # Input file containing single column of items
with open(inp, "r") as f1:
vj = [line.strip() for line in f1]
lengths = []
for k in vj:
i = len(k)
lengths.append(i)
lengths_sort = sorted(lengths, reverse = True)
uniq_len = []
for i in lengths_sort:
if i not in uniq_len:
uniq_len.append(i)
print uniq_len #For QC purposes
def get_new_list(strings, counts, outlist=[]):
for s in strings:
if len(s) == counts[0]:
outlist.append(s)
return outlist
new_vj = get_new_list(vj, uniq_len, outlist=[])
print new_vj
ham = Levenshtein.hamming(new_vj[0], new_vj[1])
print ham
所以我想要的输出是好的,但尚未完成:
[46, 44, 43, 42, 41, 40, 39, 38, 37, 36, 35, 34, 33, 32, 31, 30, 29, 28, 27, 26, 25, 24, 23, 22, 21, 20, 19, 18]
46
['IGHV3-30/33rn-IGHJ4-CAKDPSLSSMITFGGVIVTRGYFDYW', 'IGHV3-30/33rn-IGHJ4-CARDPSLSSMITFGGVIVTRGYFDYW']
1
有两个长度为46的项目(巧合的是第三个“ - ”之前的字符串相同;很棒)并且它们在两个字符串之间只有一个字符不同。
我的麻烦是,1。我怎样才能遍历uniq_len列表中的数字作为“字符串”列表中匹配长度的输出(参见代码中的函数)。 2.我想为每个不同的长度创建一个新列表。 3.如果每个新列表中有多个项目,则所有项目仅相差1个字符。
注意:“ - ”是使用UNIX paste -d-命令创建的,其中包含3个文件,每个文件包含1列以创建此文件。将这些文件与\ t作为分隔符粘贴在一起以创建3列会更容易吗?
因此,打开文件,删除行,然后可以匹配第1列,第2列,并查看第3列是否有一个或多个字符?
感谢所有帮助。
答案 0 :(得分:1)
更新:已修改为处理可变数量的" id"子字段并将结果打印为单个字符串。注意在输入的末尾添加了几个测试用例,以使一些具有不同数量的前导字段构成id(即2而不是3)。
我还重命名了num_mismatches()
函数hamming_distance()
因为它是什么。
使用以下输入:
IGHV3-23-IGHJ4-CAKDRGYTGYGVYFDYW
IGHV4-39-IGHJ4-CARHDILTGYSYYFDYW
IGHV3-23-IGHJ3-CAKSGGWYLSDAFDIW
IGHV4-39-IGHJ4-CARTGFGELGFDYW
IGHV1-2-IGHJ2-CARDSDYDWYFDLW
IGHV1-8-IGHJ3-CARGQTYYDILTGPSDAFDIW
IGHV4-39-IGHJ5-CARSTGDWFDPW
IGHV3-9-IGHJ3-CANVPIYSSSYDAFDIW
IGHV3-23-IGHJ4-CAKDWELYYFDYW
IGHV3-23-IGHJ4-CAKDRGYTGFGVYFDYW
IGHV4-39-IGHJ4-CARHLGYNNSWYPFDYW
IGHV1-2-IGHJ4-CAREGYNWNDEGRFDYW
IGHV3-23-IGHJ3-CAKSSGWYLSDAFDIW
IGHV4-39-IGHJ4-CARYLGYNSNWYPFDYW
IGHV3-23-IGHJ6-CAKEGCSSGCPYYYYGMDVW
IGHV3-23-IGHJ3-CAKWGPDAFDIW
IGHV3-11-IGHJ-CATSGGSP
IGHV3-11-IGHJ4-CARDGDGYNDYW
IGHV1-2-IGHJ4-CARRIGYSSGSEDYW
IGHV1-2-IGHJ4-CARDIAVPGHGDYW
IGHV6-1-IGHJ4-CASGGAVPGYYFDYW
IGHV1-2-CAREGYNWNDEGRFDYW
IGHV4-39-CARSTGDWFDPW
IGHV1-2-CARDSDYDWYFDLW
和这个脚本:
from collections import defaultdict
from itertools import izip, tee
import os
import sys
# http://en.wikipedia.org/wiki/Hamming_distance#Algorithm_example
def hamming_distance(s1, s2):
""" Count number of mismatched characters in equal length strings. """
if not isinstance(s1, basestring): raise ValueError('s1 is not a string')
if not isinstance(s2, basestring): raise ValueError('s2 is not a string')
if len(s1) != len(s2): raise ValueError('string lengths do not match')
return sum(a != b for a, b in izip(s1, s2))
def pairwise(iterable): # itertools recipe
"s -> (s0,s1), (s1,s2), (s2, s3), ..."
a, b = tee(iterable)
next(b, None)
return izip(a, b)
inp = sys.argv[1] # Input file
unique = defaultdict(list)
with open(inp, 'rb') as file:
for fields in (line.strip().split('-') for line in file):
id = '-'.join(fields[:-1]) # recombine all but last field into an id
unique[id].append(fields[-1]) # accumulate ending fields with same id
for id in sorted(unique):
final_fields = unique[id]
final_fields.sort(key=lambda field: len(field)) # sort by length
print id + ':' + '-'.join(final_fields)
if len(final_fields) > 1: # at least one pair to compare for mismatches?
for a, b in pairwise(final_fields):
if len(a) == len(b) and hamming_distance(a, b) < 2:
print ' {!r} and {!r} differ by < 2 characters'.format(a, b)
输出:
IGHV1-2:CARDSDYDWYFDLW-CAREGYNWNDEGRFDYW
IGHV1-2-IGHJ2:CARDSDYDWYFDLW
IGHV1-2-IGHJ4:CARDIAVPGHGDYW-CARRIGYSSGSEDYW-CAREGYNWNDEGRFDYW
IGHV1-8-IGHJ3:CARGQTYYDILTGPSDAFDIW
IGHV3-11-IGHJ:CATSGGSP
IGHV3-11-IGHJ4:CARDGDGYNDYW
IGHV3-23-IGHJ3:CAKWGPDAFDIW-CAKSGGWYLSDAFDIW-CAKSSGWYLSDAFDIW
'CAKSGGWYLSDAFDIW' and 'CAKSSGWYLSDAFDIW' differ by < 2 characters
IGHV3-23-IGHJ4:CAKDWELYYFDYW-CAKDRGYTGYGVYFDYW-CAKDRGYTGFGVYFDYW
'CAKDRGYTGYGVYFDYW' and 'CAKDRGYTGFGVYFDYW' differ by < 2 characters
IGHV3-23-IGHJ6:CAKEGCSSGCPYYYYGMDVW
IGHV3-9-IGHJ3:CANVPIYSSSYDAFDIW
IGHV4-39:CARSTGDWFDPW
IGHV4-39-IGHJ4:CARTGFGELGFDYW-CARHDILTGYSYYFDYW-CARHLGYNNSWYPFDYW-CARYLGYNSNWYPFDYW
IGHV4-39-IGHJ5:CARSTGDWFDPW
IGHV6-1-IGHJ4:CASGGAVPGYYFDYW
希望此更新也有帮助......
答案 1 :(得分:0)
假设您想要按A)列的长度排序某些行,B)列的Levenshtein距离与col高于或低于。
问题立即表明,levenshtein距离介于两个相对的物体之间;即,Levenshtein(a, b)
不是像len(a)
这样的单一属性。随着列表中的线相对于彼此的位置改变,levenshtein距离的值改变。
Python 2.X支持较早的cmp
与key
参数进行排序。这是低效的,因为每次通过排序都必须重新评估。但是,Levenshtein排序与条目上方和下方的项目相关。
例如,让我们为您的示例数据制作一个矩阵:
txt='''\
IGHV3-23-IGHJ4 CAKDRGYTGYGVYFDYW
IGHV4-39-IGHJ4 CARHDILTGYSYYFDYW
IGHV3-23-IGHJ3 CAKSGGWYLSDAFDIW
IGHV4-39-IGHJ4 CARTGFGELGFDYW
IGHV1-2-IGHJ2 CARDSDYDWYFDLW
IGHV1-8-IGHJ3 CARGQTYYDILTGPSDAFDIW
IGHV4-39-IGHJ5 CARSTGDWFDPW
IGHV3-9-IGHJ3 CANVPIYSSSYDAFDIW
IGHV3-23-IGHJ4 CAKDWELYYFDYW
IGHV3-23-IGHJ4 CAKDRGYTGFGVYFDYW
IGHV4-39-IGHJ4 CARHLGYNNSWYPFDYW
IGHV1-2-IGHJ4 CAREGYNWNDEGRFDYW
IGHV3-23-IGHJ3 CAKSSGWYLSDAFDIW
IGHV4-39-IGHJ4 CARYLGYNSNWYPFDYW
IGHV3-23-IGHJ6 CAKEGCSSGCPYYYYGMDVW
IGHV3-23-IGHJ3 CAKWGPDAFDIW
IGHV3-11-IGHJ CATSGGSP
IGHV3-11-IGHJ4 CARDGDGYNDYW
IGHV1-2-IGHJ4 CARRIGYSSGSEDYW
IGHV1-2-IGHJ4 CARDIAVPGHGDYW
IGHV6-1-IGHJ4 CASGGAVPGYYFDYW'''
data=[line.split() for line in txt.splitlines()]
# [['IGHV3-23-IGHJ4', 'CAKDRGYTGYGVYFDYW'], ['IGHV4-39-IGHJ4', 'CARHDILTGYSYYFDYW'], ['IGHV3-23-IGHJ3', 'CAKSGGWYLSDAFDIW'], ['IGHV4-39-IGHJ4', 'CARTGFGELGFDYW'], ['IGHV1-2-IGHJ2', 'CARDSDYDWYFDLW'], ['IGHV1-8-IGHJ3', 'CARGQTYYDILTGPSDAFDIW'], ['IGHV4-39-IGHJ5', 'CARSTGDWFDPW'], ['IGHV3-9-IGHJ3', 'CANVPIYSSSYDAFDIW'], ['IGHV3-23-IGHJ4', 'CAKDWELYYFDYW'], ['IGHV3-23-IGHJ4', 'CAKDRGYTGFGVYFDYW'], ['IGHV4-39-IGHJ4', 'CARHLGYNNSWYPFDYW'], ['IGHV1-2-IGHJ4', 'CAREGYNWNDEGRFDYW'], ['IGHV3-23-IGHJ3', 'CAKSSGWYLSDAFDIW'], ['IGHV4-39-IGHJ4', 'CARYLGYNSNWYPFDYW'], ['IGHV3-23-IGHJ6', 'CAKEGCSSGCPYYYYGMDVW'], ['IGHV3-23-IGHJ3', 'CAKWGPDAFDIW'], ['IGHV3-11-IGHJ', 'CATSGGSP'], ['IGHV3-11-IGHJ4', 'CARDGDGYNDYW'], ['IGHV1-2-IGHJ4', 'CARRIGYSSGSEDYW'], ['IGHV1-2-IGHJ4', 'CARDIAVPGHGDYW'], ['IGHV6-1-IGHJ4', 'CASGGAVPGYYFDYW']]
现在按row[1]
的长度排序这些行:
data.sort(key=lambda l: len(l[1]))
现在根据条目的levenshtein距离进行排序。请注意,您需要使用cmp
,因为levenstein基于两个值:
data.sort(cmp=levenshtein)
# [['IGHV3-11-IGHJ', 'CATSGGSP'], ['IGHV4-39-IGHJ5', 'CARSTGDWFDPW'], ['IGHV3-23-IGHJ3', 'CAKWGPDAFDIW'], ['IGHV3-11-IGHJ4', 'CARDGDGYNDYW'], ['IGHV3-23-IGHJ4', 'CAKDWELYYFDYW'], ['IGHV4-39-IGHJ4', 'CARTGFGELGFDYW'], ['IGHV1-2-IGHJ2', 'CARDSDYDWYFDLW'], ['IGHV1-2-IGHJ4', 'CARDIAVPGHGDYW'], ['IGHV1-2-IGHJ4', 'CARRIGYSSGSEDYW'], ['IGHV6-1-IGHJ4', 'CASGGAVPGYYFDYW'], ['IGHV3-23-IGHJ3', 'CAKSGGWYLSDAFDIW'], ['IGHV3-23-IGHJ3', 'CAKSSGWYLSDAFDIW'], ['IGHV3-23-IGHJ4', 'CAKDRGYTGYGVYFDYW'], ['IGHV4-39-IGHJ4', 'CARHDILTGYSYYFDYW'], ['IGHV3-9-IGHJ3', 'CANVPIYSSSYDAFDIW'], ['IGHV3-23-IGHJ4', 'CAKDRGYTGFGVYFDYW'], ['IGHV4-39-IGHJ4', 'CARHLGYNNSWYPFDYW'], ['IGHV1-2-IGHJ4', 'CAREGYNWNDEGRFDYW'], ['IGHV4-39-IGHJ4', 'CARYLGYNSNWYPFDYW'], ['IGHV3-23-IGHJ6', 'CAKEGCSSGCPYYYYGMDVW'], ['IGHV1-8-IGHJ3', 'CARGQTYYDILTGPSDAFDIW']]
如果要将两个元素排序cmp
更改为键类型(对于不支持cmp的Python 3),可以生成比较对象:
def cmp_to_key(mycmp):
'Convert a cmp= function into a key= function'
class K(object):
def __init__(self, obj, *args):
self.obj = obj
def __lt__(self, other):
return mycmp(self.obj, other.obj) < 0
def __gt__(self, other):
return mycmp(self.obj, other.obj) > 0
def __eq__(self, other):
return mycmp(self.obj, other.obj) == 0
def __le__(self, other):
return mycmp(self.obj, other.obj) <= 0
def __ge__(self, other):
return mycmp(self.obj, other.obj) >= 0
def __ne__(self, other):
return mycmp(self.obj, other.obj) != 0
return K
您使用data.sort(key=cmp_to_key(levenshtein))