Question

我需要从ip列表中提取所有url，我写了这个python脚本，但我有多次提取相同的ip的问题（使用相同的ip创建更多的线程）。任何人都可以使用多线程改进我的解决方案吗？

抱歉我的英文谢谢大家

import urllib2, os, re, sys, os, time, httplib, thread, argparse, random

try:
    ListaIP = open(sys.argv[1], "r").readlines()
except(IOError): 
    print "Error: Check your IP list path\n"
    sys.exit(1)



def getIP():
    if len(ListaIP) != 0:
        value = random.sample(ListaIP,  1)
        ListaIP.remove(value[0])
        return value
    else:
        print "\nListaIPs sa terminat\n"
        sys.exit(1)

def extractURL(ip):
    print ip + '\n'
    page = urllib2.urlopen('http://sameip.org/ip/' + ip)
    html = page.read()
    links = re.findall(r'href=[\'"]?([^\'" >]+)', html)
    outfile = open('2.log', 'a')
    outfile.write("\n".join(links))
    outfile.close()

def start():
    while True:
        if len(ListaIP) != 0:
            test = getIP()
            IP = ''.join(test).replace('\n', '')
            extractURL(IP)
        else:
            break


for x in range(0, 10):
    thread.start_new_thread( start, () )

while 1:
    pass

Answer 1

使用threading.Lock。锁应该是全局的，并在创建IP列表时在开头创建。

lock.acquire

开头的

getIP() 离开方法之前

和release。

您看到的是，线程1执行value=random.sample，然后线程2也会在线程1到达value=random.sample之前执行remove 。所以当线程2到达那里时，该项仍然在列表中。因此，两个线程都有可能获得相同的IP。

Python多线程

1 个答案: