selenium中的python代理firefox无法工作

时间:2018-01-05 12:06:29

标签: python-2.7 selenium proxy ubuntu-server firefox-headless

我使用的是Ubuntu Server 17.04。

我正在尝试将我的代理设置为selenium。但它不起作用。我正在使用来自https://stormproxies.com/的代理。基本上只有ip我允许它才能拥有代理,然后我必须使用他们给我访问它的ip。 所以基本上它不是这样的“ip:port @ user:pass”。 假设这是使用

的代理服务器

实施例: https://123.123.123.123:13028

代理工作正常...因为我在scrapy中使用它。

但是没有在selenium工作..我已经尝试了我发现的所有例子,它给了我各种错误。我想的是因为这些例子已经过时了......也许。

我的硒和一切都是最新的。我有geckodriver设置路径...和一切。如果我不添加代理,Selenium工作正常。

这些是我正在使用的主要进口产品。

from selenium import webdriver
from selenium.webdriver.common.proxy import *
from pyvirtualdisplay import Display

这些都是我尝试的脚本。

第一个示例它没有给我任何错误,但它没有连接到代理。当我尝试在“https://whatismyipaddress.com”中获取ip时,我得到了我的真正的ip,而不是代理

display = Display(visible=0, size=(1920, 1080)).start()

myProxy = "https://123.123.123.123:13028"

proxy = Proxy({
    'proxyType': ProxyType.MANUAL,
    'httpProxy': myProxy,
    'ftpProxy': myProxy,
    'sslProxy': myProxy,
    'noProxy': None
})
browser = webdriver.Firefox()
browser.get("https://whatismyipaddress.com/")

第二个示例 - 它给了我这个错误: WebDriverException:消息:处理意外关闭状态:1

proxies = "123.123.123.123:13028"
prox = Proxy()
prox.proxy_type = ProxyType.MANUAL
prox.http_proxy = proxies
prox.socks_proxy = proxies
prox.ssl_proxy = proxies

capabilities = webdriver.DesiredCapabilities.FIREFOX
prox.add_to_capabilities(capabilities)

driver = webdriver.Firefox(capabilities=capabilities)

第3个例子 - 它给了我这个错误: WebDriverException:消息:处理意外关闭状态:1

PROXY_PORT = '13028'
PROXY_HOST = '123.123.123.123'

fp = webdriver.FirefoxProfile()
print PROXY_PORT
print PROXY_HOST
fp.set_preference("network.proxy.type", 1)
fp.set_preference("network.proxy.http", PROXY_HOST)
fp.set_preference("network.proxy.http_port", int(PROXY_PORT))
fp.set_preference("network.proxy.https", PROXY_HOST)
fp.set_preference("network.proxy.https_port", int(PROXY_PORT))
fp.set_preference("network.proxy.ssl", PROXY_HOST)
fp.set_preference("network.proxy.ssl_port", int(PROXY_PORT))
fp.set_preference("network.proxy.ftp", PROXY_HOST)
fp.set_preference("network.proxy.ftp_port", int(PROXY_PORT))
fp.set_preference("network.proxy.socks", PROXY_HOST)
fp.set_preference("network.proxy.socks_port", int(PROXY_PORT))
fp.set_preference("general.useragent.override",
                  "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_3) AppleWebKit/537.75.14 (KHTML, like Gecko) Version/7.0.3 Safari/7046A194A")
fp.update_preferences()

driver = webdriver.Firefox(firefox_profile=fp)

第4个例子 - 它给了我这个错误: InvalidArgumentException:消息:null不是数组

PROXY = "123.123.123.123:13028"
webdriver.DesiredCapabilities.FIREFOX['proxy'] = {
    "httpProxy": PROXY,
    "ftpProxy": PROXY,
    "sslProxy": PROXY,
    "noProxy": None,
    "proxyType": "MANUAL",
}
driver = webdriver.Firefox()
driver.get('http://www.whatsmyip.org/')

我也用过这个例子:

第五个例子 - 它给了我这个错误: WebDriverException:消息:处理意外关闭状态:1

ProxyHost = "123.123.123.123"
ProxyPort = "13028"


def ChangeProxy(ProxyHost, ProxyPort):
    "Define Firefox Profile with you ProxyHost and ProxyPort"
    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 1)
    profile.set_preference("network.proxy.http", ProxyHost)
    profile.set_preference("network.proxy.http_port", int(ProxyPort))
    profile.update_preferences()
    return webdriver.Firefox(firefox_profile=profile)


def FixProxy():
    # ""Reset Firefox Profile""
    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 0)
    return webdriver.Firefox(firefox_profile=profile)


driver = ChangeProxy(ProxyHost, ProxyPort)
driver.get("http://whatismyipaddress.com")

time.sleep(5)

driver = FixProxy()
driver.get("http://whatismyipaddress.com")

1 个答案:

答案 0 :(得分:0)

初始化时,只需将firefox_options元素添加到驱动程序中。

确保(显然)正确导入了代理端

from selenium.webdriver.common.proxy import Proxy, ProxyType

然后像这样初始化您的驱动程序

options = Options()
options.add_argument("--headless")

ProxyHost = "x.x.x.x" 
ProxyPort = "8118"

def SetProxy(ProxyHost ,ProxyPort):

    profile = webdriver.FirefoxProfile()
    profile.set_preference("network.proxy.type", 1)
    profile.set_preference("network.proxy.http", ProxyHost )
    profile.set_preference("network.proxy.http_port", int(ProxyPort))
    profile.update_preferences()
    return webdriver.Firefox(firefox_profile=profile, firefox_options=options)


try:
        driver = SetProxy(ProxyHost ,ProxyPort)
        driver.get("http://x.x.x.x")
        print(driver.page_source)
        driver.close()
except:
        traceback.print_exc()
        driver.close()