使用BeautifulSoup上的Python on Appengine ImportError:没有名为bs4的模块

时间:2014-11-05 19:59:05

标签: python google-app-engine python-2.7 beautifulsoup

EDIT2:已解决!请参阅以下有关正确导入的答案from lib.bs4 import BeautifulSoup而非from bs4 import BeautifulSoup

编辑:将bs4放在项目的根目录似乎可以解决问题;但是,它不是一个理想的结构。因此,我将这个问题保持活跃,以尝试获得更强大的解决方案。

过去曾问过这个问题的一个变体,但那里的解决方案似乎没有用。我不确定这是因为BeautifulSoup或Appengine的变化,说实话。

请参阅:Python 2.7 : How to use BeautifulSoup in Google App Engine?How to include third party Python libraries in Google App Engine?Which version of BeautifulSoup works with GAE (python 2.5)?

Lipis提出的解决方案似乎是将第三方库添加到项目根目录中的libs文件夹,然后将以下内容添加到主应用程序中:

import sys
sys.path.insert(0, 'libs')

目前,我的结构是:

ntj-test
├── lib
│   └── bs4 
├── templates
├── main.py
├── get_data.py 
└── app.yaml

这是我的app.yaml:

application: ntj-test
version: 1
runtime: python27
api_version: 1
threadsafe: yes

handlers:
- url: /favicon\.ico
  static_files: favicon.ico
  upload: favicon\.ico

- url: .*
  script: main.app

libraries:
- name: webapp2
  version: latest
- name: jinja2
  version: latest

这是我的main.py:

import webapp2
import jinja2
import get_data
import sys

sys.path.insert(0, 'lib')

JINJA_ENVIRONMENT = jinja2.Environment(
    loader=jinja2.FileSystemLoader('templates'),
    extensions=['jinja2.ext.autoescape'],
    autoescape=True,
)


class MainHandler(webapp2.RequestHandler):
    def get(self):

        teamName = get_data.all_coach_data()[1]
        coachName = get_data.all_coach_data()[2]
        teamKey = get_data.all_coach_data()[0]

        values = {
            'coachName': coachName,
            'teamName': teamName,
            'teamKey': teamKey,
        }

        template = JINJA_ENVIRONMENT.get_template('index.html')
        self.response.write(template.render(values))

app = webapp2.WSGIApplication([
    ('/', MainHandler)
], debug=True)

get_data.py将正确的数据返回到我的变量以填充值,我已在调试器中验证过。

在我的开发环境中启动main.py时出现问题(我还没有上传到gcloud)。没有失败,无论我通过上述链接或在我的Google搜索中发现的狡猾技巧,终端总是会返回:

Import Error: No module named bs4

在上面的一个SO链接中,一位评论者说“GAE仅支持纯Python模块.bs4不纯,因为某些部分是用C语言编写的。”我不确定这是否属实,我不确定如何验证它。我没有足够的声誉来评论发现。 :(

我已经浏览过Crummy网站上的bs4文档,我已经阅读了所有相关的SO问题和答案,我试图从Appengine的文档中收集提示。但是,我一直无法找到不涉及使用已弃用的BeautifulSoup版本的解决方案,因为它没有我需要的功能。

我是编程和使用StackOverflow的初学者,所以如果我遗漏了一些重要信息或没有遵循问题的良好做法,请告诉我。我会在必要时编辑和添加其他信息。

谢谢!

编辑: 我不确定get_data代码是否过度杀伤,但这里是:

from bs4 import BeautifulSoup
import urllib2, re

teamKeys = {
    'ATL': 'Atlanta Falcons',
    'HOU': 'Houston Texans',
}

def get_all_coaches():
    for key in teamKeys:
        page = urllib2.urlopen("http://www.nfl.com/teams/coaches?coaType=head&team=" + key)
        soup = BeautifulSoup(page)
        return(head_coach(soup))

def head_coach(soup):
    head = soup.select('.coachprofiletext p')[0].text
    position, name = re.split(': ', head)
    return name

def export_coach_data():
    testList = []
    for key in teamKeys:
        page = urllib2.urlopen("http://www.nfl.com/teams/coaches?coaType=head&team=" + key)
        soup = BeautifulSoup(page)
        teamKey = key
        teamName = teamKeys[key]
        headCoach = head_coach(soup)

        t = [
            teamKey,
            teamName,
            str(headCoach),
        ]

        testList.append(t)

    return(testList)

def all_coach_data():
    results = data.export_coach_data()

    ATL = results[0]
    HOU = results[1]

    return ATL

我想指出的是,这可能是执行不力(我在业余时间只是认真地开发了几个月),但它确实将正确的值返回到main中的变量。

以下是Appengine Launcher日志:

2014-11-05 15:36:53 Running command: "['C:\\Python27\\pythonw.exe', 'C:\\Program Files\\Google\\Cloud SDK\\google-cloud-sdk\\platform\\google_appengine\\dev_appserver.py', '--skip_sdk_update_check=yes', '--port=11080', '--admin_port=8003', u'G:\\projects\\coaches']"
INFO     2014-11-05 15:37:00,119 devappserver2.py:725] Skipping SDK update check.
WARNING  2014-11-05 15:37:00,157 api_server.py:383] Could not initialize images API; you are likely missing the Python "PIL" module.
INFO     2014-11-05 15:37:00,190 api_server.py:171] Starting API server at: http://localhost:19713
INFO     2014-11-05 15:37:00,210 dispatcher.py:183] Starting module "default" running at: http://localhost:11080
INFO     2014-11-05 15:37:00,216 admin_server.py:117] Starting admin server at: http://localhost:8003
ERROR    2014-11-05 20:37:48,726 wsgi.py:262] 

Traceback (most recent call last):

  File "C:\Program Files\Google\Cloud SDK\google-cloud-sdk\platform\google_appengine\google\appengine\runtime\wsgi.py", line 239, in Handle

    handler = _config_handle.add_wsgi_middleware(self._LoadHandler())

  File "C:\Program Files\Google\Cloud SDK\google-cloud-sdk\platform\google_appengine\google\appengine\runtime\wsgi.py", line 298, in _LoadHandler

    handler, path, err = LoadObject(self._handler)

  File "C:\Program Files\Google\Cloud SDK\google-cloud-sdk\platform\google_appengine\google\appengine\runtime\wsgi.py", line 84, in LoadObject

    obj = __import__(path[0])

  File "G:\projects\coaches\main.py", line 3, in <module>

    import get_data

  File "G:\projects\coaches\get_data.py", line 1, in <module>

    from bs4 import BeautifulSoup

ImportError: No module named bs4

INFO     2014-11-05 15:37:48,762 module.py:652] default: "GET / HTTP/1.1" 500 -

4 个答案:

答案 0 :(得分:3)

编辑:有人指出这是一个黑客攻击。如果是这样,如何修改此解决方案以不需要重命名BS4内的模块?

http://www.reddit.com/r/learnpython的几位用户帮助我解决了这个问题。

通过扩展Lipis提出的解决方案,我们在main.py中添加了以下内容:

import os, sys

rootdir = os.path.dirname(os.path.abspath(__file__))
lib = os.path.join(rootdir, 'lib')
sys.path.append(lib)

然后,这里没有人提到这里或任何其他SO答案,我添加了&#34; lib.bs4&#34;我所有的import语句都是这样的:

from lib.bs4 import BeautifulSoup

但是,不仅如此,bs4库本身也引用了bs4,因此我搜索并用lib.bs4.<something>替换了所有这些。

现在,最后,我的应用程序运行,结构有条理。所有功劳归功于/u/invalidusemame/u/prohulaelk

希望这篇文章可以帮助其他人陷入类似的境地。也许显而易见的是,所有导入都需要添加到import语句中,但从所有答案中都不会立即明显。

感谢所有帮助排除故障的人!

答案 1 :(得分:2)

我相信你的问题在main.py中是一个错字:

sys.path.insert(0, 'lib')

您的目录是libs,而不是lib

答案 2 :(得分:1)

或者,您可以创建一个名为appengine_config.py的文件来加载第三方库。启动新实例时将加载此文件。

import sys
import os.path
# add `lib` subdirectory to `sys.path`, so our `main` module can load third-party libraries.
sys.path.insert(0, os.path.join(os.path.dirname(__file__), 'lib'))

答案 3 :(得分:0)

好的,还有其他一些修复方法。在app.yaml中的库中导入lxml:

libraries:
- name: lxml
  version: "2.3" <<- do NOT use "latest"

确保lib中有__init__.py个文件。我在那里添加了一些代码以使其自我附加:

import os
import sys

libs_directory = os.path.dirname(os.path.abspath(__file__))
if libs_directory not in sys.path:
    sys.path.insert(0, libs_directory)

root_directory = os.path.dirname(os.path.dirname(os.path.abspath(__file__)))
if root_directory not in sys.path:
    sys.path.insert(0, root_directory)