在列表中自动执行Google Play搜索项

时间:2016-08-23 21:51:23

标签: python function web-scraping automation web-crawler

我正在开发一个python项目,我需要找出该公司拥有的应用程序。 例如,我有一个列表:

company_name = ['Airbnb', 'WeFi']

我想编写一个python函数/程序来执行以下操作:

1。让它自动搜索Play商店列表中的项目

2。如果公司名称匹配,即使它只匹配名字,例如“Airbnb”将匹配“Airbnb,inc”

Airbnb Search Page circled

  1. 然后它会点击进入页面并阅读其类别 Airbnb Read category

  2. 如果该公司有多个应用,它将对所有应用执行相同操作。

  3. 公司的每个应用信息都存储在tuple = {app name, category}

  4. 所需的最终结果将是元组列表

  5. 例如:

    print(company_name[0])
    print(type(company_name[0]))
    

    结果:
    制作的Airbnb
    元组

    print(company_name[0][0])
    

    结果:
    [( '的Airbnb', '旅行')]

    这是许多知识的混合,我是python的新手。那么请给我一些方向,我应该如何开始编写代码。

    我学习selenium可以自动“加载更多”功能,但我不确定我可以使用什么包?

2 个答案:

答案 0 :(得分:1)

我写过一个可以帮助您实现目标的小演示。我用过请求和美丽的汤。它并不完全是你想要的,但可以轻松调整。

import requests
import bs4

company_name = "airbnb"
def get_company(company_name):
    r = requests.get("https://play.google.com/store/search?q="+company_name)
    soup = bs4.BeautifulSoup(r.text, "html.parser")
    subtitles = soup.findAll("a", {'class':"subtitle"})
    dev_urls = []
    for title in subtitles:
        try:
            text = title.attrs["title"].lower()
        #Sometimes there is a subtitle without any text on GPlay
        #Catchs the error
        except KeyError:
            continue
        if company_name in text:
            url = "https://play.google.com" + title.attrs["href"]
            dev_urls.append(url)
    return dev_urls

def get_company_apps_url(dev_url):
    r = requests.get(dev_url)
    soup = bs4.BeautifulSoup(r.text, "html.parser")
    titles = soup.findAll("a", {"class":"title"})
    return ["https://play.google.com"+title.attrs["href"] for title in titles]

def get_app_category(app_url):
    r = requests.get(app_url)
    soup = bs4.BeautifulSoup(r.text, "html.parser")
    developer_name = soup.find("span", {"itemprop":"name"}).text
    app_name = soup.find("div", {"class":"id-app-title"}).text
    category = soup.find("span", {"itemprop":"genre"}).text
    return (developer_name, app_name, category)

dev_urls = get_company("airbnb")
apps_urls = get_company_apps_url(dev_urls[0])
get_app_category(apps_urls[0])

>>> get_company("airbnb")
['https://play.google.com/store/apps/developer?id=Airbnb,+Inc']
>>> get_company_apps_url("https://play.google.com/store/apps/developer?id=Airbnb,+Inc")
['https://play.google.com/store/apps/details?id=com.airbnb.android']
>>> get_app_category("https://play.google.com/store/apps/details?id=com.airbnb.android")
('Airbnb, Inc', 'Airbnb', 'Travel & Local')

我的google脚本

dev_urls = get_company("google")
apps_urls = get_company_apps_url(dev_urls[0])
for app in apps_urls:
    print(get_app_category(app))

('Google Inc.', 'Google Duo', 'Communication')
('Google Inc.', 'Google Translate', 'Tools')
('Google Inc.', 'Google Photos', 'Photography')
('Google Inc.', 'Google Earth', 'Travel & Local')
('Google Inc.', 'Google Play Games', 'Entertainment')
('Google Inc.', 'Google Calendar', 'Productivity')
('Google Inc.', 'YouTube', 'Media & Video')
('Google Inc.', 'Chrome Browser - Google', 'Communication')
('Google Inc.', 'Google Cast', 'Tools')
('Google Inc.', 'Google Sheets', 'Productivity')

答案 1 :(得分:0)

以下是通过编程方式搜索Google Play的另一个选项:
https://github.com/facundoolano/google-play-scraper/#list

var gplay = require('google-play-scraper');

gplay.list({
    category: gplay.category.GAME_ACTION,
    collection: gplay.collection.TOP_FREE,
    num: 2
  })
  .then(console.log, console.log);

(它是nodejs,不是python)