如何从URL中提取所有JSON数据并存储它?

时间:2017-07-13 08:12:50

标签: javascript json

例如,我有以下网址:

table = dynamodb.create_table(
    TableName='Track',
    KeySchema=[
        {
            'AttributeName': 'gpsid',
            'KeyType': 'HASH'  # Partition key
        },
        {
            'AttributeName': 'timestamp',
            'KeyType': 'RANGE'  # Sort key
        }

    ],
    AttributeDefinitions=[
        {
            'AttributeName': 'gpsid',
            'AttributeType': 'S'
        },
        {
            'AttributeName': 'timestamp',
            'AttributeType': 'N'
        }

    ],
    ProvisionedThroughput={
        'ReadCapacityUnits': 10,
        'WriteCapacityUnits': 10
    }
)

这将返回一个包含50个条目的大型JSON对象。 https://www.website.com/cf/script.php?page=1 返回下一个50,依此类推。循环浏览所有给定页面的最佳方法是什么(例如我想从1-200页开始)并将所有结果存储在单独的表/数据库中?优先使用Javascript。

1 个答案:

答案 0 :(得分:1)

查看API文档,因为许多API提供了一种指定响应中条目数量的方法。例如。 limit = 50,take = 50。虽然可能有最大数量。

响应中通常还有其他寻呼信息,即有多少页面。 如果存在,您可以创建一个获取每个页面的循环,并在某处创建/存储结果。或者您可以只获取并增加页面,直到没有更多结果。