IndexedDB"更新"每个浏览器重启并清除数据

时间:2017-06-23 00:05:21

标签: firefox indexeddb firefox-webextensions

我编写了一个Firefox WebExtension,它从网站下载数据文件,并使用IndexedDB存储/更新数据。创建的.SQLite文件大小约为2GB。每当我重新启动Firefox时,扩展程序都会执行onupgradeneeded事件,即使我总是使用版本" 1"。我在该事件中创建了数据库对象存储和索引,因此我的所有数据最终都被删除

唯一没有发生的事情是我在下载或存储数据时关闭Firefox。下次启动Firefox时,它不执行该事件(应该如此)是这样的)。然后它继续更新数据库,因为它被编程为。

我安装了SQLite Manager扩展程序,希望能够识别导致问题的数据库,但对我来说没有什么是明显的。

以下是我的后台脚本的一部分:

init().then(fetchData).then(addData).catch(dberror);

function init() {
    req = indexedDB.open("db", 1);

    req.onupgradeneeded = e => {
        var name;
        var key;

        console.log("Upgrading database...", e.oldVersion, e.newVersion);
        db = e.currentTarget.result;
        var store = db.createObjectStore("db", { keyPath: "KEY" });
        db.createObjectStore("version", { keyPath: "version" });

        for (name in indexes) {
            key = ...
            store.createIndex(name, key);
        };
    };

    return new Promise( (resolve, reject) => {
        req.onsuccess = e => {
            db = e.currentTarget.result;
            db.onerror = dberror;
            var cursor = db.transaction("MECs").objectStore("MECs").index("STATUS_DATE").openCursor(null, 'prev');
            cursor.onsuccess = e => {
                if (e.target.result) {
                    lastMod = e.target.result.key;
                    fileYear = lastMod.getFullYear();
                }
                else lastMod = new Date(startingfileYear, 0);
                resolve(lastMod);
            }
            cursor.onerror = reject;
        };
        req.onerror = e => {
            dberror(e);
            reject(e);
        }
    });
}

function fetchData(param) {
    // Get data based on the param and return it
    return fetchFile(filename);
}

function addData(data) {
    var trans = db.transaction("db", "readwrite");
    var store = trans.objectStore("db");
    var req;
    var n = 0;
    var data2 = [];
    var addPromise;

    trans.onerror = event => console.log("Error! Error! ", event.target.error);
    trans.onabort = event => console.log("Abort! Abort! ", event.target.error);

    data.forEach((row, index) => {
        //process data here
        data2 = ...
    });

    (function storeRegData(n) {
        var row = data[n];
        if (!row) return;
        req = store.put(row);
        req.onsuccess = event => {
            numUpdated++;
            storeRegData(++n);
        }
        req.onabort = event => console.log("Abort! Abort! ", event.target.error);
        req.onerror = event => console.log("Error! Error! ", event.target.error);
    })(0);   // I'm storing one row at a time because the transaction is failing when I queue too many rows.

    addPromise = fetchData(data2).then(
        response => {
            var trans2 = db.transaction("db", "readwrite");
            var store2 = trans2.objectStore("db");
            var req2;
            response.forEach(row => {
                req2 = store2.put(row);
                req2.onsuccess = event => numUpdated++;
                req2.onerror = console.log;
            });
            return new Promise((resolve, reject) => trans2.oncomplete = e => resolve(response));
        },
        console.log)
    );

    return new Promise((resolve, reject) => trans.oncomplete = e => {
        if (noMoreData)
            resolve(addPromise);
        else if (moreData)
            resolve( addPromise.then(fetchData).then(addData) );
    });
}

这是我的清单

{
"author": "Name",
"manifest_version": 2,
"name": "Extension",
"description": "Extension",
"version": "3.0",

"applications": {
  "gecko": {
    "strict_min_version": "50.0",
    "id": "myID",
    "update_url": "https://update.me"
  }
},

"background": {
  "scripts": [
    "js/background.js"
  ]
},

"content_scripts": [
  {
    "matches": [ "https://match.me/*" ],
    "js": [
      "script.js"
    ],
    "css": [
      "style.css"
    ]
  }
],

"icons": {
  "48": "icon.png"
},

"options_ui": {
  "page": "options.html"
},

"page_action": {
  "browser_style": true,
  "default_icon": {
    "19": "icon-19.png",
    "38": "icon-38.png"
  },
  "default_title": "Extension",
  "default_popup": "popup.html"
},

"permissions": [
  "https://web.address/*",
  "downloads",
  "notifications",
  "storage",
  "tabs",
  "webRequest",
  "webNavigation"
],

"web_accessible_resources": [
  "pictures.png"
]
}

当我重新启动浏览器时,为什么Firefox认为数据库版本为0?我下载后可以使用存储的数据,为什么每次重启都会覆盖它?我可以做一个解决方法,我只在扩展安装或更新时创建商店和索引,但这不是实际问题的解决方案。

更新:我尝试了以下无效 -

  1. 关闭数据库并在存储每个数据文件后重新打开
  2. 为每个数据文件创建新的对象库
  3. 更新2:这似乎与存储问题有关。显然,2GB是非持久存储的存储限制。在Firefox中,您可以通过使用以下命令使存储持久化来绕过此: indexedDB.open("db", { version: 1, storage: "persistent" })

    请参阅bugzilla报告here

    不幸的是,当从后台页面运行时,不会处理要求确认的弹出窗口,因此您永远无法确认它。据推测,当Firefox 56问世时,您将能够使用" unlimitedStorage"权限,将绕过确认弹出窗口,因此它应该在后台页面中工作。

    更新3:所以看起来限制实际上是~1.5 GB。我只花了一周时间重新编写扩展,为每年的数据创建和使用不同的数据库,使每个数据库不超过150 MB。当我重新启动浏览器并擦除所有数据时,仍会执行onupgradeneeded。但是,如果我将所有数据库中的数据总量限制为上述限制,则可以正常工作。不幸的是,我还在同一条船上。

    没有人有任何想法吗?

1 个答案:

答案 0 :(得分:0)

正如我在我的问题更新中所提到的,对于"默认"似乎有~1.5GB的限制。 indexedDB的存储。将存储更改为" persistent"将删除该限制。但是,由于持久存储当前需要用户输入,因此必须从可以处理UI响应的窗口打开数据库。

这可以通过创建一个带有browser.window.create()的新窗口并从那里打开数据库从后台脚本完成。有一些安全限制阻止内联脚本在新页面中运行,因此我必须链接到本地​​javascript文件(即<script src="db.js"></script>。我认为您也可以使用清单指令更改内容安全策略,但是我没那样做。

希望 Firefox 56 支持unlimitedStorage权限,这将删除弹出窗口,允许直接从后台脚本创建/访问持久数据库。