会话对象上的Flask会话(文件系统)UnPicklingError,是否存在大小限制,或者我是否损坏了?

时间:2019-04-16 18:36:33

标签: python flask pickle werkzeug flask-session

Python2.7 / Centos7.5 / Apache2.4.6 + mod_wsgi

我正在使用flask / jinja生成一些交互式html表单,并将更改之间的数据保存到会话文件中(flask_session / type = filesystem)。在werkzeug的contrib / cache.py的_prune函数中,它随即因Unpickling错误而中断,我为之茫然。删除会话文件将解决问题,直到再次出现。从那时起,我就可以通过强制会话文件增大大小(使表单变长)来重现该错误,因此我怀疑大小是相关的,但这并不能完全解释为什么它们首先发生。 我正在运行的服务器端会话文件/泡菜有大小限制吗? 这不是完全可预测的,我只知道当我开始超载事情时,它最终会发生。 AFAIK除了jinja渲染的html之外,什么都没有发送到客户端。

我加载了尺寸合适的OrderedDict作为会话项:

session['saved'] = OrderedDict(items_list)

字典的深度只有3个级别,总共有约300个键,否则可能会导致崩溃。

我尝试了更改会话项阈值,更改会话文件的永久性,更新werkzeug的方法,并且通过强制删除UnpicklingError上的会话文件来解决该问题(这似乎并不影响客户端-附带经验)。但这是对werkzeug lib文件的手动编辑,绝对不是一个长期的解决方案。

Traceback (most recent call last):
File "/usr/lib64/python2.7/site-packages/flask/app.py", line 2292, in wsgi_app
  response = self.full_dispatch_request()
File "/usr/lib64/python2.7/site-packages/flask/app.py", line 1816, in full_dispatch_request
  return self.finalize_request(rv)
File "/usr/lib64/python2.7/site-packages/flask/app.py", line 1833, in finalize_request
  response = self.process_response(response)
File "/usr/lib64/python2.7/site-packages/flask/app.py", line 2114, in process_response
  self.session_interface.save_session(self, ctx.session, response)
File "/usr/lib64/python2.7/site-packages/flask_session/sessions.py", line 355, in save_session
  total_seconds(app.permanent_session_lifetime))
File "/usr/lib/python2.7/site-packages/werkzeug/contrib/cache.py", line 815, in set
  self._prune()
File "/usr/lib/python2.7/site-packages/werkzeug/contrib/cache.py", line 764, in _prune
  expires = pickle.load(f)
UnpicklingError: invalid load key, '*'.

相关的python代码(为便于阅读而进行了修剪和修改):

from flask import Flask, session, request, render_template
from flask_session import Session
from collections import OrderedDict
app = Flask(__name__)
SESSION_TYPE = app.config['SESSION_TYPE'] = 'filesystem'
SESSION_FILE_DIR = app.config['SESSION_FILE_DIR'] = os.path.join(local_dir,'flask_session')
SESSION_FILE_THRESHOLD = app.config['SESSION_FILE_THRESHOLD'] = 100
Session.init_app(app)

@app.route('/', defaults={'path': ''}, methods=['POST','GET'])
@app.route('/<path:path>', methods=['POST','GET'])
def configuration(path):
    #Do Some Stuff
    session['saved'] = OrderedDict(items_list)
    return render_template('configuration.html', session=session)

相关神社

% for element, details in session.saved.items()
    <tr id="{{element}}" name="{{details['type']}}">
            <td>
        <select id="{{element}}" name="{{element}}">
            % for item, desc in details["items"]
                <option value="{{item}}">{{desc}}</option>
            % endfor
        </select>
        </td>
        </tr>

为了方便起见,来自werkzeug / contrib / cache.py的_prune函数

 def _prune(self):
        if self._threshold == 0 or not self._file_count > self._threshold:
            return

        entries = self._list_dir()
        now = time()
        for idx, fname in enumerate(entries):
            try:
                remove = False
                with open(fname, "rb") as f:
                    expires = pickle.load(f)
                remove = (expires != 0 and expires <= now) or idx % 3 == 0

                if remove:
                    os.remove(fname)
            except (IOError, OSError):
                pass
# Add Exception to delete file with pickle errors
            except pickle.UnpicklingError:
                os.remove(fname)
        self._update_count(value=len(self._list_dir()))

我认为它不相关,考虑到所有这些都应该在服务器端,但是在Windows环境中使用Flask开发服务器运行相同的脚本不会出现酸洗错误。相反,我在self.flush()中收到套接字错误-主机中的软件中止了已建立的连接。也没有崩溃,它只是继续下去。我怀疑这只是错误处理,但认为值得一提。

2 个答案:

答案 0 :(得分:1)

这是文件系统的行为,它会降低应用程序的速度,更好地使用Redis或某种形式的缓存数据库系统。

app.config['SESSION_TYPE'] = 'redis'

答案 1 :(得分:0)

结果是,flask_session目录中还有一个文件,werkzeug / contrib / cache正在尝试加载并检查是否需要修剪:

const profilePage = require('./profilePage.js');

it('Create new patient', function(){
   profilePage.Title("Mr");
   profilePage.Gender("M"); 
}

* facepalm *

这里的答案是,不,这不是大小限制,没有损坏。该库正试图纯粹基于目录内容来修剪文件。