SQLAlchemy + MariaDB:MySQL服务器已经消失

时间:2018-07-19 08:24:15

标签: python mysql sqlalchemy mariadb

我知道之前曾有人问过这个问题,但我无法解决它。我正在编写一个应用程序,以在网络上剪贴一些股票信息。将我的SQLAlchemy对象传递到函数中时,抓取部分大约需要70分钟才能完成。 函数完成后,应该将数据插入到数据库的数据中,这是我得到错误的时间。我想MariaDB那时已经关闭了会议?

代码:

    with get_session() as session:
        stocks = session.query(Stock).filter(or_(Stock.market.like('%Large%'), Stock.market.like("%First North%"))).all()
        for stock, path in chrome.download_stock(stocks=stocks): # This function takes about 70 minutes, not using any session in here, only Stock objects
            # Starting to insert and get the error on the first insert

错误: sqlalchemy.exc.OperationalError:(_mysql_exceptions.OperationalError)(2006,'MySQL服务器已消失')

get_session()函数:

@contextmanager
def get_session(debug=False):
    engine = create_engine('mysql://root:pw@IP/DB', echo=debug, encoding='utf8', pool_recycle=300, pool_pre_ping=True)
    Base.metadata.create_all(engine)
    Session = sessionmaker(bind=engine)
    session = Session()
    try:
        yield session
        session.commit()
    except:
        session.rollback()
        raise
    finally:
        session.close()

我试图将pool_recycle减少到300秒,并添加SQLAlchemny 1.2附带的新pool_pre_ping,但没有任何效果。有任何想法吗?您认为它在代码中还是在服务器端?

MariaDB:10.2.14

SQLAlchemy:1.2.7

编辑: 由于FrankerZ的评论开始调查MariaDB wait_timeout,并产生了一些有趣的结果,首先是从mysql-command:

SHOW SESSION VARIABLES LIKE 'wait_timeout';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| wait_timeout  | 28800 |
+---------------+-------+
1 row in set (0.00 sec)

然后通过Python / SQLAlchemy:

print(session.execute("SHOW SESSION VARIABLES LIKE 'wait_timeout';").first())
('wait_timeout', '600')

对此有任何解释吗?应该是问题所在吗?

1 个答案:

答案 0 :(得分:1)

至少有2个“ wait_timeouts”;这很令人困惑。

连接后立即执行

SET SESSION wait_timeout=12000

那将给您200分钟。

还要确保SQLAlchemy没有超时。 (例如,PHP是这样做的。)