我知道之前曾有人问过这个问题,但我无法解决它。我正在编写一个应用程序,以在网络上剪贴一些股票信息。将我的SQLAlchemy对象传递到函数中时,抓取部分大约需要70分钟才能完成。 函数完成后,应该将数据插入到数据库的数据中,这是我得到错误的时间。我想MariaDB那时已经关闭了会议?
代码:
with get_session() as session:
stocks = session.query(Stock).filter(or_(Stock.market.like('%Large%'), Stock.market.like("%First North%"))).all()
for stock, path in chrome.download_stock(stocks=stocks): # This function takes about 70 minutes, not using any session in here, only Stock objects
# Starting to insert and get the error on the first insert
错误: sqlalchemy.exc.OperationalError:(_mysql_exceptions.OperationalError)(2006,'MySQL服务器已消失')
get_session()函数:
@contextmanager
def get_session(debug=False):
engine = create_engine('mysql://root:pw@IP/DB', echo=debug, encoding='utf8', pool_recycle=300, pool_pre_ping=True)
Base.metadata.create_all(engine)
Session = sessionmaker(bind=engine)
session = Session()
try:
yield session
session.commit()
except:
session.rollback()
raise
finally:
session.close()
我试图将pool_recycle减少到300秒,并添加SQLAlchemny 1.2附带的新pool_pre_ping,但没有任何效果。有任何想法吗?您认为它在代码中还是在服务器端?
MariaDB:10.2.14
SQLAlchemy:1.2.7
编辑: 由于FrankerZ的评论开始调查MariaDB wait_timeout,并产生了一些有趣的结果,首先是从mysql-command:
SHOW SESSION VARIABLES LIKE 'wait_timeout';
+---------------+-------+
| Variable_name | Value |
+---------------+-------+
| wait_timeout | 28800 |
+---------------+-------+
1 row in set (0.00 sec)
然后通过Python / SQLAlchemy:
print(session.execute("SHOW SESSION VARIABLES LIKE 'wait_timeout';").first())
('wait_timeout', '600')
对此有任何解释吗?应该是问题所在吗?
答案 0 :(得分:1)
至少有2个“ wait_timeouts”;这很令人困惑。
连接后立即执行
SET SESSION wait_timeout=12000
那将给您200分钟。
还要确保SQLAlchemy没有超时。 (例如,PHP是这样做的。)