Question

我正在使用Azure的Web Language Model API。我正在使用API的“标准”（非免费）版本。我面临两个问题：

（1）如上所述here，服务请求的速度是1000次/分钟，远低于每秒1000次服务。

（2）连接断开频繁，10-15k电话后，我得到“连接超时”或“连接重置对等”错误。

这是我收到的错误：

/usr/lib/python3.5/ssl.py in read(self, len, buffer)
    573         """
    574         if buffer is not None:
--> 575             v = self._sslobj.read(len, buffer)
    576         else:
    577             v = self._sslobj.read(len)

TimeoutError: [Errno 110] Connection timed out

===

在初始连接请求之后，我的所有帖子请求都发送到同一个连接。

以下是我尝试进行查询的代码段：

self.params = urllib.parse.urlencode(dict({
    # Request parameters
    'model': 'body',
    'order': 3,
}))

self.conn = http.client.HTTPSConnection('westus.api.cognitive.microsoft.com')

jsonq = {"queries": [{"words": words, "word": word}]}
self.conn.request("POST", "/text/weblm/v1.0/calculateConditionalProbability?%s"  %self.params, str(jsonq), self.headers)
output = json.loads(self.conn.getresponse().read().decode())

Web语言模型API经常断开连接

0 个答案: