我们正在使用在我们的服务中使用CNTK构建的文本模型。我们使用CPU来对单词序列进行分类。我们用共享参数克隆模型函数。每隔2-3天,我们在调用clonedModelFunc.Evaluate(inputDataMap,outputDataMap,_device)时会在服务中看到大量异常。当例外情况显示在一天时,它们完全显示为爆发。
您是否有任何想法可能会发生什么或我们如何解决它?当出现这些异常突发时,我们要么在调用Evaluate时获得ApplicationException或错误的分配异常。
调用堆栈: System.ApplicationException: at CNTK.Function.Evaluate(CNTKLibraryManaged-2.0,Version = 1.0.0.0,Culture = neutral,PublicKeyToken = 21fff2ec8197defe) at CNTK.Function.Evaluate(CNTKLibraryManaged-2.0,Version = 1.0.0.0,Culture = neutral,PublicKeyToken = 21fff2ec8197defe) 在
我们的方法:
var clonedModelFunc = _modelFunc.Clone(ParameterCloningMethod.Share);
... var inputValue = Value.CreateSequence(vocabSize,seqData,seqStartFlag,_device);
var inputDataMap = new Dictionary<Variable, Value>();
inputDataMap.Add(inputVar, inputValue);
Variable outputVar = clonedModelFunc.Output;
var outputDataMap = new Dictionary<Variable, Value>();
outputDataMap.Add(outputVar, null);
clonedModelFunc.Evaluate(inputDataMap, outputDataMap, _device);