CNTK：c＃sample用于并行请求处理和Clone（）方法性能

Question

用于并行请求处理的c＃示例  https://github.com/Microsoft/CNTK/blob/zhouwang/cseval-example-clone/Examples/Evaluation/CNTKLibraryCSEvalCPUOnlyExamples/CNTKLibraryCSEvalExamples.cs

调用rootFunc.Clone（ParameterCloningMethod.Share）有多贵？ 我们目前根据我们在服务中收到的请求来调用它，但是值得知道这是不可取的。

提前致谢

Answer 1

具有参数共享的Clone（）并不是昂贵的考虑内存开销，因为所有克隆的实例都共享模型的参数，例如：权重。关于延迟，它也应该非常低，因为它只创建一些内存网络描述数据结构。当然，如果您使用池来管理所有克隆的实例，您将获得更好的性能。