В примере C# для параллельной обработки запросов https://github.com/Microsoft/CNTK/blob/zhouwang/cseval-example-clone/Examples/Evaluation/CNTKLibraryCSEvalCPUOnlyExamples/CNTKLibraryCSEvalExamples.cs
насколько дорого вызывать rootFunc.Clone(ParameterCloningMethod.Share)? В настоящее время мы вызываем его по запросу, который мы получаем в нашей службе, но было бы полезно знать, не рекомендуется ли это делать.
заранее спасибо
Clone() с совместным использованием параметров не требует больших затрат памяти, поскольку все клонированные экземпляры совместно используют параметры модели, например. веса. Что касается задержки, она также должна быть довольно низкой, поскольку она создает только некоторую структуру данных описания сети в памяти. Конечно, если вы используете пул для управления всеми клонированными экземплярами, вы получите более высокую производительность.
