簡(jiǎn)介【免費(fèi)下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計(jì)算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對(duì) PyTorch、TensorFlow 前端的友好接入能力并同時(shí)支持 onnx、pb 等主流模型格式的解析與編譯。項(xiàng)目地址: https://gitcode.com/cann/ge圖編譯結(jié)果的概要信息。需要包含的頭文件#include ge/ge_graph_compile_summary.hPublic成員函數(shù)~CompiledGraphSummary() CompiledGraphSummary operator(const CompiledGraphSummary ) delete CompiledGraphSummary(const CompiledGraphSummary ) delete bool IsStatic() const Status GetConstMemorySize(size_t size) const Status GetFeatureMemorySize(size_t size) const Status GetFixedFeatureMemorySize(size_t size) const std::vectorFeatureMemoryPtr GetAllFeatureMemoryTypeSize() const Status GetRefreshableFeatureMemorySize(size_t size) const Status GetFeatureMemoryBaseRefreshable (bool v) const Status GetStreamNum(size_t num) const Status GetEventNum(size_t num) const Status GetOutputShapes(std::vectorge::Shape shapes) const Status GetOutputDtypes(std::vectorge::DataType dtypes) const Status GetIOIndexesWithSameAddr(std::vectorstd::pairuint32_t, uint32_t io_indexes) const Status GetExternalWeightPaths(std::vectorExternalWeightDescPtr paths) const Status GetStreamAllocationSummary(std::shared_ptrStreamAllocationSummary stream_allocation) const【免費(fèi)下載鏈接】geGEGraph Engine是面向昇騰的圖編譯器和執(zhí)行器提供了計(jì)算圖優(yōu)化、多流并行、內(nèi)存復(fù)用和模型下沉等技術(shù)手段加速模型執(zhí)行效率減少模型內(nèi)存占用。 GE 提供對(duì) PyTorch、TensorFlow 前端的友好接入能力并同時(shí)支持 onnx、pb 等主流模型格式的解析與編譯。項(xiàng)目地址: https://gitcode.com/cann/ge創(chuàng)作聲明：本文部分內(nèi)容由AI輔助生成（AIGC），僅供參考