[SJTU-IPADS/PowerInfer]为什么执行过程中没有gpu offload,这边执行的gpu为a100 80G,

2024-07-02 674 views
5

第一步:报错没有activation文件夹; image

这边手动增加activation文件夹(fake)后,执行python依然报错 image

单独执行python命令报错如下: image

回答

6

这个activation文件夹要如何产生呢?怎么样才能使能gpu offload呢