部分一：

Pytorch可指定用來(lái)存儲(chǔ)和計(jì)算的設(shè)備，如使用內(nèi)存的CPU或使用顯存的GPU；默認(rèn)情況下，Pytorch會(huì)將數(shù)據(jù)創(chuàng)建在內(nèi)存，然后利用CPU來(lái)計(jì)算；

通過(guò)"nvidia-smi"指令可查看顯卡信息，具體可參考Ubuntu搭建深度學(xué)習(xí)開(kāi)發(fā)環(huán)境(pytorch)，pytorch常用指令如下：

torch.cuda.is_available()：查看GPU是否可用；

torch.cuda.device_count()：查看GPU數(shù)量；

torch.cuda.current_device()：查看當(dāng)前GPU索引號(hào)，從0開(kāi)始；

torch.cuda.get_device_name(0)：根據(jù)索引號(hào)查看GPU名字；

代碼實(shí)現(xiàn)：

結(jié)果：

部分二：tensor的GPU計(jì)算

代碼實(shí)現(xiàn)

結(jié)果：

需要注意，.cuda()會(huì)將CPU上的tensor轉(zhuǎn)移到GPU上；如果有多塊GPU，用.cuda(i)表示第i塊GPU；.cuda()與.cuda(0)等價(jià)。

CPU上的數(shù)據(jù)不能與GPU上的數(shù)據(jù)進(jìn)行計(jì)算，tensor只能在同設(shè)備上才能計(jì)算，如：

部分三：模型的GPU計(jì)算

代碼實(shí)現(xiàn)

結(jié)果：