第七色在线视频,2021少妇久久久久久久久久,亚洲欧洲精品成人久久av18,亚洲国产精品特色大片观看完整版,孙宇晨将参加特朗普的晚宴

為了賬號安全,請及時綁定郵箱和手機(jī)立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

在 Colab 中運行代碼時顯示 GPU 使用情況

在 Colab 中運行代碼時顯示 GPU 使用情況

慕工程0101907 2023-02-07 13:42:54
我有一個在 Google Colab 上運行的程序,我需要在運行時監(jiān)控 GPU 使用情況。我知道通常您會nvidia-smi在命令行中使用來顯示 GPU 使用情況,但由于 Colab 一次只允許一個單元同時運行,因此這不是一個選項。目前,我正在使用GPUtil和監(jiān)視 GPU 和 VRAM 的使用情況GPUtil.getGPUs()[0].load,GPUtil.getGPUs()[0].memoryUsed但我找不到讓這些代碼片段與我的其余代碼同時執(zhí)行的方法,因此使用數(shù)量遠(yuǎn)低于實際應(yīng)該的數(shù)量是。有沒有辦法在其他代碼運行時打印 GPU 使用情況?
查看完整描述

5 回答

?
ABOUTYOU

TA貢獻(xiàn)1812條經(jīng)驗 獲得超5個贊

如果您有 Colab Pro,可以打開終端,位于左側(cè),用黑色背景表示為“>_”。

即使某些單元正在運行,您也可以從那里運行命令

編寫命令以實時查看 GPU 使用情況:

watch nvidia-smi


查看完整回答
反對 回復(fù) 2023-02-07
?
阿波羅的戰(zhàn)車

TA貢獻(xiàn)1862條經(jīng)驗 獲得超6個贊

用于wandb記錄系統(tǒng)指標(biāo):


!pip install wandb

import wandb

wandb.init()

它輸出一個 URL,您可以在其中查看不同系統(tǒng)指標(biāo)的各種圖表。


查看完整回答
反對 回復(fù) 2023-02-07
?
慕尼黑5688855

TA貢獻(xiàn)1848條經(jīng)驗 獲得超2個贊

更清楚的解釋。

  1. 轉(zhuǎn)到權(quán)重和偏差并創(chuàng)建您的帳戶。

  2. 運行以下命令。

!pip install wandb
import wandb
wandb.init()
  1. 轉(zhuǎn)到筆記本中的鏈接以獲得授權(quán) - 復(fù)制 API 密鑰。

  2. 將密鑰粘貼到筆記本輸入字段中。

  3. 授權(quán)后,您會在筆記本中找到另一個鏈接 - 在那里查看您的模型 + 系統(tǒng)矩陣。


查看完整回答
反對 回復(fù) 2023-02-07
?
絕地?zé)o雙

TA貢獻(xiàn)1946條經(jīng)驗 獲得超4個贊

您可以在后臺運行腳本來跟蹤 GPU 使用情況。


第 1 步:創(chuàng)建一個文件來監(jiān)控 jupyter 單元中的 GPU 使用情況。


%%writefile gpu_usage.sh

#! /bin/bash

#comment: run for 10 seconds, change it as per your use

end=$((SECONDS+10))


while [ $SECONDS -lt $end ]; do

    nvidia-smi --format=csv --query-gpu=power.draw,utilization.gpu,memory.used,memory.free,fan.speed,temperature.gpu >> gpu.log

    #comment: or use below command and comment above using #

    #nvidia-smi dmon -i 0 -s mu -d 1 -o TD >> gpu.log

done

第二步:在另一個單元格中在后臺執(zhí)行上面的腳本。


%%bash --bg


bash gpu_usage.sh

第 3 步:運行推理。


請注意,該腳本將記錄前 10 秒的 GPU 使用情況,根據(jù)您的模型運行時間更改它。


GPU 利用率結(jié)果將保存在gpu.log文件中。


查看完整回答
反對 回復(fù) 2023-02-07
?
慕沐林林

TA貢獻(xiàn)2016條經(jīng)驗 獲得超9個贊

還有另一種查看 gpu 使用情況的方法,但此方法僅適用于查看內(nèi)存使用情況。轉(zhuǎn)到單擊運行時 - >管理會話。這使您可以查看需要多少內(nèi)存才能增加批處理大小。



查看完整回答
反對 回復(fù) 2023-02-07
  • 5 回答
  • 0 關(guān)注
  • 1333 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補(bǔ)貼
聯(lián)系客服咨詢優(yōu)惠詳情

幫助反饋 APP下載

慕課網(wǎng)APP
您的移動學(xué)習(xí)伙伴

公眾號

掃描二維碼
關(guān)注慕課網(wǎng)微信公眾號