第七色在线视频,2021少妇久久久久久久久久,亚洲欧洲精品成人久久av18,亚洲国产精品特色大片观看完整版,孙宇晨将参加特朗普的晚宴

為了賬號安全,請及時綁定郵箱和手機(jī)立即綁定
已解決430363個問題,去搜搜看,總會有你想問的

如何使用GPU運行Keras Model.Predict()

如何使用GPU運行Keras Model.Predict()

寶慕林4294392 2024-01-04 17:11:30
我驗證了我的 TF 正確使用了我的 GPU。TF 使用 GPU 來運行 model.fit(),在 HWiNFO64 中看到大約 50% 的使用率。但是,如果我隨后將此單元添加到筆記本中,筆記本將使用該模型來預(yù)測測試集中圖像的標(biāo)簽:import numpy as npfor img in test_images:? ? prediction = model.predict(np.expand_dims(img, axis=0)) # Here? ? print(class_names[np.argmax(prediction)])我看到 GPU 使用率只有 1%(Chrome 和其他進(jìn)程使用)。有沒有辦法讓我在 GPU 上運行 model.predict(),或者是否有任何替代方案可以為單個輸入提供模型輸出?
查看完整描述

1 回答

?
慕桂英3389331

TA貢獻(xiàn)2036條經(jīng)驗 獲得超8個贊

您的代碼在 GPU 上運行,認(rèn)為 GPU 利用率可以告訴您代碼是否在 GPU 中運行是一種誤解。

問題在于,predict對每個圖像執(zhí)行一次調(diào)用的效率非常低,因為在 GPU 上幾乎無法執(zhí)行并行性,如果傳遞整個圖像數(shù)組,那么它將提高 GPU 利用率,因為可以向 GPU 和每個圖像提供批次并行處理。

GPU 僅加速特定工作負(fù)載,因此您唯一的選擇是在調(diào)用中使用更多圖像predict。


查看完整回答
反對 回復(fù) 2024-01-04
  • 1 回答
  • 0 關(guān)注
  • 221 瀏覽
慕課專欄
更多

添加回答

舉報

0/150
提交
取消
微信客服

購課補(bǔ)貼
聯(lián)系客服咨詢優(yōu)惠詳情

幫助反饋 APP下載

慕課網(wǎng)APP
您的移動學(xué)習(xí)伙伴

公眾號

掃描二維碼
關(guān)注慕課網(wǎng)微信公眾號