-
sigmoid是非對(duì)稱的
查看全部 -
激勵(lì)函數(shù)的作用是提供規(guī)模化的非線性化能力
查看全部 -
邏輯回歸是一種最簡(jiǎn)化的網(wǎng)絡(luò)結(jié)構(gòu)。
查看全部 -
結(jié)構(gòu)性的順序
結(jié)點(diǎn)和層的概念
解決的是非線性問(wèn)題,這個(gè)體現(xiàn)在每個(gè)神經(jīng)元的設(shè)計(jì)上。包括隱含層和輸出層。
神經(jīng)元的操作:把輸入進(jìn)來(lái)的東西進(jìn)行組合,然后進(jìn)行一個(gè)非線性的處理
查看全部 -
網(wǎng)絡(luò)結(jié)構(gòu)
激勵(lì)函數(shù)
損失函數(shù)
梯度下降
查看全部 -
主要功能:分類(lèi)識(shí)別
分類(lèi):圖像、語(yǔ)音、文本
查看全部 -
神經(jīng)網(wǎng)絡(luò)
起源:20世紀(jì)中葉,實(shí)際上是一種仿生學(xué)產(chǎn)品。目標(biāo)是像人腦一樣思考。
興起:
環(huán)境:二進(jìn)制創(chuàng)新
能力:軟硬件
需求:人的性價(jià)比
查看全部 -
激勵(lì)函數(shù)是對(duì)大腦中傳遞介質(zhì)的模擬,非線性的變化
Sigmoid tanh ReLU
2.1sigmoid (0-1)優(yōu)勢(shì):整個(gè)函數(shù)可導(dǎo),后期反向傳播
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?缺點(diǎn):對(duì)稱點(diǎn):0.50(數(shù)據(jù)中心化)-》tanh
? 趨向比較小或比較大時(shí),變化平緩
?2.2ReLU
查看全部 -
結(jié)構(gòu)性順序
從輸入到隱含層到輸出再到最后得到預(yù)測(cè)結(jié)果
深度(層)比寬度(節(jié)點(diǎn)),一層一層分析,從色彩到線到形狀
神經(jīng)網(wǎng)絡(luò)解決的問(wèn)題是非線性的(體現(xiàn)在隱含層和輸出層)
神經(jīng)元兩部分:線性組合和非線性的處理
查看全部 -
1.神經(jīng)網(wǎng)絡(luò)主要功能:分類(lèi)識(shí)別,通過(guò)函數(shù)
2.圖像,語(yǔ)音,文本
2.1圖像和語(yǔ)音是密集型矩陣(非零值),文本是稀疏性矩陣(零值居多,預(yù)處理工作)
2.2基礎(chǔ)應(yīng)用:
圖像-》自動(dòng)駕駛,語(yǔ)音-》語(yǔ)音助手,文本-》新聞推送
查看全部 -
神經(jīng)網(wǎng)絡(luò)?
網(wǎng)絡(luò)結(jié)構(gòu)
激勵(lì)函數(shù)
損失函數(shù)
梯度下降
查看全部 -
主要功能:分類(lèi)識(shí)別(圖像、語(yǔ)音、文本)
查看全部 -
迭代,調(diào)整參數(shù)
查看全部 -
圖像和音頻是密集型 文本是稀疏型查看全部
-
1:激勵(lì)函數(shù) ?:2損失函數(shù) 3:梯度下降
查看全部
舉報(bào)