第七色在线视频,2021少妇久久久久久久久久,亚洲欧洲精品成人久久av18,亚洲国产精品特色大片观看完整版,孙宇晨将参加特朗普的晚宴

機(jī)器學(xué)習(xí)算法分類

算法分類1：有監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)（強(qiáng)化學(xué)習(xí)，舉例：小孩學(xué)走路，一開始走不穩(wěn)，隨著數(shù)據(jù)量的增大，走的越來越熟練。）；

算法分類2： 分類與回歸、聚類、標(biāo)注；

算法分類2：生成模型、判別模型。

機(jī)器學(xué)習(xí)由數(shù)據(jù)質(zhì)量決定結(jié)果，算法往往差距不大。

機(jī)器學(xué)習(xí)的定義：利用計算機(jī)從歷史數(shù)據(jù)中找出規(guī)律，并把這些規(guī)律用到對未來不確定場景的決策。

RT.

1. 決策樹算法（C4.5, CART）

????無監(jiān)督學(xué)習(xí)：實(shí)際上，決策樹通常用于有監(jiān)督學(xué)習(xí)，因?yàn)樗蕾囉跇?biāo)注數(shù)據(jù)進(jìn)行訓(xùn)練?？梢愿鶕?jù)特征來劃分?jǐn)?shù)據(jù)，進(jìn)行分類或回歸。

????C4.5和CART：雖然這兩者在過去很常見，但如今更先進(jìn)的算法（如XGBoost）已取代它們。可以考慮添加對這些新算法的簡要介紹。

2. K-Means（無監(jiān)督學(xué)習(xí)）

????聚類算法非常適合于無監(jiān)督學(xué)習(xí)。K-Means通過最小化每個點(diǎn)到質(zhì)心的距離來分組，適用于大多數(shù)情況下數(shù)據(jù)分布較為均勻的情況。

3. SVM（支持向量機(jī)）

????支持向量機(jī)是一個非常強(qiáng)大的分類與回歸算法，尤其適用于高維數(shù)據(jù)。盡管深度學(xué)習(xí)在某些任務(wù)中已超越它，SVM仍然是經(jīng)典的高效分類算法之一。

4. Apriori

????已淘汰的算法，確實(shí)因其計算復(fù)雜度和多次掃描數(shù)據(jù)庫的需求而受到批評。FP-Growth是更高效的替代者，它通過樹形結(jié)構(gòu)減少了對數(shù)據(jù)庫的訪問次數(shù)。

5. EM算法

????作為一種統(tǒng)計學(xué)習(xí)方法，EM算法的理解確實(shí)有一定的門檻，適用于混合模型或缺失數(shù)據(jù)處理等問題。

6. PageRank

????雖然PageRank仍然廣泛應(yīng)用于搜索引擎中，但其具體實(shí)現(xiàn)細(xì)節(jié)已經(jīng)有許多創(chuàng)新和優(yōu)化，尤其是在大規(guī)模圖數(shù)據(jù)的處理上。

7. AdaBoost

????這是一種集成學(xué)習(xí)方法，可以與弱分類器（如決策樹）結(jié)合，通過加權(quán)的方式提高整體分類準(zhǔn)確率。它在圖像識別中有廣泛應(yīng)用。

8. kNN（k-近鄰）

????與K-Means的不同之處在于，kNN是基于距離的分類方法。它簡單易懂，但對于大數(shù)據(jù)集來說計算復(fù)雜度較高。

9. Naive Bayes

????適用于分類任務(wù)，特別是在文本分類中，如垃圾郵件檢測。其假設(shè)特征之間相互獨(dú)立，這在實(shí)際數(shù)據(jù)中可能不完全成立，但通常仍能獲得不錯的效果。

高級算法：

????FP-Growth

????????在Apriori的基礎(chǔ)上優(yōu)化了計算效率，尤其適用于關(guān)聯(lián)規(guī)則挖掘。

????邏輯回歸

????????非常重要且廣泛使用，尤其是在二分類問題和概率預(yù)測中。

????隨機(jī)森林（RF）和GBDT

????????兩者都是決策樹的集成算法，廣泛用于分類與回歸問題。GBDT在處理非線性問題時表現(xiàn)尤為出色。

????推薦算法

????????推薦系統(tǒng)廣泛應(yīng)用于電商、社交平臺中，有很多優(yōu)化方法，如協(xié)同過濾、內(nèi)容推薦等。

????LDA（潛在狄利克雷分配）

????????主要用于主題模型，在文本挖掘中有重要應(yīng)用。

????Word2Vec

????????用于將詞語轉(zhuǎn)化為向量表示，是文本數(shù)據(jù)處理中的一個重要技術(shù)。

????HMM與CRF

????????隱馬爾可夫模型與條件隨機(jī)場都廣泛應(yīng)用于序列數(shù)據(jù)建模，如語音識別、自然語言處理。

????深度學(xué)習(xí)

????????包括CNN、RNN等深度神經(jīng)網(wǎng)絡(luò)，是目前處理大規(guī)模復(fù)雜數(shù)據(jù)（如圖像、語音、文本）最前沿的技術(shù)。

機(jī)器學(xué)習(xí)算法分類（1）： 通過模型判斷Y和X的關(guān)系

????有監(jiān)督學(xué)習(xí)：分類算法——Y類：垃圾郵件

????????????????????????????????????????????????X類：正常郵件

????????????????????? ? ? 回歸算法

????無監(jiān)督學(xué)習(xí)： 聚類? ?（無Y類）

????????????????????????? ? ?

? ? 半監(jiān)督學(xué)習(xí)：強(qiáng)化學(xué)習(xí)

機(jī)器學(xué)習(xí)算法分類（2）：

????分類與回歸

????聚類

????標(biāo)注，給每一個對象打上標(biāo)簽，如句子的主謂賓切割?

機(jī)器學(xué)習(xí)算法分類（3）【重要】

????生成模型：（陪審團(tuán)）屬于某類的可能性。

????判別模型:? （法官）直接給函數(shù)，定結(jié)果。

什么是機(jī)器學(xué)習(xí)

生活中的機(jī)器學(xué)習(xí)

數(shù)據(jù)分析和機(jī)器學(xué)習(xí)

常用算法

框架

demo

重新開始學(xué)習(xí)一遍吧。

機(jī)器學(xué)習(xí)與數(shù)據(jù)分析？

機(jī)器學(xué)習(xí)常見算法（1）ICDM
1.分類---C4.5使用決策樹算法，可以解決【分類】&【回歸】問題；
2.聚類---K-Means算法，屬于無監(jiān)督方法，解決電信用戶分類問題；
3.統(tǒng)計學(xué)習(xí)---SVM（支持向量機(jī)）可以解決分類（主）和回歸問題，有很好的表現(xiàn)和深厚的數(shù)學(xué)理論支撐，曾經(jīng)被認(rèn)為是最好的分類算法?，F(xiàn)在光芒被【深度學(xué)習(xí)】掩蓋了。有一定的數(shù)學(xué)門檻，面試中經(jīng)常被問。
4.關(guān)聯(lián)分析---Apriori應(yīng)用于“尿片和紙尿褲”案例，最早解決了頻繁項(xiàng)集問題。由于需要頻繁訪問數(shù)據(jù)庫，已被淘汰。取代它的是華人開的【FP-Growth】算法。應(yīng)用：電商的推薦系統(tǒng)，但目前有更好的替代方法。
5.統(tǒng)計分析---EM算法是一個算法框架，用于解決一系列問題。
6.連接挖掘---PageRank。Google使用的網(wǎng)頁排序算法，很著名。
7.集裝與推進(jìn)---AdaBoosts算法，應(yīng)用于人臉識別，本質(zhì)為改進(jìn)的決策樹算法，屬于有監(jiān)督的分類算法。
8.分類---kNN。相對簡單的分類算法，有監(jiān)督。
9.分類---Naive Bayes樸素貝葉斯算法，用于識別垃圾郵件。
目前不常用的算法：Apriori和CART。

機(jī)器學(xué)習(xí)解決問題的框架
1）預(yù)測問題：
1.1分類：離散型變量
1.2回歸：連續(xù)性變量
2）聚類問題：
3）確定目標(biāo)：
業(yè)務(wù)需求-數(shù)據(jù)-特征工程（數(shù)據(jù)預(yù)處理，70%，最重要）

算法分類1：根據(jù)數(shù)據(jù)有無標(biāo)簽Y進(jìn)行分類

對樣本數(shù)據(jù)進(jìn)行一些訓(xùn)練，得到模型，通過模型判斷X與Y的關(guān)系。

? ? 有監(jiān)督學(xué)習(xí)：訓(xùn)練數(shù)據(jù)中已經(jīng)明確給出了該數(shù)據(jù)的Y，給數(shù)據(jù)打上了標(biāo)簽。如：已對郵件打上了“垃圾郵件”、“正常郵件”的標(biāo)簽。包括：分類算法、回歸算法。

? ? 無監(jiān)督學(xué)習(xí)：訓(xùn)練數(shù)據(jù)并沒有Y，數(shù)據(jù)沒有任何標(biāo)簽。典型算法：聚類。

? ? 半監(jiān)督學(xué)習(xí)：也叫強(qiáng)化學(xué)習(xí)，數(shù)據(jù)越多，模型越好。

算法分類2：根據(jù)解決問題進(jìn)行分類

? ? 分類與回歸、聚類、標(biāo)注

算法分類3（重要，直指本質(zhì)）

? ? 生成模型：用來說明分類問題。返回的是屬于各個類的概率。

? ? 判別模型：用來說明分類問題。直接給一個函數(shù)，數(shù)據(jù)輸入到函數(shù)中，直接返回類別。

2、解決業(yè)務(wù)問題不同
數(shù)據(jù)分析，報告歷史上發(fā)生的事情。
機(jī)器學(xué)習(xí)：通過歷史上發(fā)生的事情，來預(yù)測未來的事情。
3、技術(shù)手段不同
數(shù)據(jù)分析：分析方式是用戶（數(shù)據(jù)分析師）驅(qū)動的，交互式分析。分析能力受限于數(shù)據(jù)分析師的能力，數(shù)據(jù)屬性和維度很有限。
機(jī)器學(xué)習(xí)：分析方式是數(shù)據(jù)驅(qū)動的，自動進(jìn)行知識發(fā)現(xiàn)。分析能力不受限于人，數(shù)據(jù)屬性和維度數(shù)量級很大。
4、參與者不同
數(shù)據(jù)分析，分析師能力決定結(jié)果，目標(biāo)用戶是公司管理決策層。
機(jī)器學(xué)習(xí)，數(shù)據(jù)質(zhì)量決定結(jié)果，目標(biāo)用戶是個體。

機(jī)器學(xué)習(xí)與數(shù)據(jù)分析的區(qū)別

1. 處理的數(shù)據(jù)類型和特點(diǎn)

   1. 交易數(shù)據(jù) vS 行為數(shù)據(jù)

   2. 少量數(shù)據(jù) vs 海量數(shù)據(jù)

   3. 采樣分析 vs 全量分析

數(shù)據(jù)分析：

數(shù)據(jù)類型：主要處理交易數(shù)據(jù)，例如電商網(wǎng)站用戶下單、銀行存取款賬單等。

數(shù)據(jù)量：通常涉及的數(shù)據(jù)量較少。

數(shù)據(jù)分析方法：傾向于采用采樣分析，因?yàn)閿?shù)據(jù)量不大，可以對樣本進(jìn)行深入分析。

數(shù)據(jù)一致性：對數(shù)據(jù)一致性要求嚴(yán)格，尤其是在金融交易等場景中，數(shù)據(jù)的準(zhǔn)確性至關(guān)重要。

數(shù)據(jù)庫使用：因此，數(shù)據(jù)分析通常使用關(guān)系型數(shù)據(jù)庫，如SQL Server、MySQL、Oracle等，這些數(shù)據(jù)庫能夠保證事務(wù)的ACID屬性（原子性、一致性、隔離性、持久性），確保數(shù)據(jù)的準(zhǔn)確性和一致性。

機(jī)器學(xué)習(xí)：

數(shù)據(jù)類型：主要處理行為數(shù)據(jù)，例如用戶的搜索歷史、瀏覽歷史、點(diǎn)擊歷史、評論等。

數(shù)據(jù)量：涉及的數(shù)據(jù)量龐大，通常需要處理海量數(shù)據(jù)。

數(shù)據(jù)分析方法：傾向于進(jìn)行全量分析，以捕捉數(shù)據(jù)中的所有模式和趨勢。

數(shù)據(jù)一致性：對數(shù)據(jù)一致性的要求相對較低，更注重數(shù)據(jù)吞吐量和處理速度。

數(shù)據(jù)庫使用：因此，機(jī)器學(xué)習(xí)通常使用NoSQL數(shù)據(jù)庫（如MongoDB）和分布式數(shù)據(jù)分析平臺（如Hadoop、Spark），這些技術(shù)能夠處理大規(guī)模數(shù)據(jù)集，并且具有高吞吐量和靈活性。

2. 數(shù)據(jù)處理方法和工具

數(shù)據(jù)分析：

側(cè)重于使用統(tǒng)計方法和查詢語言（如SQL）來分析數(shù)據(jù)，以支持決策制定。

工具和語言包括Excel、R、Python（Pandas庫）等。

機(jī)器學(xué)習(xí)：

側(cè)重于使用算法和模型來從數(shù)據(jù)中學(xué)習(xí)模式，并進(jìn)行預(yù)測或分類。

工具和框架包括TensorFlow、PyTorch、Scikit-learn等。

-----

用 Nosql 處理行為數(shù)據(jù)，跟錢相關(guān)的數(shù)據(jù)，是不會用 nosql 去處理的。

什么是機(jī)器學(xué)習(xí)？

1. ? 利用計算機(jī)從歷史數(shù)據(jù)中找出規(guī)律；并把這些規(guī)律用到對未來不定場景的決策

?機(jī)器學(xué)習(xí)的典型應(yīng)用

1. ? 關(guān)聯(lián)規(guī)則：啤酒+紙尿片，購物籃分析

2. ? 聚類：用戶細(xì)分精準(zhǔn)營銷

3. ? 樸素貝葉斯：垃圾郵件檢測

4. ? 決策樹：風(fēng)險識別

5. ? ctr預(yù)估：互聯(lián)網(wǎng)廣告：百度的前多少個詞條（商業(yè)廣告）（按照點(diǎn)擊率排序）

6. ? 協(xié)同過濾：推薦系統(tǒng)（電商購物車推薦，應(yīng)用市場下載應(yīng)用后的推薦等等）

7. ? 自然語言處理：情感分析（對文本抓關(guān)鍵情感詞），實(shí)體識別（提取文本主要數(shù)據(jù)，人名等）

8. ? 深度學(xué)習(xí):圖像識別

9. ? 更多應(yīng)用：語音識別，人臉識別，手勢控制，智慧機(jī)器人，實(shí)時翻譯

機(jī)器學(xué)習(xí)的典型應(yīng)用：

1. 購物籃分析——美國超市啤酒和紙尿褲——關(guān)聯(lián)規(guī)則

2. 用戶細(xì)分精準(zhǔn)營銷—— 中國移動全球通、動感地帶、神州行——聚類

3. 垃圾郵件識別——樸素貝葉斯

4. 信用卡欺詐——決策樹
   

   
   

?

機(jī)器學(xué)習(xí)的典型應(yīng)用

用戶細(xì)分精準(zhǔn)營銷

? 聚類? 用機(jī)器對用戶群體分類，判斷用戶具體需要什么。

購物籃分析
?
?關(guān)聯(lián)算法，紙尿褲和啤酒

業(yè)務(wù)系統(tǒng)發(fā)展的歷史

1. 基于專家經(jīng)驗(yàn)

2. 基于統(tǒng)計——分緯度統(tǒng)計

3. 機(jī)器學(xué)習(xí)——在線學(xué)習(xí)

機(jī)器學(xué)習(xí)兩種使用場景?離線學(xué)習(xí)和在線學(xué)習(xí)。

1. 離線學(xué)習(xí)：批處理的方式，對以前的數(shù)據(jù)進(jìn)行學(xué)習(xí)，從而運(yùn)用到后面的指導(dǎo)中
   

2. 在線學(xué)習(xí)：對實(shí)時產(chǎn)生的數(shù)據(jù)進(jìn)行學(xué)習(xí)，再對實(shí)時得業(yè)務(wù)進(jìn)行指導(dǎo)

兩種場景使用的算法都是一樣的。

機(jī)器學(xué)習(xí)發(fā)展的原動力

1. 從歷史數(shù)據(jù)中找出規(guī)律，把這些規(guī)律用到對未來自動作出決定。

2. 用數(shù)據(jù)代替expert

3. 經(jīng)濟(jì)驅(qū)動，數(shù)據(jù)變現(xiàn)

4. 
   

• 《概率論》《數(shù)據(jù)統(tǒng)計》是機(jī)器學(xué)習(xí)的基石

• 傳統(tǒng)的統(tǒng)計學(xué)，受運(yùn)算能力的限制，所以是用抽樣的方式， 抽取一定量的樣本然后進(jìn)行概率統(tǒng)計，然后得到結(jié)論之后進(jìn)行假設(shè)檢驗(yàn)
  

• 統(tǒng)計學(xué)受限于計算能力，依賴于采樣的方法，再反作用于原來的數(shù)據(jù)。步驟：抽樣-->描述統(tǒng)計-->結(jié)論-->假設(shè)檢驗(yàn)。

• 現(xiàn)在無需考慮數(shù)據(jù)量的問題，無需抽樣技術(shù)，直接全樣?？衫每梢暬夹g(shù)來觀察數(shù)據(jù)。要進(jìn)行數(shù)據(jù)分析，需要先進(jìn)行量化，用模型擬合規(guī)律，函數(shù)-->函數(shù)曲線-->擬合。高維度時很難用可視化的方法，只能用數(shù)學(xué)運(yùn)算。

• 什么是機(jī)器學(xué)習(xí)？

  • 利用計算機(jī)從歷史數(shù)據(jù)中找出規(guī)律，并把這些規(guī)律用到對未來不確定場景的決策?

• 判斷、決策
  主體的不同：計算機(jī)--機(jī)器學(xué)習(xí)、人--數(shù)據(jù)分析。

  • 數(shù)據(jù)分析是依靠人從歷史數(shù)據(jù)中找到規(guī)，學(xué)習(xí)效果很大程度以來于人的經(jīng)驗(yàn)與知識水平，

  • 機(jī)器學(xué)習(xí)就是想要拋棄對人的依賴，靠機(jī)器來挖掘規(guī)律。
    數(shù)據(jù)：機(jī)器學(xué)習(xí)只是解決問題的框架、算法，需要數(shù)據(jù)，數(shù)據(jù)量越大越準(zhǔn)確。
    規(guī)律：通過機(jī)器學(xué)習(xí)不同的算法去找規(guī)律，不同的算法結(jié)果不同。

  • 
    

    
    

一、 demo - 圖片按照色彩聚類

一、機(jī)器學(xué)習(xí)解決問題的框架

1. 訓(xùn)練模型

   1. 定義模型

   2. 定義損失函數(shù)

   3. 優(yōu)化算法

2. 模型評估

   1. 交叉驗(yàn)證

      1. 多個算法分別帶入同一類數(shù)據(jù)，驗(yàn)證效果
         

   2. 效果評估

      1. 評估多個算法間的差異
         

一、機(jī)器學(xué)習(xí)解決問題的框架

1. 聚類問題

2. 預(yù)測問題

二、各個算法共同的思想

1. 機(jī)器學(xué)習(xí) —— 確定目標(biāo)

   1. 業(yè)務(wù)需求

   2. 數(shù)據(jù)

   3. 特征工程（數(shù)據(jù)預(yù)處理）
      

      
      

一、機(jī)器學(xué)習(xí)算法

SVM：支持向量機(jī)

關(guān)聯(lián)分析： FP-Growth

AdaBoot:? 有監(jiān)督學(xué)習(xí)，人臉識別

二、常用算法

1. FP-Growth

2. 邏輯回歸

   1. 搜索結(jié)果的排序等

3. RF、GBDT

   1. 決策樹的改進(jìn)

4. 推薦算法

   1. 各個推薦系統(tǒng)的算法

5. LDA

   1. 自然語言處理算法

6. Word2Vetor

   1. 文本挖掘
      

7. HMM、CRF

   1. 文本挖掘
      

8. 深度學(xué)習(xí)

   1. 圖像識別等
      

一、機(jī)器學(xué)習(xí)算法分類

1. 有監(jiān)督學(xué)習(xí)

   1. 分類算法

   2. 回歸算法
      

2. 無監(jiān)督學(xué)習(xí)

   1. 聚類

3. 半監(jiān)督學(xué)習(xí)（強(qiáng)化學(xué)習(xí)）

4. 其他

   1. 標(biāo)注

   2. 生成模型（屬于各個類的概率）

   3. 判別模型 （分類）