TA貢獻(xiàn)1860條經(jīng)驗(yàn) 獲得超9個(gè)贊
不是同一個(gè)概念，但它們之間有聯(lián)系：設(shè)平均響應(yīng)時(shí)間為t(單位為毫秒),并發(fā)量為c，每秒處理請求數(shù)為q，則：q=(1000/t)*c就是這個(gè)關(guān)系；想要升高q，就只有兩條路：1)降低t2)升高c對于'1',只能靠優(yōu)化代碼實(shí)現(xiàn)，只能盡量做，往往提升有限；對于'2',通常c與你服務(wù)器程序的請求處理模型有關(guān)，如果你服務(wù)器程序是“一個(gè)線程對應(yīng)一個(gè)請求”的模式，那么c的最大值就受制于你能支撐多少個(gè)線程；如果是“一個(gè)進(jìn)程對應(yīng)一個(gè)請求”的模式，那么c的最大值則受制于最大進(jìn)程數(shù)；在升高c的過程中，不得不注意的一點(diǎn)是，線程/進(jìn)程數(shù)越多，上下文切換、線程/進(jìn)程調(diào)度開銷會增大，這會顯著間接地增大t的值從而不能讓q跟著c的值等比升高,所以一味增大c通常也不會有好結(jié)果，最合適的c值應(yīng)該根據(jù)實(shí)測試驗(yàn)得出另外，還有一種特殊情況：若業(yè)務(wù)決定了該服務(wù)器提供的服務(wù)具有“小數(shù)據(jù)量、較長返回時(shí)間”的特征，即這是一個(gè)不忙、但很慢的業(yè)務(wù)類型，那么可以采用NIO模式提供服務(wù)，比如nginx默認(rèn)就采用nio模式；在這種模式下，c值不再與線程/進(jìn)程數(shù)相關(guān)，而僅僅與“socket連接數(shù)”相關(guān)，通?！皊ocket連接數(shù)”可以非常大，在經(jīng)過特殊配置的linux服務(wù)器上，可以同時(shí)支撐百萬級別的socket連接數(shù)，在這種情況下c可以達(dá)到100w;在如此高的c值之下，就算t再大，也可以支撐出一個(gè)很高的q，同時(shí)真正的線程/進(jìn)程數(shù)可以只開到跟cpu核數(shù)一致，以求最大化cpu利用率;當(dāng)然這一切的前提是該業(yè)務(wù)具有“小數(shù)據(jù)量、較長返回時(shí)間”的特征
舉報(bào)