第七色在线视频,2021少妇久久久久久久久久,亚洲欧洲精品成人久久av18,亚洲国产精品特色大片观看完整版,孙宇晨将参加特朗普的晚宴

為了賬號安全,請及時(shí)綁定郵箱和手機(jī)立即綁定
已解決430363個(gè)問題,去搜搜看,總會(huì)有你想問的

請問PHP如何執(zhí)行大批量json數(shù)據(jù)

請問PHP如何執(zhí)行大批量json數(shù)據(jù)

大話西游666 2019-05-19 20:41:29
目前再做一個(gè)東西,需要使用PHP的curl功能,從一個(gè)json數(shù)據(jù)里面讀出數(shù)據(jù),然后循環(huán)到curl里面抓取數(shù)據(jù)。這個(gè)本身沒啥很簡單,但是目前的問題是json數(shù)據(jù)量太大了【十幾萬左右】,沒法一次性抓取數(shù)據(jù),每次手動(dòng)從大的json數(shù)據(jù)里面復(fù)制20-30個(gè),然后執(zhí)行curl,但是想想十幾萬的數(shù)據(jù)量,細(xì)思極恐。大概想法是能不能每次按順序讀取20個(gè)數(shù)據(jù),然后執(zhí)行,執(zhí)行第N遍停止,或者每次執(zhí)行前20個(gè)數(shù)據(jù),執(zhí)行完成之后刪除數(shù)據(jù)。json數(shù)據(jù)非常簡單,下面只是簡單舉例,實(shí)際上是英文的'11111','22222','33333','44444','55555','66666'……簡單說就是上面的json加入某個(gè)網(wǎng)址循環(huán)curl抓取,比如:http://xxoo.com/id/11111http://xxoo.com/id/22222http://xxoo.com/id/33333...因?yàn)槭翘摂M主機(jī),無法大批量的抓取,所以考慮每次抓取20-30個(gè),積少成多,把十幾萬的數(shù)據(jù)抓取完
查看完整描述

2 回答

?
慕容森

TA貢獻(xiàn)1853條經(jīng)驗(yàn) 獲得超18個(gè)贊

實(shí)際上JSON并不適合用來處理特別大量的數(shù)據(jù),因?yàn)樗蠛車?yán)格的數(shù)據(jù)結(jié)構(gòu)。所以第一步你應(yīng)該考慮是否可以不用JSON,就用CSV之類的文件結(jié)構(gòu)。
如果非要用JSON,那么可能只有自己寫解析器了,思路大體是讀若干字節(jié),然后解析出你要的內(nèi)容,如此反復(fù)。你必須忽略一些結(jié)構(gòu),因?yàn)镴SON要求只有一個(gè)根,所以最外層的結(jié)構(gòu)多半要忽略掉。然后根據(jù)你對文件結(jié)構(gòu)的預(yù)判,解析出你要的數(shù)據(jù)。
                            
查看完整回答
反對 回復(fù) 2019-05-19
?
繁花不似錦

TA貢獻(xiàn)1851條經(jīng)驗(yàn) 獲得超4個(gè)贊

這個(gè)本身沒啥很簡單,但是目前的問題是json數(shù)據(jù)量太大了【十幾萬左右】,沒法一次性抓取數(shù)據(jù),每次手動(dòng)從大的json數(shù)據(jù)里面復(fù)制20-30個(gè),然后執(zhí)行curl,但是想想十幾萬的數(shù)據(jù)量,細(xì)思極恐。
這里停一下,JSON數(shù)據(jù)量太大是每次執(zhí)行的數(shù)據(jù)量太大還是單次就這么大。另外不能一次性全抓大根本是什么?手動(dòng)?另外CURL可以并行執(zhí)行,好吧,其實(shí)我沒太懂說得是什么
                            
查看完整回答
反對 回復(fù) 2019-05-19
  • 2 回答
  • 0 關(guān)注
  • 373 瀏覽
慕課專欄
更多

添加回答

舉報(bào)

0/150
提交
取消
微信客服

購課補(bǔ)貼
聯(lián)系客服咨詢優(yōu)惠詳情

幫助反饋 APP下載

慕課網(wǎng)APP
您的移動(dòng)學(xué)習(xí)伙伴

公眾號

掃描二維碼
關(guān)注慕課網(wǎng)微信公眾號