目前再做一個(gè)東西,需要使用PHP的curl功能,從一個(gè)json數(shù)據(jù)里面讀出數(shù)據(jù),然后循環(huán)到curl里面抓取數(shù)據(jù)。這個(gè)本身沒啥很簡單,但是目前的問題是json數(shù)據(jù)量太大了【十幾萬左右】,沒法一次性抓取數(shù)據(jù),每次手動(dòng)從大的json數(shù)據(jù)里面復(fù)制20-30個(gè),然后執(zhí)行curl,但是想想十幾萬的數(shù)據(jù)量,細(xì)思極恐。大概想法是能不能每次按順序讀取20個(gè)數(shù)據(jù),然后執(zhí)行,執(zhí)行第N遍停止,或者每次執(zhí)行前20個(gè)數(shù)據(jù),執(zhí)行完成之后刪除數(shù)據(jù)。json數(shù)據(jù)非常簡單,下面只是簡單舉例,實(shí)際上是英文的'11111','22222','33333','44444','55555','66666'……簡單說就是上面的json加入某個(gè)網(wǎng)址循環(huán)curl抓取,比如:http://xxoo.com/id/11111http://xxoo.com/id/22222http://xxoo.com/id/33333...因?yàn)槭翘摂M主機(jī),無法大批量的抓取,所以考慮每次抓取20-30個(gè),積少成多,把十幾萬的數(shù)據(jù)抓取完
請問PHP如何執(zhí)行大批量json數(shù)據(jù)
大話西游666
2019-05-19 20:41:29