大數(shù)據(jù)分析應(yīng)用研發(fā)
標(biāo)簽:
大數(shù)據(jù)
1. 迁移数据到大数据平台的方式
数据库数据:Sqoop、kettle、Datax
文本的迁移:scp、ftp、flume
流数据:kafka、flume
需注意:
- 数据格式,属性含异常字符,不同数据库的类型。
- 增量数据如何导入的管理。
- 数据如何更新,更新操作是在导入时候实现,还是后续etl过程实现。
目前实践经验,数据导入sqoop效率最高,datax效率其次取决于所在服务器的性能,kettle具备完整流程管理的机制。
2. 大数据平台能做什么
主要涉及Spark、Mapreduce、Hive、Tensorflow 、Spark mlib 、HBase、 AarangoDB和JanusGraph。
3. 数据分析结果获取
数据结果的快速呈现,主要通过多维数据分析Greenplum,Apache Kylin,ElasticSearch,HBase,Oracle,Mysql实现。
4. 数据分析结果可视化
商务BI软件、ECarts、D3.js
5. 对外提供数据服务、智能化服务
微服务架构,服务上线,服务发布,服务开放等。
點(diǎn)擊查看更多內(nèi)容
為 TA 點(diǎn)贊
評(píng)論
評(píng)論
共同學(xué)習(xí),寫(xiě)下你的評(píng)論
評(píng)論加載中...
作者其他優(yōu)質(zhì)文章
正在加載中
感謝您的支持,我會(huì)繼續(xù)努力的~
掃碼打賞,你說(shuō)多少就多少
贊賞金額會(huì)直接到老師賬戶(hù)
支付方式
打開(kāi)微信掃一掃,即可進(jìn)行掃碼打賞哦
今天注冊(cè)有機(jī)會(huì)得
100積分直接送
付費(fèi)專(zhuān)欄免費(fèi)學(xué)
大額優(yōu)惠券免費(fèi)領(lǐng)