物聯(lián)網(wǎng)是一個(gè)很寬泛的概念,是指各種設(shè)備、機(jī)器都通過互聯(lián)網(wǎng)連接起來,車聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)等都屬于物聯(lián)網(wǎng)范疇。聯(lián)網(wǎng)的設(shè)備在2019年已經(jīng)超過142億,預(yù)計(jì)2021年將達(dá)到250億,這是一個(gè)巨大的數(shù)量。毫無疑問,我們需要一個(gè)物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)來處理這些聯(lián)網(wǎng)設(shè)備產(chǎn)生的海量數(shù)據(jù)。1.必須是高效的分布式系統(tǒng)。物聯(lián)網(wǎng)產(chǎn)生的數(shù)據(jù)量巨大,*中國而言,就有5億多臺(tái)智能電表,每臺(tái)電表每隔15分鐘采集一次數(shù)據(jù),***全國智能電表就會(huì)產(chǎn)生500多億條記錄。這么大的數(shù)據(jù)量,任何一臺(tái)服務(wù)器都無能力處理,因此處理系統(tǒng)必須是分布式的,水平擴(kuò)展的。為降低成本,一個(gè)節(jié)點(diǎn)的處理性能必須是高效的,需要支持?jǐn)?shù)據(jù)的快速寫入和快速查詢。比如智能電表,如果系統(tǒng)出問題,直接導(dǎo)致的是千家萬戶無法正常用電。杭州消防物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)有哪些
實(shí)時(shí)處理必須是實(shí)時(shí)處理的系統(tǒng)?;ヂ?lián)網(wǎng)大數(shù)據(jù)處理,大家所熟悉的場(chǎng)景是用戶畫像、推薦系統(tǒng)、輿情分析等等,這些場(chǎng)景并不需要什么實(shí)時(shí)性,批處理即可。但是對(duì)于物聯(lián)網(wǎng)場(chǎng)景,需要基于采集的數(shù)據(jù)做實(shí)時(shí)預(yù)警、決策,延時(shí)要控制在秒級(jí)以內(nèi)。如果計(jì)算沒有實(shí)時(shí)性,物聯(lián)網(wǎng)的商業(yè)價(jià)值就大打折扣。3.高可靠性需要運(yùn)營商級(jí)別的高可靠服務(wù)。物聯(lián)網(wǎng)系統(tǒng)對(duì)接的往往是生產(chǎn)、經(jīng)營系統(tǒng),如果數(shù)據(jù)處理系統(tǒng)宕機(jī),直接導(dǎo)致停產(chǎn),產(chǎn)生經(jīng)濟(jì)有損失、導(dǎo)致對(duì)終端消費(fèi)者的服務(wù)無法正常提供。比如智能電表,如果系統(tǒng)出問題,直接導(dǎo)致的是千家萬戶無法正常用電。因此物聯(lián)網(wǎng)大數(shù)據(jù)系統(tǒng)必須是高可靠的,必須支持?jǐn)?shù)據(jù)實(shí)時(shí)備份,必須支持異地容災(zāi),必須支持軟件、硬件在線升級(jí),必須支持在線IDC機(jī)房遷移,否則服務(wù)一定有被中斷的可能。杭州消防物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)有哪些這些場(chǎng)景并不需要什么實(shí)時(shí)性,批處理即可。
在物聯(lián)網(wǎng)時(shí)代,數(shù)量龐大的“物”會(huì)產(chǎn)生PB級(jí)的海量數(shù)據(jù),傳統(tǒng)的數(shù)據(jù)處理服務(wù)的處理速度已無法跟上數(shù)據(jù)產(chǎn)生的速度。如果沒法及時(shí)分析與利用這龐大的物聯(lián)網(wǎng)設(shè)備數(shù)據(jù),就無法將數(shù)據(jù)的價(jià)值比較大化,大數(shù)據(jù)分析能力的建設(shè)對(duì)物聯(lián)網(wǎng)企業(yè)來說又成為了一個(gè)新的挑戰(zhàn)。針對(duì)這種情況,大數(shù)據(jù)處理服務(wù)應(yīng)運(yùn)而生。服務(wù)提供商提供大數(shù)據(jù)處理平臺(tái),為企業(yè)消除了大數(shù)據(jù)處理的效率問題和可靠性問題,讓企業(yè)能夠?qū)W⒂谖锫?lián)網(wǎng)數(shù)據(jù)的分析與利用。物聯(lián)網(wǎng)大數(shù)據(jù)根據(jù)數(shù)據(jù)類型的不同,分析方式也不同。實(shí)時(shí)數(shù)據(jù)有些數(shù)據(jù)的實(shí)時(shí)性很強(qiáng),如果沒有及時(shí)分析處理就會(huì)失去價(jià)值,甚至可能造成損失,我們稱之為實(shí)時(shí)數(shù)據(jù)。典型的實(shí)時(shí)數(shù)據(jù)包括設(shè)備位置信息、設(shè)備實(shí)時(shí)狀態(tài)等,應(yīng)用于實(shí)時(shí)監(jiān)控、實(shí)時(shí)告警等場(chǎng)景,例如,車輛實(shí)時(shí)上報(bào)位置數(shù)據(jù),實(shí)時(shí)分析后呈現(xiàn)到交通監(jiān)控中心的大屏上,交通**根據(jù)實(shí)時(shí)數(shù)據(jù)下達(dá)各種交通控制決策,如紅綠燈時(shí)間調(diào)整等。為了實(shí)現(xiàn)高實(shí)時(shí)性,我們可以采用實(shí)時(shí)流分析方案,從物聯(lián)網(wǎng)平臺(tái)對(duì)外的數(shù)據(jù)通道中實(shí)時(shí)提取流動(dòng)數(shù)據(jù),分析和處理之后再輸出至數(shù)據(jù)通道繼續(xù)流轉(zhuǎn),保證呈現(xiàn)的數(shù)據(jù)永遠(yuǎn)是**“新鮮”的。
近年來,我國密切關(guān)注農(nóng)業(yè)大數(shù)據(jù)的建立與發(fā)展。自2012年起,中國開始重點(diǎn)關(guān)注「智慧農(nóng)業(yè)」的發(fā)展并推出「精細(xì)農(nóng)業(yè)」技術(shù);2016年,《「十三五」全國農(nóng)業(yè)農(nóng)村信息發(fā)展規(guī)劃》指出,要加快推動(dòng)農(nóng)業(yè)農(nóng)村大數(shù)據(jù)發(fā)展,統(tǒng)籌推進(jìn)農(nóng)業(yè)農(nóng)村電子商務(wù)發(fā)展,創(chuàng)新流通方式,打造新業(yè)態(tài);2017年,***印發(fā)的《促進(jìn)大數(shù)據(jù)發(fā)展行動(dòng)綱要》中,明確要求推進(jìn)各地區(qū)、各行業(yè)、各領(lǐng)域涉農(nóng)數(shù)據(jù)資源的共享開放,加快農(nóng)業(yè)大數(shù)據(jù)關(guān)鍵技術(shù)研發(fā),推動(dòng)農(nóng)業(yè)資源要素?cái)?shù)據(jù)共享;2018年我國**又提出關(guān)于實(shí)施鄉(xiāng)村振興戰(zhàn)略的意見,其中提到要大力發(fā)展數(shù)字農(nóng)業(yè),實(shí)施智慧農(nóng)業(yè)農(nóng)林水利工程,推進(jìn)物聯(lián)網(wǎng)試驗(yàn)示范和遙感技術(shù)應(yīng)用;2019年,**一號(hào)文件提出要深入推進(jìn)「互聯(lián)網(wǎng)+農(nóng)業(yè)」,擴(kuò)大農(nóng)業(yè)物聯(lián)網(wǎng)示范應(yīng)用,推進(jìn)重要農(nóng)產(chǎn)品全產(chǎn)業(yè)鏈大數(shù)據(jù)建設(shè),加強(qiáng)國家數(shù)字農(nóng)業(yè)農(nóng)村系統(tǒng)建設(shè)。系統(tǒng)應(yīng)該提供訂閱功能,只要有新的數(shù)據(jù)更新,就應(yīng)該實(shí)時(shí)提醒應(yīng)用。
需要高效的緩存功能。絕大部分場(chǎng)景,都需要能快速獲取設(shè)備當(dāng)前狀態(tài)或其他信息,用以報(bào)警、大屏展示或其他。系統(tǒng)需要提供一高效機(jī)制,讓用戶可以獲取全部、或符合過濾條件的部分設(shè)備的***狀態(tài)。5.需要實(shí)時(shí)流式計(jì)算。各種實(shí)時(shí)預(yù)警或預(yù)測(cè)已經(jīng)不是簡單的基于某一個(gè)閾值進(jìn)行,而是需要通過將一個(gè)或多個(gè)設(shè)備產(chǎn)生的數(shù)據(jù)流進(jìn)行實(shí)時(shí)聚合計(jì)算,不只是基于一個(gè)時(shí)間點(diǎn)、而是基于一個(gè)時(shí)間窗口進(jìn)行計(jì)算。不僅如此,計(jì)算的需求也相當(dāng)復(fù)雜,因場(chǎng)景而異,應(yīng)容許用戶自定義函數(shù)進(jìn)行計(jì)算。6.需要支持?jǐn)?shù)據(jù)訂閱。與通用大數(shù)據(jù)平臺(tái)比較一致,同一組數(shù)據(jù)往往有很多應(yīng)用都需要,因此系統(tǒng)應(yīng)該提供訂閱功能,只要有新的數(shù)據(jù)更新,就應(yīng)該實(shí)時(shí)提醒應(yīng)用。而且這個(gè)訂閱也應(yīng)該是個(gè)性化的,容許應(yīng)用設(shè)置過濾條件,比如只訂閱某個(gè)物理量五分鐘的平均值。一個(gè)大的系統(tǒng),采集的數(shù)據(jù)種類繁多,而且除采集的原始數(shù)據(jù)外,還有大量的衍生數(shù)據(jù)。揚(yáng)州可視化物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)怎么用
便于私有化部署。因?yàn)楹芏嗥髽I(yè)出于安全以及各種因素的考慮,希望采用私有化部署。杭州消防物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)有哪些
5.需要實(shí)時(shí)流式計(jì)算。各種實(shí)時(shí)預(yù)警或預(yù)測(cè)已經(jīng)不是簡單的基于某一個(gè)閾值進(jìn)行,而是需要通過將一個(gè)或多個(gè)設(shè)備產(chǎn)生的數(shù)據(jù)流進(jìn)行實(shí)時(shí)聚合計(jì)算,不只是基于一個(gè)時(shí)間點(diǎn)、而是基于一個(gè)時(shí)間窗口進(jìn)行計(jì)算。不僅如此,計(jì)算的需求也相當(dāng)復(fù)雜,因場(chǎng)景而異,應(yīng)容許用戶自定義函數(shù)進(jìn)行計(jì)算。6.需要支持?jǐn)?shù)據(jù)訂閱。與通用大數(shù)據(jù)平臺(tái)比較一致,同一組數(shù)據(jù)往往有很多應(yīng)用都需要,因此系統(tǒng)應(yīng)該提供訂閱功能,只要有新的數(shù)據(jù)更新,就應(yīng)該實(shí)時(shí)提醒應(yīng)用。而且這個(gè)訂閱也應(yīng)該是個(gè)性化的,容許應(yīng)用設(shè)置過濾條件,比如只訂閱某個(gè)物理量五分鐘的平均值。7.實(shí)時(shí)數(shù)據(jù)和歷史數(shù)據(jù)的處理要合二為一。實(shí)時(shí)數(shù)據(jù)在緩存里,歷史數(shù)據(jù)在持久化存儲(chǔ)介質(zhì)里,而且可能依據(jù)時(shí)長,保留在不同存儲(chǔ)介質(zhì)里。系統(tǒng)應(yīng)該隱藏背后的存儲(chǔ),給用戶和應(yīng)用呈現(xiàn)的是同一個(gè)接口和界面。無論是訪問新采集的數(shù)據(jù)還是十年前的老數(shù)據(jù),除輸入的時(shí)間參數(shù)不同之外,其余應(yīng)該是一樣的。杭州消防物聯(lián)網(wǎng)大數(shù)據(jù)平臺(tái)有哪些