IoT ANALYTICS挖掘好評價的大數據-巨匠電腦

1508261031320.jpg
CHU) 巨匠電腦分享用IoT ANALYTICS挖掘大數據
作者:Ben Lieberman 博士

擁有科羅拉多大學健康科學中心的生物物理學與遺傳學專業的博士學位。 Lieberman 博士現任 BioLogic Software Consulting 首席架構師,將其 15 年來 所累計的軟體架構和 IT 經驗應用於各個領域,包括電信、航空、電子商務、政府機構、 金融服務,以及生命科學。 Lieberman 博士以軟體發展方面的最佳實踐為基礎提供諮詢服務,並專門負責物件導向的架構和分散式運算,尤其是基於 Java* 的系統和分散式網站開發,以及基於 XML/XSLT、Perl 和 C++ 的用戶端伺服器系統。 Lieberman 博士為不 同類型的機構提供架構服務,包括 Comcast、Cricket、EchoStar、Jones Cyber Solutions、Blueprint Technologies、Trip Network Inc. 和 Cendant Corp;教育機構 ,比如杜克大學和科羅拉多大學;以及政府機構,比如美國勞工部、礦山安全與健康監察 局、美國國防部的 Military Health Service。 他還是一位知名的職業作家,出版過著作(The Art of Software Modeling, Benjamin A. Auerbach Publications, 2007), 並發表過多篇與軟體相關的論文,以及 IBM 公司技術簡報。

裝置的互連,帶來了一個全新的商機。對於個人而言大幅了增加對於周圍的環境事物的可控度。我們可以遠端遙控家裡、交通工具和辦公室,只需要用到一支智慧型手機 。

利用這些高程度的互連裝置,現在我們還可以收集到巨量的資料 「更加的具體真實」藉由內嵌著各式各樣傳感器的裝置提供多樣的訊息。這些傳感器例如:溫度傳感器、加速度傳感器和位置傳感器可以提供狀態的資料。但是這些資料僅是廣泛的資料數值,尚且缺乏強大的資料分析工具來處理訊息。這些泛用的數值資料可藉由英特爾的物聯網分析工具與建置在區域端的感應元件來匯集、整理與探勘大數據。

介紹

這些互連元件的需求成長是極具爆發性的。 可攜式產品的成長,網際網路的普及和強健的功能與親民的價格造就了從個人連結到終端裝置的方式富而多元的想像空間, 這些都是前所未見的機會。

10年以前誰可以預測到社群網路的蓬勃?同樣的,我們現在所處的世界,連結每百萬位元的資料量的花費大幅降低、無線通訊隨處可用,各種機器也可以相互連結。這就是物連網的世界。

收集與分析遍布各地的設置的感應器數據成為了物聯網發展過程中的一個顯著的成長點。設想一下,道路中内置溫度傳感器的數據收集。這些傳感器均通過有線或無線連接至當地的收集點,以供數據處理和匯集。

随後穩定的信息將傳給道路管理人員,他們負責決定何時何地部署開路、道路處理、封鎖施工,甚至暫時繞道。

現在,想像一下如何使用這些數據(以及幾年收集的豐富歷史數據)以建立關於路面溫度如何隨當地條件上下波動的預測模型。也許特定的橋會特別容易結冰;則這種情況的預警機制可以適時的提供適當的處置,從而減少橋上事故風險。

英特爾Galileo和Edison開發板經過專門的設計與建構,可為大眾提供這類傳感器數據收集的功能。各種各樣的傳感器可以將報告數據給物聯網集結成開發板,並對該數據進行暫時收集和進行預先處理。英特爾創建了物聯網分析網站(IoT Analytics)可連結英特爾Galileo和Edison驅動的傳感器網絡和匯集大量的時間序列數據作進一步分析。

傳感器類型與應用

今天,各種小型、經濟、功能強大的環境傳感器均可連接和集成至幾乎其他所有設備(見表1)。這些傳感器發送在定義的頻率測量(例如:秒)和精確度傳輸測量值。這種數據生成由固定時間點和各時間點的值所组成的時間序列。例如,考慮一個發射射頻識別(RFID)晶片嵌入在礦工的徽章。該晶片將關於工人的時間和位置數據的連續資料傳輸,使礦井安全管理人員確切地知道那裡的工人人數。這樣的數據,如果在一個煤礦事故中,可以直接反應出挽救生命的關鍵價值。


表1  傳感器的類別與例子

傳感器可以建置來傳送他們的測量值,一則是可以透過限定的物理連接(如一個 RS232 序列埠)或使用的幾種無線的方法,諸如通過藍芽連接。唯一的要求是該傳感器需要被設計用於該物理環境—溫度,衝擊,壓力,等等,而且該連接是相當安全的。

資料的收集與傳輸

傳感器數據如果不收集或傳輸至數據觀察與分析站,將不會產生生任何效用。這就是英特爾 Galileo 和Edison(圖1)和所述的物聯網分析網站的目的。這些開發板可通過有線(Arduino的連接)或通過無線(藍芽)的方式連接至各種輸入端,僅受物理端口數量的限制。多個板子可相互連接以匯集從傳感器端點的分佈式網絡的傳感器數據。


圖一, 英特爾 Edison 開發板

傳感器數據流可直接轉發至物聯網分析站,或者先由開發板直接進行預先處理(以消除雜散測量值或空白)。欲了解更多相關訊息,請查看英特爾Edison發展板總整理(請參見“更多訊息”一節中的連接)。

資料的處理與儲存

所收集的和預先處理的傳感器數據流現在可以在二次加工點直接收集,譬如物聯網分析站(圖2)。物聯網分析網站提供了一個工作區(請參見“更多信息”部分的連接,安裝說明和詳細信息)和一套工具,用於收集、視覺化、處理和示警傳感器的時間序列數據。用戶面板上就可以看到的設備的當前集合狀態、採取過去幾小時的觀測(測量),和已被觸發的所有用戶配置警報的運行審查。


圖二, 英特爾 物聯網分析工具

本文採用物聯網分析網站服務應用程序編程接口(API)來展示如何使用收集到的數據可以進行數據挖掘和分析訪問。這個例子說明,包括從收集到的物聯網分析網站數據直接分析一個示例應用程序。

時間序列特質

使用物聯網分析網站服務應用程式設計介面 (API) ,介紹如何訪問已收集的 資料以進行資料採擷與分析。 文章所列舉的示例包括說明如何在物聯網分析網站直接分析收集的資料的示例應用。

  • 定期收集間隔(時間性)。在規定的時間點收集測量值,例如秒,分,或幾天。
  • 連續資料值(空間性)。 一個接一個以連續的方式收集測量值;特定時間序列集中的測量值數量規定資料流程的“維度”。
  • 保真度(精確度)。 傳感器數值將報告給明確的測量值精確度(即儀錶誤差)。 請注意,分析值的精確度不會超過原始測量值的精確度 — 例如,如果測量值為 0.35,分析值的顯著性將不會超過兩個小數位。
  • 範圍(幅度)。傳感器值將具有由該物理傳感器本身施加的限制確定的預期範圍(即,-20和120華氏度之間的溫度傳感器)。

時間序列數據通常設置一個時間每個元件由一個時間 — 值對,如(t)的輸入法= 0.55秒或(v)ALUE=40.5oC.如果傳感器數據流的週期性為0.05秒,然後下一測量預計在t= 0.60秒,接著用t= 0.65秒等該集合可以被可視覺化成的二維曲線圖,以時間為縱軸(x軸)和報告的值作為橫軸(y軸軸)。使用的物聯網分析站的示例性繪圖為圖3中所示。


圖3, 取樣時間vs, 一氧化碳濃度

正如你在圖中看到,物聯網分析網站能夠以各種格式繪製時間序列數據,包括總結的時間段(分鐘,小時,日,週,月,年),作為一個線或面積,並用“縮放”,在特定的數據集的基礎數據的更詳細的檢視。

資料分析與模擬

時間序列分析科學有著悠久而豐富的歷史。有許多方法來處理原始數據的時間點和值表示,本文無法一一介紹。對於最近這些技術審查,連接到“更多信息”部分參考T-C Fu的文章。無論何種分析技術,但是以時間序列數據挖掘方法也有一些共同的特點。

原始時間序列資料的用處非常有限,比如目測檢查,無法進行下一步分析與建模。 僅管最近可根據最高限值設置警告(即一SIGMA方差統計),但有一種更為完善的方法來挖掘用於預測模型的資料。 在圖 3 的示例中,設想 CO2 汽車尾氣傳感器通過規定的時間週期以特定的頻率報告測量值。 如果這是可收集多個傳感器資料(比如引擎溫度和油耗)的大型資料集的一部分,你可以通過對比兩圖之間的差異尋找規律,以預測未來的汽車保養情況。

開發的分析模型的技術中,原始數據必須首先被修改或減少到一個可行的格式。多種技術已經開發了用於時間序列數據操作,但最常見的一種是所謂的Z 型正常化。這種技術的時間序列的原始值轉換為具有0的中值(平均值)為1.0的標準偏差的值。這種轉換就可以比較同一時間序列數據直接設置與另一組,大大簡化了算法的複雜度。關於這種轉換的限制是,該數據點都必須有一個正態概率分佈,這是在指定的範圍內的標準的“鐘形曲線”預期值。對於大多數傳感器採樣數據,該曲線已被發現是真實的,所以這是比較通用的方法。

基於“正常”的預測模型(即,一般控制)系統的行為,通常需要以檢測異常的系統行為。有幾種方法來創建這樣的模式:利用一套行之有效的測量基線(監督),將預期的系統行為(半監督)的數學或工程預言,或者只是對自己在不同的時間(無監督)比較傳感器數據點。在最後的情況下,選擇的時間段與另一相比,多半是使用滑動窗口,以檢查異常值(見“參考信息”)。

為了創建這些模型中,在應用算法或方法對從傳感器收集的數據流。常見的技術包括傅立葉變換(轉換的時間序列值,以出現頻率),動態時間扭曲(時間序列數據組的測量次數無關),和小波變換(分割時間序列數據轉換成越來越小的段)。一種相對較新的技術,被稱為符號近似(SAX),採用新穎的變換時間序列數據來定義的符號組,的技術如字母表,它允許使用多種模式匹配算法,包括那些信對DNA,RNA和蛋白質的生物序列分析(例如,生物信息學)開發。

當你選擇了一個分析方法,接下來的決定是如何檢測異常。傳統上,已經完成或者通過識別離群值(稱為,統計檢測)或通過計算一個“標稱”數據曲線和測得的序列之間的差異。這被稱為一個距離量度,並使用連續的數據點之間的歐幾里得或正方形差經常計算。這些值的集合提供兩曲線之間的差異的定量指示。如果名義和測量的時間序列相差大於一個給定的量,時間序列被判進一步調查。此外,模式匹配(和得分)算法生物信息學研究開發的可用於定量評價兩個(或更多個)的時間序列。

 

展示

本文最後一部分將探討如何通知相關方時間序列中所檢測到的異常。 物聯網分析網站可提供簡單但功能強大的示警機制,該機制基於一套規則。 如圖 4 所示,你可以針對適用於不同設備的感測器定義一組具體規則。 執行規則的條件可針對常見的情形進行評估 :

  • 基本條件。 感測器數值超出或低於設定的限值。
  • 基於時間的條件。 感測器數值超出或低於規定時間週期的限值。
  • 統計方差條件。 感測器方差(通過SIGMA的統計值所測 量)超過 2 或 3。
  • 感測器變化檢測(單個或多個)。 一台或多台感測器檢 測某種條件(比如啟動/鈍化事件)下的變化。


圖4  英特爾物聯網分析工具 — 異常示警規則

帳號啟動或者通過電子郵件註冊用戶就可以通知(使用帳戶建立時登記的地址),或者通過發送一個HTTP消息發送到指定的地址。

這些功能足以滿足那些需要傳感器分析大多數情況下,但下一篇文章將顯示,如果需要更深入的分析,那麼你可以使用物聯網分析網站服務器API來獲取傳感器的數據集,並進行額外的數據挖掘作業。

 

結論

價格經濟、敏感性出色的傳感器不斷激增,以及網路連接的日益普及為開發新的日常設備評估與控制方法奠定了堅實的基礎。 通過彙集傳感器測量值並採用一台簡單的分析規則,我們可以在出現潛在設備故障的情況下主動採取措施,或更加快速地回應不斷變化的環境狀況。 而且,通過使用中心聚合網站(比如英特爾物聯網分析網站),感測器數據可由更先進的資料採擷方法進行處理,從而有助於創建和使用預測行為模型。

巨匠電腦設計了程式/資料庫課程,教你程式設計、大數據分析與應用等等,快來巨匠電腦輕鬆學!

文章與圖片出處: http://www.inside.com.tw/2015/08/25/iot-analytics
想要學: 程式/資料庫課程

巨匠電腦評價

WebTalk-巨匠電腦好嗎、巨匠電腦評價

巨匠電腦評價實戰家: 認證輔導

手機APP設計-巨匠電腦評價技能

巨匠電腦教你 怎麼輕鬆管理部署 提升部屬對主管的評價

1508261023300.png
CHU) 巨匠電腦評價:管理輕鬆部署容易 巨匠電腦分享複合資安閘道

在硬體元件及軟體整合技術的進步下,整合式威脅管理(Unified Threat Management,UTM)設備已擺脫早期效能不彰的窘境,可同時提供防火牆、入侵防禦偵測、防毒掃描、郵件安全、網頁內容過濾等安全機制,以及無線網路、頻寬管理、流量分析側錄、VPN、負載平衡等眾多功能,成為適合中小企業及分支據點的全功能複合資安閘道器,能以最簡單便利的投資獲得最大程度的安全防護。

問世多年的UTM,之所以能博得企業用戶關愛的眼光,在於能夠在單一設備上提供多種資安防護模組,除可為公司省下大筆資安預算之外,也能夠簡化採購、部署及管理上麻煩,降低資安人員工作負擔與資安成本支出。對沒有資安人員編制的中小企業,亦可在系統整合商協助下快速完成建置後,再利用資安委外方式降低駭客入侵的機率。

硬體架構效能持續提升 日常抵擋傳統威脅主力

價位合理功能齊全 UTM扮演資安防護基石

雖然問世已久,資安人員最熟悉的UTM(Unified Threat Management,整合型威脅管理設備),仍然很受企業用戶歡迎,在銷售金額和出貨量方面,比2014年同期分別增長17.5%、16.2%,較整體資安設備的數字高出兩倍有餘,證明市場需求依然十分強勁。

合勤整合式資安閘道器 齊全產品線滿足各種需求

借重資安大廠頂尖技術 專注提供高效能整合

受限於全球銷售分布率,以及資安產品定位的關係,Gartner於2014年公佈的UTM魔術象限中,並沒有看到臺灣業者的品牌,但這並不代表國產UTM的功能欠佳。以過去專注外銷市場的合勤科技(ZyEXL)為例,便是因為在歐洲商業市場有相當不錯表現,才開始陸續耕耘臺灣、美國市場,同樣受到中小企業歡迎,也被譽為是CP值最高的選擇。

眾至UTM提供新世代防護機制 內建三大核心技術

縱深防禦、橫向整合 從雲端協助維護管理

耕耘UTM設備市場多年的眾至資訊,主要訴求協助中小企業在複雜資安威脅環境中,輕鬆建立最完整網路安全防護網,所以產品內建深層威脅防禦機制(如防火牆、入侵偵測、防毒、郵件安全)、惡意攻擊保護(Botnet、URL過濾)、整合機制(IPCam、NAS儲存、無線防護、無線AP)以及雲端維護管理機制(Eye Cloud),透過多項優異技術整合,協助企業共同防範已知與未知網路威脅。

新儲域專業代理Barracuda 完整提供資料安全保護

兼顧偵測速度及頻寬 滿足BYOD與APT防禦

在企業全面導入數位化的趨勢下,駭客發動攻擊目的早非炫耀技術,而是鎖定有經濟價值的機密資料,因此有愈來愈多資訊人員在添購儲存設備時,也必須同步規劃資料防護機制。因此,原本專注於資料儲存領域的新儲域科技,便在客戶要求下逐漸跨入資訊安全領域,並且在2015年2月正式成為Barracuda Networks的臺灣總代理商,可望提供臺灣企業用戶更完整的原廠技術支援與服務。

巨匠電腦設計了網路管理課程,教你PHP、MySQL等等,快來巨匠電腦輕鬆學!

文章與圖片出處: http://goo.gl/kWIZGa
想要學: 網路管理課程

 

https://www.youtube.com/watch?v=ygSrrURroMk

 

巨匠電腦評價王: 程式,資料庫

手機APP設計-巨匠電腦評價技能

巨匠電腦評價實戰家: 認證輔導

巨匠電腦評價

 

GIFs圖片 讓影片動起來-巨匠電腦評價

1508281104440.gif

拖著彩虹尾巴的「Nyan Cat 」為可口可樂在巴西的品牌「Kuat」所製作的動態GIFs圖檔。

CHU) 巨匠電腦評價 分享Facebook開放動態GIFs圖片
多年來由於 Facebook 創辦人 Mark Zuckerberg 認會動態圖片會干擾用戶的使用,因此 Facebook 一直以來都沒有考慮將動態閃爍顯示的 GIFs 檔納入動態消息的支援範圍。但是隨著近來 Facebook 影音的自動播放功能開啟,讓人開始迷惑,是否過去 Mark Zuckerberg 在意的動態干擾已經消失了呢?還是代表著新的影音時代來臨?

不論答案是什麼,隨著 Instagram 的短影片功能風行, Facebook 影音功能的加強,今年五月 Facebook 改變了以往的堅持,開放了動態 GIFs 圖片讓一般個人用戶能在動態消息上使用,這替 Facebook 開啟了更多元的呈現方式,也讓使用者有更多創意空間。 Continue reading

突破傳統資安 APT攻防戰開打-巨匠電腦評價

1508281043530.png
突破傳統資安 新APT攻防- 巨匠電腦評價

一般而言,APT攻擊大致上是由情報蒐集、突破防線、幕後操縱(C&C)、橫向移動、搜尋資產╱資料、資料外傳等不同攻擊階段所組成。APT攻擊之所以不易防禦,關鍵在於駭客組織同時採取惡意程式的攻擊手法,加上程式之間會相互掩護,所以能躲過傳統資安設備的偵測。

值得注意之處在於,上述六大階段並非僅進行單一次流程,而是各階段不斷重複循環進行,這代表資料外傳也不會只有一次,駭客組織會依照企業防禦機制決定通訊與橫向溝通的頻率。惡意程式找到企業內部的機密資料之後,會鎖定目標攻擊,並且進入一個維護階段,讓資安人員的因應措施完全無效,以便能夠持續竊取有用的資訊。如何有效識別並阻擋惡意程式的攻擊竊取行為,便成為APT防禦最重要的目標。

企業政府單位屢遭攻擊 資安成國安等級事件

強化APT防禦機制 確保機密資料安全

自從2012年底南韓政府組織被北韓駭客入侵,導致許多銀行、政府機關營運中斷的黑暗首爾事件之後,可以明顯感受到駭客組織發動的資安攻擊,已跨越過去僅鎖定商業組織的作法,亦逐漸將政府機構、基礎設施列為攻擊目標,企圖透過網軍滲透情報、破壞民生經濟甚至國家恐怖主義的手段,達成特定政治意圖。

Lastline提供雲端多租戶服務 軟體式建置並可擴大聯防

優先顧及小企業需求 全模擬沙箱偵測更精準

近兩年多家國際企業遭到APT攻擊,導致發生大量機密資料外洩的事件頻傳,美國連鎖百貨賣場Target的資訊長與執行長,甚至還因此下台負責。多數資訊長或資訊人員,心中應該都有想要建構完善防禦機制的念頭,只是要添購新型態防禦設備往往得付出極高成本,尤其市面上號稱能夠阻擋APT攻擊的設備,一台通常都得花費百萬以上,而且每年還得支付維護費用,才能取得最新防禦資訊,這對台灣中小企業不僅是天方夜譚的數字,也會讓許多中大型企業考慮再三。

揚棄傳統過濾比對方式 台灣威瑞特以速度決勝

深入分析程式行為 找出APT關連性

由於近來APT攻擊太過猖獗,所以主管台灣行政機關資訊安全的行政院國家資通安全會報技術服務中心,在「政府機關(構)資通安全責任等級分級作業規定」中,明訂A級機關除要建置APT防禦設備之外,也必須執行「安全性檢測」之網站弱點掃描與系統滲透測試,寄望降低惡意程式對行政機關帶來的威脅。只不過,多數相關服務業者認為APT攻擊太過複雜,僅靠遵循此規定其實並無法解除威脅,不過對於強化整體資安防護當然還是有幫助。

中止APT攻擊流程 Damballa從關鍵點切入

阻斷中繼站連線 直接破壞APT攻擊

回顧近幾年全球發生的幾起重大APT事件,多數人印象最深刻的案例,莫過於花費鉅資興建資安防禦系統,卻仍然遭到駭客組織入侵,至少遭竊4千萬筆客戶資料的Target。經過事後資安人員與外部資安顧問聯手調查發現,Target添購的APT防禦設備,確實有偵測到此次攻擊行為,但卻因為先前誤報事件過多,以致於讓資安人員疲於處理,最終給予駭客可趁之機。

巨匠電腦設計了網路管理課程,教你MySQL、PHP等等,快來巨匠電腦輕鬆學!

文章與圖片出處: http://goo.gl/yTlW6u
想要學: 網路管理課程

不誇張!最真實的巨匠電腦評價!巨匠電腦拯救了我的愛情

手機APP設計-巨匠電腦評價技能

網路管理-巨匠電腦評價

3D多媒體動畫評價補給站

巨匠電腦評價實戰家: 認證輔導

一級棒的視覺設計 時尚品牌幕後代筆者-巨匠電腦評價

1508280940200.jpg
CHU)
一級棒厲害視覺設計 巨匠電腦評價-分享時尚品牌幕後代筆者

常在想依賴眾多科技產品的我們,在未來最常寫的文字該不會只剩下自己的名字吧,位居數位時代中能得到一只手寫的信件,有多麼的可貴。關於此品牌及活動策劃者也了解到,想邀請自己在乎的賓客前來,比起一封封制式的電子邀請,收到一張可以拿在手上感受得到紙本重量的邀請函搭上手感的字跡,更讓人有備受禮遇的實在感。

法國時裝圈中,有個眾人皆知為各品牌寫出飛舞流暢文字的書法藝術家 (calligrapher) Nicolas Ouchenir ,每每在時裝周前夕,他的桌上總是堆滿等著他揮毫後寄出的邀請函,每季平均超過15,000封數量。熱愛寫字的他從未正式學習過任何英文書法字的訓練,但為品牌及藝廊代筆書寫已經超過十年,不走正規路線的他,從不刻意模仿任何字體,長年的累積經驗,讓他信手捻來就能創造出不同表情樣貌的字跡,為合作的客戶設計出專屬的字型來使用。

「小時候特別害怕去看醫生,漫長的看診過程,我把我所有的專注力都放在醫生寫病歷時的筆尖上,行經之處流竄出的墨水,看不太懂到底寫了什麼,但我特別喜歡這些飛舞的文字帶給我神秘具歷史感的樣子。」 Nicolas Ouchenir 在一次訪談中分享了幼年對於書寫嚮往的美好經歷。

以前未曾想過寫字能當成職業來經營的 Nicolas Ouchenir,青少年時期曾和朋友一起在巴黎街頭塗鴉,而真正與現在工作連結,是開始在藝廊工作時為買家親手寫邀請函的經歷,捨棄使用網路群組的寄信模式,傳統的信件反而得到很多正面迴響,漸漸許多朋友邀請他寫字,Nicolas Ouchenir 發現這是個獨具魅力的專業,寫出的這些文字同時吸引著大家的目光。

除了原有的書寫工作外,Nicolas Ouchenir 將筆桿的觸角延伸至更寬廣,不只藝術、時尚產業,建築、室內設計也都是他發展的範疇。從去年底開始,Nicolas Ouchenir 開始運用文字的筆觸、形體創造出一系列的名人肖像畫, 搭配上點、線的暈染,畫中的時尚圈名人唯妙唯俏,裡頭還藏著經典的名言佳句,融合古典的技巧利用當代的方式呈現,成功引起眾人用不同角度審視手寫文字的魅力。

巨匠電腦設計了視覺設計課程,教你跨界創意視覺設計、響應式網頁設計等等,快來巨匠電腦輕鬆學!

文章與圖片出處: http://www.damanwoo.com/node/86698
想要學: 視覺設計課程

不誇張!最真實的巨匠電腦評價!巨匠電腦拯救了我的愛情

手機APP設計-巨匠電腦評價技能

網路管理-巨匠電腦評價

3D多媒體動畫評價補給站

巨匠電腦評價實戰家: 認證輔導