search
尋找貓咪~QQ 地點 桃園市桃園區 Taoyuan , Taoyuan

大數據產業發展的國際經驗

發展大數據產業需要拓展國際視野,借鑒國際經驗, 他山之石,可以攻玉。

2012 年被認為是大數據元年。在這一年,美國歐巴馬政府推出了《大數據研究和發展計劃》,啟動了美國國家大數據戰略;用戶日誌管理公司 Splunk 成功上市,成為大數據第一股。在隨後的幾 年中,大數據風潮席捲全球,技術、資本、人才趨 之若鶩,大數據產業出現了一波脈衝式的發展。從全球經驗來看,企業是大數據應用創新的主要力量,政府為大數據產業發展提供了巨大支撐,開源社區則為大數據技術進步營造了廣闊空間。但是,與此 同時,鼓勵數據價值發現之「魚」和保護個人隱私之「熊掌」兩者不可兼得的法規矛盾變得越來越突出。

經濟層面

創造價值是大數據應用創新的源動力

利用大數據資源和技術創造更多價值,成為企業 開展大數據應用創新的源動力。圍繞既有的資源稟賦和競爭優勢,企業進行著各種大數據產業創新,探索 出大數據背景下適合企業自身發展的路徑。

一方面,傳統IT硬體廠商積極向大數據基礎設 施和大數據技術平台服務提供商轉型。根據美國專 業分析機構Wikibon發布的報告,IBM公司2013年從大數據相關產品及服務中獲得了13.68 億美元收益。其具體產品包括伺服器與存儲硬體、資料庫軟體、 分析應用程序以及相關服務,還有 DB2、Informix、 InfoSphere 資料庫平台,Cognos 與 SPSS 等大數據 分析應用類產品。惠普公司在2013年獲得的大數據營業收入總值為8.69億美元,它還提供與之相關 的硬體、軟體以及服務,其中最為知名的方案當數 Vertica 分析平台。

另一方面,諸多新型互聯網企業成為數據資源的集聚方,通過創新形成大量的數據產品服務於各類應 用場景。比如,eBay公司用數據驅動商業,其所有的 數據產品都是針對業務而生,數據部門需要對不斷變 化的用戶需求找到解決之法,也就是從客戶的行為數據中尋找更多新價值。eBay公司針對賣家工具提供的 Seller Hub,可以對每一位賣家進行深入分析,使賣家了解哪些商品更暢銷,產品如何標價才能具備競爭 優勢等。再比如,Salesforce公司是一家專註於CRM

(用戶關係管理)的公司,通過對用戶數據分析挖掘 形成新的價值,是大數據在精準營銷領域的典型應用。 Salesforce公司在2015年的營業收入超過50億美元。

據大數據行業分析師估計,到2020年,Salesforce公司有望成為一家市值達 1000 億美元的公司。

技術層面

開源社區是大數據技術進步的大生態

開源模式成為大數據技術創新的主要途徑。從大數據技術的發展歷程上可以看出,大數據核心技術如分散式存儲、雲端分散式及網格計算均依賴於開源模式,即通過開放式的平台,吸引全球開發者通過開源社區進行代碼的開發、維護和完善,從而集全球智慧推動大數據技術的不斷進步。當前,全球各大企業 加大了對開源社區的贊助和智力投入,開源社區在大 數據技術進步中佔據核心地位。

一方面,由第三方打造的大數據技術開源平台 發揮了積極作用。Apache 軟體基金會(ASF)是推動大數據技術發展的全球頂級開源社區。ASF 正式創建 於 1999 年,至今已經成功孵化了眾多大數據相關的 開源項目。ASF 大數據開源社區的創建過程是全球 大數據技術公司的集體智慧。其中,Apache Hadoop 技術的發展就是非常典型的例子。谷歌公司在 2003 年發布的關於谷歌文件系統(Google GFS)的論文 和 2004 年發布的關於編程模型 MapReduce 的論文是 Hadoop 的技術雛形。2005 年, 雅虎公司啟動了 Nutch 項目,提供了一個專門的團隊和資源將 Hadoop 發展成一個可在網路上運行的系統。到 2008 年 1 月, Hadoop 已成為 Apache 的頂級項目,並成為大數據發展的技術標準。

另一方面,大數據領先企業也在圍繞自身生態 打造技術開源社區。這些企業通過開源項目的方式推動技術創新,並將創新成果通過開源方式向全社會輻 射,引導和推動大數據技術的發展,在國際上逐漸形成了一套高效運轉的研發產業化體系。開源提供了一 種高效生產軟體的方法,降低了企業進入大數據應用服務市場的壁壘,催生更多技術和服務應用的創新。 比如,Facebook 公司於 2013 年 11 月開源了 Presto 技術,該技術是新型分散式 SQL 引擎,它能夠對各 種大小(從 GB 級至 PB 級)的數據源進行互動式的 分析查詢。2015 年,Presto 社區的代碼提交數量提 高了 48%, 而 fork 的數量則提高了 99%。Airbnb、 Dropbox、Netflix 等各大公司都開始使用 Presto 作 為互動式查詢引擎。

Presto 在全球範圍內的接受度也在逐步提高,包括來自日本的社交媒體遊戲開發公司 Gree,以及來自的電子商務公司京東都在使 用該技術。

政策層面

政府戰略是推動大數據產業發展的重要保障

完善的政策是當前大數據先行國家推廣大數據應用的重要保障。在政府大數據戰略部署和政策推動下,發達國家的政府部門、企業、高校及研究機構都開始 積極探索大數據的應用。美國政府和歐盟成員國家都對大數據發展持積極態度,但具體策略有所不同。

美國的大數據戰略重在「以點帶面」,通過公布重要部門的大數據項目規劃,扶持重要領域的大數據技術研發,帶動其他部門和社會各界對大數據技術的研發投入和推廣應用。2009 年,美國國家科學技術委員會(NSTC)發布了《開發數字數據的威力》報告, 初步提出了發展大數據的框架、建議和目標。2012 年 3 月,歐巴馬政府宣布啟動《大數據研究和發展計劃》,投入 2 億美元進行大數據相關技術的研發。2013 年 5 月,歐巴馬政府發布行政命令,加大政府 數據開放力度,以便更加有效地利用寶貴的公共數據 資源。2014 年 5 月,白宮行政辦公室與總統科技顧 問委員會(PGAST)聯合發布報告《大數據:抓住機遇, 保護價值》,從政策角度分析了大數據技術的發展對社會帶來的巨大影響。2016 年 5 月,白宮又發布了《聯邦大數據研發戰略計劃》報告,在已有基礎上提出美國下一步的大數據發展戰略。通過一系列的政策措施,美國大數據戰略形成了跨部門協同工作的機制。具體工作由 NSTC下設的「網路與信息技術研發計劃」(NTTRD)分委員會負責,並專門設立跨部門高級別 協調工作組,參與部門多達 15 個,2016 年的工作預 算達到近 3 億美元。

歐盟則強調政府「鋪路打基礎」的作用,突出政府在人才培養、基礎設施建設、資金扶持、項目規劃、合作環境搭建中的基礎保障作用。2012年9月,歐盟進一步公布了《釋放歐洲雲計算服務潛力》戰略方案,並向歐盟委員會和歐洲議會提交了《雲計算髮展戰略及三大關鍵行動》建議。該戰略計劃通過兩年時間,把歐盟打造成雲計算服務的領先經濟體,為 2014—2020年歐盟「雲起飛」創造基礎,讓大數據技術革命滲透到經濟社會的各個領域。到 2020 年,大數據技術為歐盟創造的GDP將達到9570 億歐元, 增加就業人數 380 萬。2015 年以來,歐盟力推的《數據價值鏈戰略計劃》旨在用大數據改造傳統治理模式,大幅降低公共部門成本,並促進經濟和就業增長。這一計劃的重點是培育一個連貫的歐洲數據生態系統,促進圍繞數據的研究和創新工作,採用數據服務 及產品,採取具體行動,改善數據價值提取的框架條件,包括基礎能力、基礎設備、標準以及有利的政策 和法規環境。目前,歐盟正在制定一系列重點行動計劃,解決數據價值鏈中與價值創造相關的大量交叉 問題。數據價值鏈戰略計劃包括開放數據、雲計算、高性能計算和科學知識開放獲取四大戰略。

法規層面

隱私保護是大數據產業發展的難掩之傷

當前,各國對大數據產業創新給予支持的同時, 未能形成明確的監管法律來確定個人隱私在大數據時代的法律邊界,這造成了大數據行業發展的法律 監管「灰色地帶」。一方面,以數據驅動的經濟發展模式是各國所嚮往的新經濟形態,鼓勵數據開放是 「魚」;另一方面,數據價值挖掘背後是對個人隱私權不同程度的侵犯,呼籲保護隱私是「熊掌」。但是, 「魚」和「熊掌」不可兼得。因此,我們經常看到,各國政府在制定和實施隱私保護法規的時候,往往會 出現時緊時松、左右搖擺的現象。

美國是非常尊重個人隱私的國家,最早提出隱 私權概念,同時也是世界上互聯網路技術最為發達的國家,大力倡導網路信息自由。1966 年頒布的《信息自由法案》要求充分實現信息公開和開放,讓公民 有足夠的知情權;1986 年通過的處理網路隱私權保 護問題的重要法案《聯邦電子通訊隱私權法案》強調對個人隱私的保護。多種法律法規對行為主體的適用性會出現不一致的情況,所以美國政府砸保護網路隱私方面更偏重於採用行業自律的模式。在「9 11」事件之後,尤其是「稜鏡門」事件之後,美國政府加強了對網路信息的管控,直到大數據產業興起,網路數據管控才有所放鬆。隨著以數據驅動的新經濟模式的發展,個人數據隱私被侵犯的問題變得越來越嚴重。歐巴馬政府時期,聯邦通信委員會(FCC)頒布了《網路用戶個人隱私保護法案》,不允許網路服務提供商(ISP)在未經用戶同意的情況下買賣用戶的個人數據信息。但是,2017 年 3 月 28 日,美國眾議院票決宣布廢除《網路用戶個人隱私保護法案》。這標誌著美國互聯網政策將發生急劇變化,政策搖擺現象展現得淋漓盡致。不過,也有人將此解讀為商業巨頭的博弈,因為此次聯合決議授權 ISP 進入原來由谷歌公司 和 Facebook 公司佔據主導地位的在線廣告市場。

歐盟在隱私保護方面更為保守,傾向於制定和 執行較為嚴格的隱私保護法規。 歐盟 1995 年通過了《數據保護指令》,為歐盟成員國立法保護個人 數據設立了最低標準。其後,2002 年頒布的《隱私與電子通信指令》要求網站告知用戶啟用 Cookie 及如何刪除或作廢 Cookie。2009 年頒布 的《歐洲 Cookie 指令》則要求網站在用戶初始使用時必須關閉 Cookie,直到用戶明確同意啟用 Cookie 時才能 開啟此功能。2015 年 12 月,歐盟執委會(European Commission)通過了《一般數據保護條例》(GDPR),以歐盟法規的形式確定了對個人數據的保護原則和 監管方式。值得一提的是,《一般數據保護條例》還 提出了「被遺忘權」(Right to Be Forgotten), 即個人可以要求搜索引擎從包含「不相關」或者「過 期」個人信息的結果里移除鏈接。這種法律拘束性判決現在不僅是歐盟法律的一部分,還延伸到覆蓋各種 類型的個人數據。比如,個人可以要求 Facebook 公司刪除個人賬戶以及所有自己的活動相關的數據。

縱觀全球大數據產業,當前尚處於初級階段。 對於大數據產業來說,政府的戰略支持和企業創新能力都已經具備,但還沒有形成成熟的大數據技術 開源社區。此外,為了保障大數據產業的有序規範發展,相應的法律法規也是必不可少的。



熱門推薦

本文由 yidianzixun 提供 原文連結

寵物協尋 相信 終究能找到回家的路
寫了7763篇文章,獲得2次喜歡
留言回覆
回覆
精彩推薦