引言一場生活、工作與思維的大變革大數(shù)據(jù)，開啟重大的時代轉(zhuǎn)型

大數(shù)據(jù)開啟了一次重大的時代轉(zhuǎn)型。與其他新技術一樣，大數(shù)據(jù)也必然要經(jīng)歷硅谷臭名昭著的技術成熟度曲線：經(jīng)過新聞媒體和學術會議的大肆宣傳之后，新技術趨勢一下子跌到谷底，許多數(shù)據(jù)創(chuàng)業(yè)公司變得岌岌可危。當然，不管是過熱期還是幻想破滅期，都非常不利于我們正確理解正在發(fā)生的變革的重要『性』。

就像望遠鏡能夠讓我們感受宇宙，顯微鏡能夠讓我們觀測微生物，這種能夠收集和分析海量數(shù)據(jù)的新技術將幫助我們更好地理解世界——這種理解世界的新方法我們現(xiàn)在才意識到。本書旨在如實表達出大數(shù)據(jù)的內(nèi)涵，而不會過分熱捧它。當然，真正的革命并不在于分析數(shù)據(jù)的機器，而在于數(shù)據(jù)本身和我們?nèi)绾芜\用數(shù)據(jù)。

2003年，人類第一次破譯人體 基因密碼的時候，辛苦工作了十年才完成了三十億對堿基對的排序。大約十年之后，世界范圍內(nèi)的基因儀每15分鐘就可以完成同樣的工作。在金融領域，美國股市每天的成交 量高達70億股。而其中三分之二的交 易都是由建立在算法公式上的計算機程序完成的。這些程序運用海量數(shù)據(jù)來預測利益和降低風險。

互聯(lián)網(wǎng)公司更是要被數(shù)據(jù)淹沒了。谷歌公司每天要處理超過24拍（等于2的50次方）字節(jié)的數(shù)據(jù)，這意味著其每天的數(shù)據(jù)處理量是美國國家圖書館所有紙質(zhì)出版物所含數(shù)據(jù)量的上千倍。facebook這個創(chuàng)立時間不足十年的公司，每天更新的照片量超過1000萬張，每天人們在網(wǎng)站上點擊“喜歡”（like）按鈕或者寫評論次數(shù)大約有三十億次，這就為facebook公司挖掘用戶喜好提供了大量的數(shù)據(jù)線索。與此同時，谷歌子公司youtube每月接待多達8億的訪客，平均每一秒鐘就會有一段長度在一小時以上的視頻上傳。twitter上的信息量幾乎每年翻一倍，截至2012年，每天都會發(fā)布超過4億條微博。

從科學研究到醫(yī)療保險，從銀行業(yè)到互聯(lián)網(wǎng)，各個不同的領域都在講述著一個類似的故事，那就是爆發(fā)式增長的數(shù)據(jù)量。這種增長超過了我們創(chuàng)造機器的速度，甚至超過了我們的想象。

我們周圍到底有多少數(shù)據(jù)？增長的速度有多快？許多人試圖測量出一個確切的數(shù)字。盡管測量的對象和方法有所不同，但他們都獲得了不同程度的成功。南加利福尼亞大學安嫩伯格通信學院的馬丁·希爾伯特（martinhilbert）進行了一個比較全面的研究，他試圖得出人類所創(chuàng)造、存儲和傳播的一切信息的確切數(shù)目。他的研究范圍不僅包括書籍、圖畫、電子郵件、照片、音樂、視頻（模擬和數(shù)字），還包括電子游戲、電話、汽車導航和信件。馬丁·希爾伯特還以收視率和收聽率為基礎，對電視、電臺這些廣播媒體進行了研究。

有趣的是，在2007年，只有7%是存儲在報紙、書籍、圖片等媒介上的模擬數(shù)據(jù)，其余全部是數(shù)字數(shù)據(jù)。但在不久之前，情況卻完全不是這樣的。雖然1960年就有了“信息時代”和“數(shù)字村鎮(zhèn)”的概念，但實際上，這些概念仍然是相當新穎的。甚至在2000年的時候，數(shù)字存儲信息仍只占全球數(shù)據(jù)量的四分之一；當時，另外四分之三的信息都存儲在報紙、膠片、黑膠唱片和盒式磁帶這類媒介上。

早期數(shù)字信息的數(shù)量是不多的。對于長期在網(wǎng)上沖浪和購書的人來說，那只是一個微小的部分。事實上，在1986年的時候，世界上約40%的計算機技術都被運用在便攜計算機上，那時候，所有個人電腦的處理能力之和都沒有便攜計算機高。但是因為數(shù)字數(shù)據(jù)的快速增長，整個局勢很快就顛倒過來了。按照希爾伯特的說法，數(shù)字數(shù)據(jù)的數(shù)量每三年多就會翻一倍。相反，模擬數(shù)據(jù)的數(shù)量則基本上沒有增加。

事情真的在快速發(fā)展。人類存儲信息量的增長速度比世界經(jīng)濟的增長速度快4倍，而計算機數(shù)據(jù)處理能力的增長速度則比世界經(jīng)濟的增長速度快9倍。難怪人們會抱怨信息過量，因為每個人都受到了這種極速發(fā)展的沖擊。

把眼光放遠一點，我們可以把時下的信息洪流與1439年前后古登堡發(fā)明印刷機時造成的信息爆炸相對比。歷史學家伊麗莎白·愛森斯坦（elizabetheisenstein）發(fā)現(xiàn)，1453—1503年，這50年之間大約有800萬本書籍被印刷，比1200年之前君士坦丁堡建立以來整個歐洲所有的手抄書還要多。換言之，歐洲的信息存儲量花了50年才增長了一倍（當時的歐洲還占據(jù)了世界上大部分的信息存儲份額），而如今大約每三年就能增長一倍。

這種增長意味著什么呢？彼特·諾維格（peternorvig）是谷歌的人工智能專家，也曾任職于美國宇航局噴氣推進實驗室，他喜歡把這種增長與圖畫進行類比。首先，他要我們想想來自法國拉斯科洞『穴』壁畫上的標志『性』的馬。這些畫可以追溯到一萬七千年之前的舊石器時代。然后，再想想一張馬的照片，想想畢加索的畫也可以，看起來和那些洞『穴』壁畫沒有多大的差別。事實上，畢加索看到那些洞『穴』壁畫的時候就曾開玩笑說：“自那以后，我們就再也沒有創(chuàng)造出什么東西了。”

他的話既正確又不完全正確。你回想一下壁畫上的那匹馬。當時要畫一幅馬的畫需要花費很久的時間，而現(xiàn)在不需要那么久了。這就是一種改變，雖然改變的可能不是最核心的部分——畢竟這仍然是一幅馬的圖像。但是諾維格說，想象一下，現(xiàn)在我們能每秒鐘播放24幅不同形態(tài)的馬的圖片，這就是一種由量變導致的質(zhì)變：一部電影 與一幅靜態(tài)的畫有本質(zhì)上的區(qū)別！大數(shù)據(jù)也一樣，量變導致質(zhì)變。物理學和生物學都告訴我們，當我們改變規(guī)模時，事物的狀態(tài)有時也會發(fā)生改變。

我們就以納米技術來為例。納米技術就是讓一切變小而不是變大。其原理就是當事物到達分子的級別時，它的物理『性』質(zhì)就會發(fā)生改變。一旦你知道這些新的『性』質(zhì)，你就可以用同樣的原料來做以前無法做的事情。銅本來是用來導電的物質(zhì)，但它一旦到達納米級別就不能在磁場中導電了。銀離子具有抗菌『性』，但當它以分子形式存在的時候，這種『性』質(zhì)會消失。一旦到達納米級別，金屬可以變得柔軟，陶土可以具有彈『性』。同樣，當我們增加所利用的數(shù)據(jù)量時，我們就可以做很多在小數(shù)據(jù)量的基礎上無法完成的事情。

有時候，我們認為約束我們生活的那些限制，對于世間萬物都有著同樣的約束力。事實上，盡管規(guī)律相同，但是我們能夠感受到的約束，很可能只對我們這樣尺度的事物起作用。對于人類來說，唯一一個最重要的物理定律便是萬有引力定律。這個定律無時無刻不在控制著我們。但對于細小的昆蟲來說，重力是無關緊要的。對它們而言，物理宇宙中有效的約束是地表張力，這個張力可以讓它們在水上自由 行走而不會掉下去。但人類對于地表張力毫不在意。

對于萬有引力產(chǎn)生的約束效果而言，生物體的大小是非常重要的。類似地，對于信息而言，規(guī)模也是非常重要的。谷歌能夠幾近完美地給出和基于大量真實病例信息所得到的流感情況一致的結果，而且?guī)缀跏菍崟r的，比疾控中心快多了。同樣，farecast可以預測機票價格的波動，從而讓消費者真正在經(jīng)濟上獲利。它們之所以如此給力，都因為存在供其分析的數(shù)千億計的數(shù)據(jù)項。

盡管我們?nèi)蕴幱诖髷?shù)據(jù)時代來臨的前夕，但我們的日常生活已經(jīng)離不開它了。垃圾郵件過濾器可以自動過濾垃圾郵件，盡管它并不知道“發(fā)#票#銷#售”是“發(fā)票銷售”的一種變體。交 友網(wǎng)站根據(jù)個人的『性』格與之前成功配對的情侶之間的關聯(lián)來進行新的配對。具有“自動改正”功能的智能手機通過分析我們以前的輸入，將個『性』化的新單詞添加到手機詞典里。然而，對于這些數(shù)據(jù)的利用還僅僅只是一個開始。從可以自動轉(zhuǎn)彎和剎車的汽車，到ibm沃特森超級電腦在游戲節(jié)目《危險邊緣》（jeopardy）中打敗人類來看，這項技術終將會改變我們所居住的星球的許多東西。