與大數據有關的有趣故事
① 「揭秘」大數據的10個神話
「揭秘」大數據的10個神話
也許對大數據更好的一個類比是它就像一匹意氣風發的冠軍賽馬: 通過適當的訓練和天賦的騎師,良種賽馬可以創造馬場記錄–但沒有訓練和騎手,這個強大的動物根本連起跑門都進不了。
為了確保你組織的大數據計劃保持正軌,你需要消除以下10種常見的誤解。
1. 大數據就是『很多數據』
大數據從其核心來講,它描述了結構化或非結構化數據如何結合社交媒體分析,物聯網的數據和其他外部來源,來講述一個」更大的故事」。該故事可能是一個組織運營的宏觀描述,或者是無法用傳統的分析方法捕獲的大局觀。從情報收集的角度來看,其所涉及的數據的大小是微不足道的。
2.大數據必須非常干凈
在商業分析的世界裡,沒有「太快」之類的東西。相反,在IT世界裡,沒有「進垃圾,出金子」這樣的東西,你的數據有多干凈?一種方法是運行你的分析應用程序,它可以識別數據集中的弱點。一旦這些弱點得到解決,再次運行分析以突出 「清理過的」 區域。
3.所有人類分析人員會被機器演算法取代
數據科學家的建議並不總是被前線的業務經理們執行。行業高管Arijit Sengupta在 TechRepublic 的一篇文章中指出,這些建議往往比科學項目更難實施。然而,過分依賴機器學習演算法也同樣具有挑戰性。Sengupta說,機器演算法告訴你該怎麼做,但它們沒有解釋你為什麼要這么做。這使得很難將數據分析與公司戰略規劃的其餘部分結合起來。
預測演算法的范圍從相對簡單的線性演算法到更復雜的基於樹的演算法,最後是極其復雜的神經網路。
4.數據湖是必須的
據豐田研究所數據科學家JimAdler說,巨量存儲庫,一些IT經理們設想用它來存儲大量結構化和非結構化數據,根本就不存在。企業機構不會不加區分地將所有數據存放到一個共享池中。Adler說,這些數據是 「精心規劃」的,存儲於獨立的部門資料庫中,鼓勵」專注的專業知識」。這是實現合規和其他治理要求所需的透明度和問責制的唯一途徑。
5.演算法是萬無一失的預言家
不久前, 谷歌流感趨勢項目 被大肆炒作,聲稱比美國疾病控制中心和其他健康信息服務機構更快、更准確地預測流感疫情的發生地。正如《紐約客》的Michele Nijhuis 在 2017年6月3日的文章 中所寫的那樣, 人們認為與流感有關詞語的搜索會准確地預測疫情即將爆發的地區。事實上,簡單地繪制本地溫度是一個更准確的預測方法。
谷歌的流感預測演算法陷入了一個常見的大數據陷阱——它產生了無意義的相關性,比如將高中籃球比賽和流感爆發聯系起來,因為兩者都發生在冬季。當數據挖掘在一組海量數據上運行時,它更可能發現具有統計意義而非實際意義的信息之間的關系。一個例子是將緬因州的離婚率與美國人均人造黃油的消費量掛鉤:盡管沒有任何現實意義,但這兩個數字之間確實存在「統計上顯著」的關系。
6.你不能在虛擬化基礎架構上運行大數據應用
大約10年前,當」大數據」首次出現在人們眼前時,它就是Apache hadoop的代名詞。就像VMware的Justin Murray在 2017年5月12日的文章 中所寫的,大數據這一術語現在包括一系列技術,從NoSQL(MongoDB,Apache Cassandra)到Apache Spark。
此前,批評者們質疑Hadoop在虛擬機上的性能,但Murray指出,Hadoop在虛擬機上的性能與物理機相當,而且它能更有效地利用集群資源。Murray還炮轟了一種誤解,即認為虛擬機的基本特性需要存儲區域網路(SAN)。實際上,供應商們經常推薦直接連接存儲,這提供了更好的性能和更低的成本。
7.機器學習是人工智慧的同義詞
一個識別大量數據中模式的演算法和一個能夠根據數據模式得出邏輯結論的方法之間的差距更像是一個鴻溝。ITProPortal 的Vineet Jain在 2017年5月26日的文章 中寫道,機器學習使用統計解釋來生成預測模型。這是演算法背後的技術,它可以根據一個人過去的購買記錄來預測他可能購買什麼,或者根據他們的聽歌歷史來預測他們喜歡的音樂。
雖然這些演算法很聰明,但它們遠遠不能達到人工智慧的目的,即復制人類的決策過程。基於統計的預測缺乏人類的推理、判斷和想像力。從這個意義上說,機器學習可能被認為是真正AI的必要先導。即使是迄今為止最復雜的AI 系統,比如 IBM沃森 ,也無法提供人類數據科學家所提供的大數據的洞察力。
8.大多數大數據項目至少實現了一半的目標
IT經理們知道沒有數據分析項目是100%成功的。當這些項目涉及大數據時,成功率就會直線下降,NewVantagePartners最近的調查結果顯示了這一點。在過去的五年中,95%的企業領導人表示,他們的公司參與了一個大數據項目,但只有48.4%的項目取得了」可衡量的結果」。
NewVantage Partners的大數據執行調查顯示, 只有不到一半的大數據項目實現了目標,而 「文化」變化是最難實現的。
事實上,根據2016年10月發布的 Gartner的研究結果 ,大數據項目很少能跨過試驗階段。Gartner的調查發現,只有15%的大數據實現被部署到生產中,與去年調查報告的14%的成功率相對持平。
9.大數據的增長將減少對數據工程師的需求
如果你公司大數據計劃的目標是盡量減少對數據科學家的需求,你可能會得到令人不快的驚喜。 2017 Robert Half 技術薪資指南 指出, 數據工程師的年薪平均躍升到13萬美元和19.6萬美元之間, 而數據科學家的薪資目前平均在11.6萬美元和16.3萬美元之間, 而商業情報分析員的薪資目前平均在11.8萬美元到13.875萬美元之間。
10.員工和一線經理將張開雙臂擁抱大數據
NewVantagePartners的調查發現,85.5%的公司都致力於創造一個「數據驅動的文化」。然而,新的數據計劃的整體成功率僅為37.1%。這些公司最常提到的三個障礙是缺乏組織一致性(42.6%),缺乏中層管理人員的點贊和理解(41%),以及業務阻力或缺乏理解(41%)。
未來可能屬於大數據,但獲得這一技術的好處需要大量的針對多樣人性的辛勤工作。
② 有沒有什麼有趣的關於大數據時代的故事
你是要說大數據時代存在的大數據的典型的案例與應用吧??典型的就內是啤酒和尿布的例子容啊,為什麼啤酒和尿布在一起會促進銷量呢?尿布都是父親去買,看到啤酒自然就想犒勞一下自己了。就是這么個道理。檸檬學院大數據。
③ 生活中的大數據例子
1、洛杉磯警察局和加利福尼亞大學合作利用大數據預測犯罪的發生。
目前位於美國加利福尼亞州的PredPol公司在某種程度上把利用大數據預測犯罪變成了現實。
PredPol 推出的犯罪活動預測軟體主界面是一張城市地圖,看起來與谷歌地圖相似。它會根據某一地區過往的犯罪活動統計數據,藉助特殊演算法,計算出某地發生犯罪的概率、犯罪類型,以及最有可能犯罪的時間段。
它還可以用紅色方框表示需要提高警惕的犯罪「熱點」地區,警方可以通過個人電腦、手機或平板電腦對其進行在線查看。
犯罪預測軟體實際上是從地震預測軟體進化而來的,它能處理大量犯罪數據,尤其是犯罪地點和犯罪時間,然後再聯系已知的犯罪行為,比如竊賊通常傾向於在他們最熟悉的社區犯罪等,最終給出一個較為完善的結果。
每次運算結束後,犯罪預測軟體會給出一張畫出了紅色方框的地圖,這些紅色方框代表盜竊行為可能發生的「熱點」地區,有些時候這些區域能准確地縮小至很小的范圍。
警察局的上司會吩咐屬下,當他們沒在處理報警電話時,就應該花時間在這些高危區域中巡邏,最好是每兩小時巡邏至少15分鍾。這樣做的重點更在於通過在軟體畫出的高危區中高調巡邏而降低犯罪,而非等案子發生後破案。
2、google流感趨勢(Google Flu Trends)利用搜索關鍵詞預測禽流感的散布。
Google流感趨勢(Google Flu Trends,GFT)是Google於2008年推出的一款預測流感的產品。Google認為,某些搜索字詞有助於了解流感疫情。Google流感趨勢會根據匯總的Google搜索數據,近乎實時地對全球當前的流感疫情進行估測。
3、麻省理工學院利用手機定位數據和交通數據建立城市規劃。
目前手機移動網路實現了城鄉空間區域的全覆蓋,城鄉人口中手機終端的持有率和使用率已經達到相當高的比例,手機定位數據契合了城鄉人口空間分布與活動規律的分析需求。
根據手機信號在真實地理空間上的覆蓋情況,將手機用戶時間序列的移動信號數據,映射至現實的地理空間位置,即可完整、客觀地還原出手機用戶的現實活動軌跡,從而挖掘得到人口空間分布與活動聯系特徵信息。
4、梅西百貨的實時定價機制。根據需求和庫存的情況,該公司基於SAS的系統對多達7300萬種貨品進行實時調價。
(3)與大數據有關的有趣故事擴展閱讀
經李克強總理簽批,2015年9月,國務院印發《促進大數據發展行動綱要》(以下簡稱《綱要》),系統部署大數據發展工作。
《綱要》明確,推動大數據發展和應用,在未來5至10年打造精準治理、多方協作的社會治理新模式,建立運行平穩、安全高效的經濟運行新機制,構建以人為本、惠及全民的民生服務新體系,開啟大眾創業、萬眾創新的創新驅動新格局,培育高端智能、新興繁榮的產業發展新生態。
未來,數據科學將成為一門專門的學科,被越來越多的人所認知。各大高校將設立專門的數據科學類專業,也會催生一批與之相關的新的就業崗位。與此同時,基於數據這個基礎平台,也將建立起跨領域的數據共享平台,之後,數據共享將擴展到企業層面,並且成為未來產業的核心一環。
④ 在生活中,我們碰到過的大數據的例子
去餐廳吃飯 或者是去購物等 都是會利用到大數據的。
⑤ 大數據時代 「孟母三遷」的故事已OUT了
大數據時代 「孟母三遷」的故事已OUT了
「孟母三遷」的故事,相信很多人都知道,這是每個孩子在童年時代都聽過的故事,也是每位母親都熟悉的教子素材。
孟母擇鄰來自漢代劉向《列女傳·鄒孟軻母》:「鄒孟軻之母也,號孟母。其舍近墓,孟子之少也,嬉遊為墓間之事,踴躍築埋。孟母曰:『此非吾所以居處子。』乃去。舍市傍,其嬉戲為賈人炫賣之事。孟母又曰:『此非吾所以居處子也。』復徙舍學宮之傍。其嬉遊乃設俎豆揖讓進退。孟母曰:『真可以居吾子矣。』遂居之。及孟子長,學六藝,卒成大儒之名。」後來這個故事編入《三字經》:「昔孟母,擇鄰處。」以此贊賞聖人成長的道路——但稍懂得孔孟成長經歷的人都知道,孔子和孟子的經歷是差不多的,都是3歲喪父,母儀教誨。
從孟子的第一個居處來看,正是孔子在父親去世後居住的環境,當時,孔子的母親顏征在抱著年幼的他搬出孔門,移居貧賤者的聚居區「闕里」,這是個包括祭祀、腳夫等五行八作俱全的雜居之所。正是在這里,孔子學著大人祭天祭祖,「為兒嬉戲,常陳俎豆,設禮容」。孔子在母親教導下,努力學習做人與生活的本領,故孔子自述:「吾少也賤,故多能鄙事。」孔子也曾做過喪禮上為死者執紼吹打的吹鼓手,逐漸學會主持喪禮。先秦將執辦喪禮的司儀稱為儐相。儐相在《周禮》中稱為「胥」。「胥」又作「需」,「需」「儒」相通。正是這種環境滋生了孔子的少年理想,向著儒家學說勵志勤學。
再看孟母第二次搬家到鬧市區,孟子「嬉戲為賈人炫賣之事」。且莫說孟子並非商賈,即便是,與學習儒家經典也不是沖突的。子貢就是衛國商人,後來成為孔門賢人。往近的說,沈陽五愛市場是國際上出名的商業基地,但擇校到七中去的學生源源不斷,這似乎與孟母的主張相悖。
孟母最後安居之處,似乎重復著孔子的童年興趣,而與國子之學「禮壞樂崩」大相徑庭。
看來,孟子成才與孟母擇鄰似乎關系不大。而按照孟母擇鄰的邏輯,范仲淹應成為僧侶——他從小就在醴泉寺寄宿讀書。
話說回來,世異則事異,事異則備變。如今已是大數據時代,「雲」(網路)所引發的教育革命已悄然到來,鋒芒所向,直接針對工業文明時代的傳統教育。傳統學校映射的是機器批量生產模式:固定學制、班級、秧田式的課桌椅、統一的教材、按課表編排的教學進程、鈴聲、教師評語、考試選拔(淘汰)制。而如今的教育將強調個性化教育,使擇校得不償失。
——少把精力搭在路上,為了走更遠的路。
大數據背景下的學習解放了人們原有的天分,使原本處於基因狀態的學習能力,在雲計算的生境下生長出來。越來越少的課堂,越來越多的雲資源;越來越少的講授,越來越多的交互……雲教育資源極其豐富,學習可以在任何場合發生。通過對大數據技術的應用,將有利於個性化學習,標准化的學習內容由學習者自組織學習取而代之,學校和教育者更多是關注學習者個性化培養,教學由知識灌輸轉變為啟發助學。
——少在班級和年部攀比,為了登攀更高的山峰。
學習是由他組織到自組織的行為,但作為由學習決定的學校教育全然成為他組織行為,將學習者引向囧途。比爾·蓋茨曾預言,在21世紀,「我們可以在互聯網上找到質量最佳的授課內容,這些內容比任何單一的學校都要強。無論公眾接受的教育程度如何,都應對互聯網的各種資源加以利用。」
——少對學校有更多的依賴,為了對自己有更大的信心。
幾千年來,教育者試圖花費巨大的時間和精力所做的工作是:將提煉過的教師的思維邏輯或者書本的思維邏輯連同知識容量一起拷貝到學生的大腦中。這種標准化、規范化的教育,只能保證濡化,即代際的文化傳承,而丟棄了涵化,即橫向的交流。而在雲計算的今天,教育的真諦不是技術方法的教化,而是對學習者的支持與服務。而雲服務乃是學習的最大資源。
在當前的大數據時代下,「孟母三遷」的故事已經OUT了,這是因為,大數據正在推動教育向個性化、高層次方向發展,其全部奧秘只不過是學習、教學、教育、學生、教師、學校等概念的重構而已。就是說,當父母的要在大數據面前反思自己,將擇校變成擇教,穩妥地引領孩子多種能力和智慧的發展,這是家庭教育成功的關鍵。向孟母那種教育方式,已經不適合現代的孩子了。
⑥ 簡述身邊大數據成功案例並且用了哪些大數據的數據達到什麼效果
隨著大數據時代的到來,大數據早已被逐步的運用在我們生活中的方方面面,那麼除了之前眾所周知的大數據殺熟事件,對於大數據你還了解多少呢?科學運用案例你又知道多少?今天就跟隨千鋒小編一起來看看。
洛杉磯警察局和加利福尼亞大學合作利用大數據預測犯罪的發生。
google流感趨勢(Google Flu Trends)利用搜索關鍵詞預測禽流感的散布。
統計學家內特.西爾弗(Nate Silver)利用大數據預測2012美國選舉結果。
麻省理工學院利用手機定位數據和交通數據建立城市規劃。
梅西百貨的實時定價機制,根據需求和庫存的情況,該公司基於SAS的系統對多達7300萬種貨品進行實時調價。
……
種種的案例實在是太多,或許我們永遠說不完一樣,所以我們就來看一看大數據被科學運用的一個經典案例:
「啤酒與尿布」的故事產生於20世紀90年代的美國沃爾瑪超市中,沃爾瑪的超市管理人員分析銷售數據時發現了一個令人難於理解的現象:在某些特定的情況下,「啤酒」與「尿布」兩件看上去毫無關系的商品會經常出現在同一個購物籃中,這種獨特的銷售現象引起了管理人員的注意,經過後續調查發現,這種現象出現在年輕的父親身上。
如果這個年輕的父親在賣場只能買到兩件商品之一,則他很有可能會放棄購物而到另一家商店,直到可以一次同時買到啤酒與尿布為止。沃爾瑪發現了這一獨特的現象,開始在賣場嘗試將啤酒與尿布擺放在相同的區域,讓年輕的父親可以同時找到這兩件商品,並很快地完成購物;而沃爾瑪超市也可以讓這些客戶一次購買兩件商品、而不是一件,從而獲得了很好的商品銷售收入,這就是「啤酒與尿布」 故事的由來。
當然「啤酒與尿布」的故事必須具有技術方面的支持。1993年美國學者Agrawal提出通過分析購物籃中的商品集合,從而找出商品之間關聯關系的關聯演算法,並根據商品之間的關系,找出客戶的購買行為。艾格拉沃從數學及計算機演算法角度提 出了商品關聯關系的計算方法——Aprior演算法。沃爾瑪從上個世紀 90 年代嘗試將 Aprior 演算法引入到 POS機數據分析中,並獲得了成功,於是產生了「啤酒與尿布」的故事。
其實大數據,其影響除了以上列舉的方面外,它同時也能在經濟、政治、文化等方面產生深遠的影響,大數據可以幫助人們開啟循「數」管理的模式,也是我們當下「大社會」的集中體現,三分技術,七分數據,得數據者得天下。
⑦ 關於大數據應用有什麼例子
大數據應用實例:
1、關能源行業大數據應用
計算居民用電量。
2、職業籃球賽大數據應用
專業籃球隊會通過搜集大量數據來分析賽事情況,然而他們還在為這些數據的整理和實際意義而發愁。通過分析這些數據,找到對手的弱點。
3、保險行業大數據應用
集中處理所有的客戶信息。
⑧ 什麼是大數據,大數據的典型案例有哪些
隨著大數據時代的到來,大數據早已被逐步的運用在我們生活中的方方面面,那麼除了之前眾所周知的大數據殺熟事件,對於大數據你還了解多少呢?科學運用案例你又知道多少?今天就跟隨千鋒小編一起來看看。
洛杉磯警察局和加利福尼亞大學合作利用大數據預測犯罪的發生。
google流感趨勢(Google Flu Trends)利用搜索關鍵詞預測禽流感的散布。
統計學家內特.西爾弗(Nate Silver)利用大數據預測2012美國選舉結果。
麻省理工學院利用手機定位數據和交通數據建立城市規劃。
梅西百貨的實時定價機制,根據需求和庫存的情況,該公司基於SAS的系統對多達7300萬種貨品進行實時調價。
……
種種的案例實在是太多,或許我們永遠說不完一樣,所以我們就來看一看大數據被科學運用的一個經典案例:
「啤酒與尿布」的故事產生於20世紀90年代的美國沃爾瑪超市中,沃爾瑪的超市管理人員分析銷售數據時發現了一個令人難於理解的現象:在某些特定的情況下,「啤酒」與「尿布」兩件看上去毫無關系的商品會經常出現在同一個購物籃中,這種獨特的銷售現象引起了管理人員的注意,經過後續調查發現,這種現象出現在年輕的父親身上。
如果這個年輕的父親在賣場只能買到兩件商品之一,則他很有可能會放棄購物而到另一家商店,直到可以一次同時買到啤酒與尿布為止。沃爾瑪發現了這一獨特的現象,開始在賣場嘗試將啤酒與尿布擺放在相同的區域,讓年輕的父親可以同時找到這兩件商品,並很快地完成購物;而沃爾瑪超市也可以讓這些客戶一次購買兩件商品、而不是一件,從而獲得了很好的商品銷售收入,這就是「啤酒與尿布」 故事的由來。
當然「啤酒與尿布」的故事必須具有技術方面的支持。1993年美國學者Agrawal提出通過分析購物籃中的商品集合,從而找出商品之間關聯關系的關聯演算法,並根據商品之間的關系,找出客戶的購買行為。艾格拉沃從數學及計算機演算法角度提 出了商品關聯關系的計算方法——Aprior演算法。沃爾瑪從上個世紀 90 年代嘗試將 Aprior 演算法引入到 POS機數據分析中,並獲得了成功,於是產生了「啤酒與尿布」的故事。
其實大數據,其影響除了以上列舉的方面外,它同時也能在經濟、政治、文化等方面產生深遠的影響,大數據可以幫助人們開啟循「數」管理的模式,也是我們當下「大社會」的集中體現,三分技術,七分數據,得數據者得天下。
⑨ 大數據時代,幾個例子告訴你什麼叫大數據
例子:比如,阿里每天都在收集每一個淘寶用戶的各個方面的信息參考(千人千面內)。然後再用大數據演算法來推容薦給你現在需要的產品,或者廣告,這個就是大數據。我說的是最淺顯的一種大數據。 大數據就沒有隱私,手機里的APP都回收集你的一切的數據,一切的數據,這樣呢,你在淘寶上看了看一款手機,那麼當你關了淘寶,打開了今日頭條,你如果注意的話,你會發現,頭條今日推薦你的廣告就是手機,文章內容也會偏向手機之內的。這就是大數據。
所謂大數據無非就是一大堆數據。
- 只不過,這個數據有點大:
小的 1、2 G,多的上千、上萬 G
- 然後企業利用這些數據 + 程序 code,分析出自己想要的東西:
用戶行為
用戶習慣
怎麼才能從用戶身上賺到錢。