大數據三個重要的技術問題

大數據三個重要的技術問題

工程師日記 2013-08-25 00:15

編者按:本文來自石勇,他是中國科學院虛擬經濟與數據科學研究中心常務副主任、中國科學院大學管理學院副院長;中國科學院“百人計劃”獲得者;第一位也是截至目前唯一一位獲得多目標決策領域國際最高學術獎項“康托學術獎”的大陸學者。

當今,大數據的到來,已經成為現實生活中無法逃避的挑戰。

每當我們要做出決策的時候,大數據就無處不在。

大數據術語廣泛地出現也使得人們漸漸明白了它的重要性。

大數據漸漸向人們展現了它為學術、工業和政府帶來的巨大機遇。

與此同時,大數據也向參與的各方提出了巨大的挑戰,首先是三個重要的技術問題:

一、如何利用信息技術等手段處理非結構化和半結構化數據

大數據中,結構化數據只佔15% 左右,其餘的85% 都是非結構化的數據,它們大量存在於社交網絡、互聯網和電子商務等領域。

另一方面,也許有90% 的數據來自開源數據,其餘的被存儲在數據庫中。

大數據的不確定性表現在高維、多變和強隨機性等方面。

股票交易數據流是不確定性大數據的一個典型例子。

大數據刺激了大量研究問題。

非結構化和半結構化數據的個體表現、一般性特徵和基本原理尚不清晰,這些都需要通過包括數學、經濟學、社會學、計算機科學和管理科學在內的多學科交叉來研究和討論。

給定一種半結構化或非結構化數據,比如圖像,如何把它轉化成多維數據表、面向對象的數據模型或者直接基於圖像的數據模型?值得注意的是,大數據每一種表示形式都僅呈現數據本身的側面表現,並非全貌。

如果把通過數據挖掘提取“粗糙知識”的過程稱為“一次挖掘”過程,那麼將粗糙知識與被量化後主觀知識,包括具體的經驗、常識、本能、情境知識和用戶偏好,相結合而產生“智能知識”過程就叫做“二次挖掘”。

從“一次挖掘”到“二次挖掘”類似事物“量”到“質”的飛躍。

由於大數據所具有的半結構化和非結構化特點,基於大數據的數據挖掘所產生的結構化的“粗糙知識”(潛在模式)也伴有一些新的特徵。

這些結構化的粗糙知識可以被主觀知識加工處理並轉化,生成半結構化和非結構化的智能知識。

尋求“智能知識”反映了大數據研究的核心價值。

二、如何探索大數據複雜性、不確定性特徵描述的刻畫方法及大數據的系統建模

這一問題的突破是實現大數據知識發現的前提和關鍵。

從長遠角度來看,依照大數據的個體複雜性和隨機性所帶來的挑戰將促使大數據數學結構的形成,從而導致大數據統一理論的完備。

從短期而言,學術界鼓勵發展一種一般性的結構化數據和半結構化、非結構化數據之間的轉化原則,以支持大數據的交叉工業應用。

管理科學,尤其是基於最優化的理論將在發展大數據知識發現的一般性方法和規律性中發揮重要的作用。

大數據的複雜形式導致許多對“粗糙知識”的度量和評估相關的研究問題。

已知的最優化、數據包絡分析、期望理論、管理科學中的效用理論可以被應用​​到研究如何將主觀知識融合到數據挖掘產生的粗糙知識的“二次挖掘”過程中。

這里人機交互將起到至關重要的作用。

三、數據異構性與決策異構性的關係對大數據知識發現與管理決策的影響

由於大數據本身的複雜性,這一問題無疑是一個重要的科研課題,對傳統的數據挖掘理論和技術提出了新的挑戰。

在大數據環境下,管理決策面臨著兩個“異構性”問題:“數據異構性”和“決策異構性”。

傳統的管理決定模式取決於對業務知識的學習和日益積累的實踐經驗,而管理決策又是以數據分析為基礎的。

大數據已經改變了傳統的管理決策結構的模式。

研究大數據對管理決策結構的影響會成為一個公開的科研問題。

除此之外,決策結構的變化要求人們去探討如何為支持更高層次的決策而去做​​“二次挖掘”。

無論大數據帶來了哪種數據異構性,大數據中的“粗糙知識”仍可被看作“一次挖掘”的範疇。

通過尋找“二次挖掘”產生的“智能知識”來作為數據異構性和決策異構性之間的橋樑是十分必要的。

探索大數據環境下決策結構是如何被改變的,相當於研究如何將決策者的主觀知識參與到決策的過程中。

大數據是一種具有隱藏法則的人造自然,尋找大數據的科學模式將帶來對研究大數據之美的一般性方法的探究,儘管這樣的探索十分困難,但是如果我們找到了將非結構化、半結構化數據轉化成結構化數據的方法,已知的數據​​挖掘方法將成為大數據挖掘的工具。

以上是我對大數據的三個重要技術問題進行研究的一些心得,也僅僅是一個研究大數據挑戰的起點。

除此之外,還有一些數據科學的問題,包括在獲得數據和從數據中產生規則方面可能存在的公理體系,基於數據庫的知識發現規則與基於開放數據源的知識發現規則以及大數據挖掘的整體和(或)局部解的存在性問題等等。

在不久的將來,我相信這些問題都需要去仔細研究,以獲得突破性科研與應用成果。

掃描下面二維碼關注微信公眾賬號“大數據學院”,另36 ​​氪正聯合中科院虛擬經濟與數據科學研究中心開展大數據系列培訓,第一期主題為關注大數據在互聯網中的應用,感興趣的朋友可以點擊這裡了解詳情

熱門文章
王柏傑、謝欣穎爆分手!修杰楷脫口「群組對話」 下秒尷尬吐:完蛋了
王柏傑、謝欣穎爆分手!修杰楷脫口「群組對話」 下秒尷尬吐:完蛋了

CTWANT

星巴克APP「隱藏優惠」!店員也不知買1送1 網嗨:喝到年底
星巴克APP「隱藏優惠」!店員也不知買1送1 網嗨:喝到年底

TVBS新聞網

小六生打老師被報警…律師抖關鍵「家長道歉假的」 9大懶人包曝光
小六生打老師被報警…律師抖關鍵「家長道歉假的」 9大懶人包曝光

CTWANT

陸生宋思瑤一句「中國台北」遭陸委會行政處分 蕭旭岑:她自責落淚
陸生宋思瑤一句「中國台北」遭陸委會行政處分 蕭旭岑:她自責落淚

上報Up Media

王陽明PO與林昱珉合影 稱「不拿球棒的頂級89」激怒網
王陽明PO與林昱珉合影 稱「不拿球棒的頂級89」激怒網

今大條新聞網

桃園台61線嚴重追撞車禍!小貨車遭夾爛成鐵球 釀3死1傷
桃園台61線嚴重追撞車禍!小貨車遭夾爛成鐵球 釀3死1傷

中天新聞

南韓、台灣接連震撼彈!命理師示警「火逆正要開始」:殺傷力強大
南韓、台灣接連震撼彈!命理師示警「火逆正要開始」:殺傷力強大

TVBS新聞網

台中「師生棒打衝突」風向逆轉 同校師透露家長連發5狠招
台中「師生棒打衝突」風向逆轉 同校師透露家長連發5狠招

中天新聞

史上最大!警破「台南溫室大麻園 」70個籃球場大市值10億
史上最大!警破「台南溫室大麻園 」70個籃球場大市值10億

品觀點傳媒

瓊瑤去世/友人曝她曾沉迷打小蜜蜂 平鑫濤得知機台擺滿住家各角落
瓊瑤去世/友人曝她曾沉迷打小蜜蜂 平鑫濤得知機台擺滿住家各角落

CTWANT

小六生飆罵三字經揮棒打老師! 同校教師還原事發經過:學生看到警察才肯道歉
小六生飆罵三字經揮棒打老師! 同校教師還原事發經過:學生看到警察才肯道歉

CTWANT

瓊瑤去世/與尪聯手打造「瓊瑤經濟」 估賺進上億美元…幕後推手大揭密
瓊瑤去世/與尪聯手打造「瓊瑤經濟」 估賺進上億美元…幕後推手大揭密

CTWANT

生吃或熟食經常攝取「這食物」 醫師:降低血壓、減少發炎、抗氧化能力!
生吃或熟食經常攝取「這食物」 醫師:降低血壓、減少發炎、抗氧化能力!

TVBS新聞網

陳致遠夫婦投資港式餐廳被開除!他遭爆「打假卡」 員工證實:夫妻倆已離開
陳致遠夫婦投資港式餐廳被開除!他遭爆「打假卡」 員工證實:夫妻倆已離開

CTWANT

今晚起雨區擴大! 下周急凍「恐跌破10度」
今晚起雨區擴大! 下周急凍「恐跌破10度」

中天新聞

2隻聖誕襪掛門口…台中單親媽為7歲兒請假1周 警破門驚見「雙屍飄惡臭」
2隻聖誕襪掛門口…台中單親媽為7歲兒請假1周 警破門驚見「雙屍飄惡臭」

CTWANT

幸運兒是你?「加油發票」爽中1000萬 獎落2縣市
幸運兒是你?「加油發票」爽中1000萬 獎落2縣市

TVBS新聞網

到校接女兒「被警衛冷回擋在外」!旁邊家長白眼以對 小S急道歉
到校接女兒「被警衛冷回擋在外」!旁邊家長白眼以對 小S急道歉

CTWANT

76
0
分享