国产一级一区二区_segui88久久综合9999_97久久夜色精品国产_欧美色网一区二区

掃一掃
關注微信公眾號

談談阻礙數據建模的五大借口
2022-11-24   數據驅動智能

  隨著大數據和數據湖的發展,數據建模似乎瀕臨滅亡。數據湖的開發者留下了大量數據沼澤,所以建模活動還是必須的。那么為什么仍然存在關于數據建模的問題呢?當然有各種各樣的原因。有些問題至少已有30年歷史,而最近人們更加認為使用云數據平臺和分析數據架構的ELT方法所致。下面我們看看常見的阻礙數據建模的原因:


  1.缺乏興趣——企業真的不在乎

  盡管CIO和CEO宣傳“數據驅動”,但對于某些企業而言,數據的管理和利用并沒有放在主要日程上,至少在高層是這樣。這可能是可以理解的——并非每個企業都是“數據企業”;數據可能很重要,但僅在特定的獨立領域內使用。有些組織從事采購和銷售產品、提供法律顧問等行業,這并不是說他們不使用數據,而是,就目前而言即使使用Excel這種處理工具也滿足使用了。

  這可能發生在傳統的組織中,可能發生在行業領軍企業,也可能發生在技術初創企業中,在這些組織中,良好的數據是運營次要考慮因素。

  解決方案:除非組織遭受足夠多的數據相關痛苦,或者高級管理層選擇支持戰略性數據支持業務方法,否則數據建模以及治理和其他數據內容將主要在項目級別完成,以實現本地目標。

  2.缺乏“全局”——沒有全面的業務數據模型

  數據建模通常被視為支持運營和分析產品開發的詳細活動,從數據策略中刪除,并且僅作為詳細業務分析的一部分影響業務用戶。但是,如果沒有組織數據分布的高級地圖,公司如何“數據驅動”,或者業務領域如何就數據所有權和責任達成一致?CDO應該如何合理跨越多個應用程序或孤島的數據,每個應用程序或孤島都有相互獨立的目標,成為“客戶”的真正來源,或者了解特定數據流的原因?

  90年代的情況是龐大、詳細的3NF“企業數據模型”,通常會運行到100或1000個實體。有時,這是為特定行業“現成”購買的,但隨后需要在企業內部進行驗證和調整。毫不奇怪,這些做法通常會陷入困境,被更緊迫的業務優先事項所取代。

  解決方案:高級“業務數據建模”或“概念數據建模”的藝術已經存在超過15年。在經驗豐富的從業者手中,對于中型企業或部門,應該可以在1-3個月內制作出良好的初稿,包括與企業所有部門的適當互動。通常,這可以與針對更多高級管理人員和員工的數據素養練習一起完成。隨著從一個業務域更詳細的數據工作引發對概念或全新概念的差異化的需求,可以改進和擴展這樣的模型。

  從“頂層”開始數據建模本身就非常有用,這是組織數據處理方法的基礎。

  3.數據作為應用程序完成或事后的想法

  盡管許多應用程序產生并依賴于數據,但一直存在一種趨勢,尤其是程序開發中,忽視數據建模,而不是應用程序設計中首要事情。這尤其體現在兩個方面:

  a)使用第三方程序加速業務能力

  許多應用程序都有自己的數據模型,該模型存在于“要么接受要么放棄”的基礎上——您可以調整數據需求,以適應應用程序的數據模型。另一方面,其他應用程序積極鼓勵業務用戶進行本地定制,而不考慮數據模型是否真的有意義。

  更廣泛的集成問題可能會被擱置一旁,只要應用程序可以獲取或交換數據以滿足即時需求,也許是通過API。一些應用程序甚至積極阻止在其自身環境之外提取數據。

  解決方案:僅購買能夠提供清晰數據模型和/或用于分析目的的精心構建的提取/數據共享選項的應用程序。建議將這部分作為采購必要條件,而不僅僅是“是/否”的回答。

  b)內部應用程序開發人員將數據建模視為事后的想法

  這是企業內部的問題,開發人員通常在時間壓力下工作,向內部或外部用戶提供數據展示,這些用戶對數據的存儲方式沒有直接興趣。

  解決方案:數據建模師應該是任何應用程序團隊的核心部分。數據模型初稿通常應該是開始第一個真正的敏捷開發的先決條件。將產生的數據供下游使用,無論是出于操作目的還是分析目的,都應該是整體框架的一部分。這是數據驅動開發的最佳實踐,數據網格模式強烈建議這種做法。

  4.效率問題——建模只會減慢速度

  模型就是這樣——對現實世界的簡化。在進行數據建模的情況下,通常會捕獲一些隱式規則和關系,希望能夠適應企業管理其現實世界交互的方式。

  90年代的關系建模被認為太慢了,識別實體、關系和屬性的視圖通常被業務變化和新數據源所取代,并且在捕獲和傳輸在線事件時未能增加價值。隨著組織從生產純物理產品轉向更多數字產品,定期更改成為常態,建模被視為阻礙或與保持最新所需相沖突。

  解決方案:在在線應用程序中,半結構化“文檔模型”方法提供了事件封裝和可擴展模式的一定程度的靈活性。使用此類結構的最佳實踐隱含地承認3NF分析的原則。分析數據平臺轉而提供對JSON等格式的本地支持,并具有不同程度的承諾。

  在分析領域,DataVault方法通過歸納關鍵實體之間的關系、識別來源的多樣性和高變化概率以及構建歷史記錄來提供敏捷性。

  數據網格建議將大部分建模留給本地域——盡管它也提倡雙時態建模方法,并談到需要通用標準、一種新的建模方法,甚至一種語言來實現跨域的“可組合性”。

  最終,為用例或應用構建正確類型的模型是成功的最佳秘訣,無論是文檔、3NF、DataVault還是維度。雖然建模首先是一項邏輯活動,在底層數據平臺中支持一系列具有良好性能的數據建模方法可以顯著簡化邏輯到物理的映射。

  5.直接獲取數據——數據沼澤遺留問題

  雖然大數據運動是由互聯網生成的龐大數據驅動的,但它也是對復雜性和數據變化率問題的回應。隨著一些組織開始通過利用一切數據產生巨大收益,人們越來越不愿意丟棄任何數據。而且數據湖從業者認為,建模已經過時了。現在,當連接大型數據集或多表模型的數據很痛苦時,創建大量非規范化數據集的動力就非常強烈,通常會導致大量重復。對數據安全的忽視也進一步助長了這一趨勢。

  受此經驗的影響,基于云的“現代數據堆棧”中出現的兩個互補趨勢出現了一些阻力:“廉價”存儲和“轉換(ELT)模式”。

  許多云數據平臺參與者至少在某種程度上將存儲與計算分開。云對象存儲具有彈性且相對成本低。大量數據出于未知原因被保留,原始數據或建模不佳的數據被直接使用并且從未正確集成。雖然存儲很便宜,但不斷增長的數據量推高了按消費定價的計算,使平臺提供商有鼓勵客戶不要在乎數據建模。

  這筆費用不能完全回避——即使是廉價存儲的數據有時也應該被刪除,無論是為了減少混亂、降低濫用風險還是讓地球更輕盈。

  許多組織已經轉向分層數據建模方法,其中第一層采用“原始”數據,無論是直接匹配OLTP系統上的表格,還是未經提煉的JSONWeb和IoT日志。這種ELT模式并不新鮮,例如在Teradata等平臺上的數據倉庫模式和實施中很常見,已有十年或更長時間。理想的目標是原始層饋送到更多層,通常是反映某些規范模型(例如3NF或DataVault)的一致性層和針對最終用戶的表示或交付層(通常按維度建模)。

  將數據保存更長時間是有正當理由的——監管(證明你五年前所做的是合法的)、網絡安全(攻擊模式可以發展數月)、數據科學和長期分析(將原始數據轉化為新功能)、或者僅僅是利用直接的內置歷史從舊數據重構下游新產品的能力。與此相反的是隱私法規和違規風險,以及將半衰期短的數據保存太久的環境成本。最終,這又回到了數據所有權和“為什么”的問題上。

  解決方案:僅僅因為可以忽視,并不意味著應該這樣。具有可靠治理、良好的數據高級模型和可靠數據架構的組織可以受益于更便宜的存儲和易于使用的平臺支持的數據底座和轉換模式。不急于對數據進行詳細的過度建模并在其價值確定之前花費大量的計算周期和工程師時間進行轉換可能是有價值的。

  同樣,讓我們現實地看待數據的“半衰期”,尤其是原始數據——很少有法規要求保留超過7年的歷史,而ML模型則更少,除非著眼于長期的事件。您的數據平臺在捕獲依賴關系和訪問歷史記錄方面有多好?這有助于識別那些從未或很少使用的數據集,并避免因擔心下游后果而保留數據。

  總之…

  就像數據中的許多好東西一樣,良好的建模源于組織承諾、適當應用良好實踐和模式的技能、精心設計的流程以及設計師的優秀技能。在大多數數據平臺上,不進行建模是災難性的。

熱詞搜索:大數據 數據湖 數據建模

上一篇:數據流量和處理對環境有巨大影響
下一篇:最后一頁

分享到: 收藏
国产一级一区二区_segui88久久综合9999_97久久夜色精品国产_欧美色网一区二区
极品少妇xxxx精品少妇偷拍| 精品久久久久久无| 国产九色sp调教91| 欧洲日韩一区二区三区| 欧美久久久久久久久中文字幕| 欧美高清激情brazzers| 国产三级精品三级在线专区| 日韩av不卡在线观看| 欧美视频一区二区三区在线观看| 国产网站一区二区三区| 精彩视频一区二区三区| 日韩精品一区二区三区四区| 日韩精品久久理论片| 欧美另类高清zo欧美| 亚洲sss视频在线视频| 色偷偷88欧美精品久久久| 中文字幕成人网| 中文字幕一区二区三区不卡在线| 国产高清不卡二三区| 欧美电影免费观看高清完整版在 | 中文在线资源观看网站视频免费不卡 | 亚洲欧美另类小说视频| 波多野结衣视频一区| 国产精品福利影院| 日本久久电影网| 日日摸夜夜添夜夜添亚洲女人| 337p亚洲精品色噜噜噜| 蜜臀va亚洲va欧美va天堂| 日韩欧美久久一区| 国产九九视频一区二区三区| 国产精品日日摸夜夜摸av| 99久久精品免费看国产| 亚洲一区二区三区在线看| 欧美肥胖老妇做爰| 国产一区二区三区香蕉| 国产精品丝袜91| 欧美视频一区二区三区| 久久99在线观看| 日韩欧美区一区二| 成人激情视频网站| 午夜精品久久一牛影视| 精品国产一区二区三区久久影院| 高清在线成人网| 亚洲第一二三四区| 久久久不卡网国产精品二区| 99精品1区2区| 久久精品国内一区二区三区| 国产精品成人一区二区三区夜夜夜 | gogogo免费视频观看亚洲一| 亚洲www啪成人一区二区麻豆| 欧美大肚乱孕交hd孕妇| 99精品欧美一区二区三区综合在线| 午夜电影久久久| 中文字幕巨乱亚洲| 69久久夜色精品国产69蝌蚪网| 丁香另类激情小说| 美国十次综合导航| 一区二区三区在线观看动漫 | 玖玖九九国产精品| 亚洲精品成a人| 久久丝袜美腿综合| 717成人午夜免费福利电影| 国产91丝袜在线18| 久久精品国产精品亚洲精品| 亚洲美女视频在线观看| 国产亚洲一区二区在线观看| 欧美一级久久久久久久大片| 91视频xxxx| 9久草视频在线视频精品| 捆绑调教美女网站视频一区| 亚洲国产日韩精品| 一区在线播放视频| 国产精品污www在线观看| 日韩欧美高清一区| 欧美三级蜜桃2在线观看| 91麻豆免费看片| 99视频国产精品| 国产乱人伦偷精品视频不卡| 视频一区国产视频| 亚洲美女精品一区| 国产精品毛片a∨一区二区三区| 日韩欧美一级二级三级久久久| 欧美日韩在线免费视频| 91蝌蚪porny九色| 成人精品国产一区二区4080| 国产成人av电影免费在线观看| 激情成人综合网| 国内久久精品视频| 国产精品伊人色| 国产乱码一区二区三区| 午夜久久久久久电影| 亚洲国产一区二区a毛片| 亚洲五月六月丁香激情| 亚洲国产精品尤物yw在线观看| 亚洲国产日日夜夜| 三级欧美韩日大片在线看| 亚洲成a人v欧美综合天堂| 一区二区三区在线观看动漫| 亚洲精品久久久蜜桃| 亚洲综合成人网| 日韩精品一二三四| 久久精品99国产精品| 国产精品中文欧美| 不卡的av网站| 精品视频123区在线观看| 欧美一级日韩免费不卡| 精品国产免费久久| 日韩一区有码在线| 天堂成人国产精品一区| 精品一区二区三区视频| thepron国产精品| 欧美日韩成人在线| 精品国产成人在线影院| 国产精品欧美经典| 五月天一区二区三区| 久久国产精品色婷婷| 成人app网站| 欧美喷水一区二区| 久久久亚洲精品一区二区三区| 亚洲欧洲综合另类在线| 午夜精品久久久久| 国产91在线|亚洲| 欧美日韩二区三区| 欧美国产97人人爽人人喊| 亚洲综合在线电影| 国产在线精品不卡| 在线免费观看日本欧美| 精品国精品国产| 亚洲高清久久久| 国产高清一区日本| 日韩亚洲欧美成人一区| 亚洲欧洲日韩av| 国产一区不卡精品| 欧美日韩国产a| 日本一区二区电影| 男女性色大片免费观看一区二区| 国产成人精品综合在线观看| 91国产福利在线| 国产精品视频观看| 免费在线观看一区二区三区| 欧洲人成人精品| 亚洲欧洲三级电影| 老司机午夜精品99久久| 日本乱人伦aⅴ精品| 国产精品网曝门| 麻豆久久久久久| 欧美日韩亚洲国产综合| 中文成人综合网| 日韩精品三区四区| 在线观看成人小视频| 国产日韩三级在线| 久久av中文字幕片| 欧美日韩一区三区| 亚洲超碰97人人做人人爱| 国产成人免费av在线| 337p日本欧洲亚洲大胆精品| 麻豆精品新av中文字幕| 欧美午夜影院一区| 一区二区三区中文字幕电影| 波多野结衣亚洲一区| 久久久久久99精品| 老司机免费视频一区二区三区| 欧美色爱综合网| 亚洲日本成人在线观看| 92国产精品观看| 亚洲精品视频在线观看网站| 激情久久五月天| 久久免费视频一区| 九色综合国产一区二区三区| 欧美日韩国产综合一区二区| 亚洲成av人片观看| 欧美日韩国产乱码电影| 亚洲午夜视频在线观看| 在线视频观看一区| 亚洲午夜电影在线| 日韩一卡二卡三卡四卡| 国产精品影视在线观看| 久久久久久久精| 丰满少妇在线播放bd日韩电影| 久久亚洲精华国产精华液 | 欧美剧情电影在线观看完整版免费励志电影| ...av二区三区久久精品| 国产成人综合自拍| 国产精品视频一二三| 99re这里只有精品视频首页| 中文无字幕一区二区三区| 国产xxx精品视频大全| 国产精品全国免费观看高清| 成人午夜大片免费观看| 亚洲精品乱码久久久久久久久 | 亚洲国产一区二区视频| 91精品国产乱| 国产.欧美.日韩| 国产精品毛片久久久久久| 成人国产在线观看| 伊人色综合久久天天人手人婷| 日韩午夜激情视频| 成人亚洲精品久久久久软件| 一区二区成人在线观看| 91精品国产综合久久精品|