国产一级一区二区_segui88久久综合9999_97久久夜色精品国产_欧美色网一区二区

掃一掃
關注微信公眾號

談談阻礙數據建模的五大借口
2022-11-24   數據驅動智能

  隨著大數據和數據湖的發展,數據建模似乎瀕臨滅亡。數據湖的開發者留下了大量數據沼澤,所以建模活動還是必須的。那么為什么仍然存在關于數據建模的問題呢?當然有各種各樣的原因。有些問題至少已有30年歷史,而最近人們更加認為使用云數據平臺和分析數據架構的ELT方法所致。下面我們看看常見的阻礙數據建模的原因:


  1.缺乏興趣——企業真的不在乎

  盡管CIO和CEO宣傳“數據驅動”,但對于某些企業而言,數據的管理和利用并沒有放在主要日程上,至少在高層是這樣。這可能是可以理解的——并非每個企業都是“數據企業”;數據可能很重要,但僅在特定的獨立領域內使用。有些組織從事采購和銷售產品、提供法律顧問等行業,這并不是說他們不使用數據,而是,就目前而言即使使用Excel這種處理工具也滿足使用了。

  這可能發生在傳統的組織中,可能發生在行業領軍企業,也可能發生在技術初創企業中,在這些組織中,良好的數據是運營次要考慮因素。

  解決方案:除非組織遭受足夠多的數據相關痛苦,或者高級管理層選擇支持戰略性數據支持業務方法,否則數據建模以及治理和其他數據內容將主要在項目級別完成,以實現本地目標。

  2.缺乏“全局”——沒有全面的業務數據模型

  數據建模通常被視為支持運營和分析產品開發的詳細活動,從數據策略中刪除,并且僅作為詳細業務分析的一部分影響業務用戶。但是,如果沒有組織數據分布的高級地圖,公司如何“數據驅動”,或者業務領域如何就數據所有權和責任達成一致?CDO應該如何合理跨越多個應用程序或孤島的數據,每個應用程序或孤島都有相互獨立的目標,成為“客戶”的真正來源,或者了解特定數據流的原因?

  90年代的情況是龐大、詳細的3NF“企業數據模型”,通常會運行到100或1000個實體。有時,這是為特定行業“現成”購買的,但隨后需要在企業內部進行驗證和調整。毫不奇怪,這些做法通常會陷入困境,被更緊迫的業務優先事項所取代。

  解決方案:高級“業務數據建模”或“概念數據建模”的藝術已經存在超過15年。在經驗豐富的從業者手中,對于中型企業或部門,應該可以在1-3個月內制作出良好的初稿,包括與企業所有部門的適當互動。通常,這可以與針對更多高級管理人員和員工的數據素養練習一起完成。隨著從一個業務域更詳細的數據工作引發對概念或全新概念的差異化的需求,可以改進和擴展這樣的模型。

  從“頂層”開始數據建模本身就非常有用,這是組織數據處理方法的基礎。

  3.數據作為應用程序完成或事后的想法

  盡管許多應用程序產生并依賴于數據,但一直存在一種趨勢,尤其是程序開發中,忽視數據建模,而不是應用程序設計中首要事情。這尤其體現在兩個方面:

  a)使用第三方程序加速業務能力

  許多應用程序都有自己的數據模型,該模型存在于“要么接受要么放棄”的基礎上——您可以調整數據需求,以適應應用程序的數據模型。另一方面,其他應用程序積極鼓勵業務用戶進行本地定制,而不考慮數據模型是否真的有意義。

  更廣泛的集成問題可能會被擱置一旁,只要應用程序可以獲取或交換數據以滿足即時需求,也許是通過API。一些應用程序甚至積極阻止在其自身環境之外提取數據。

  解決方案:僅購買能夠提供清晰數據模型和/或用于分析目的的精心構建的提取/數據共享選項的應用程序。建議將這部分作為采購必要條件,而不僅僅是“是/否”的回答。

  b)內部應用程序開發人員將數據建模視為事后的想法

  這是企業內部的問題,開發人員通常在時間壓力下工作,向內部或外部用戶提供數據展示,這些用戶對數據的存儲方式沒有直接興趣。

  解決方案:數據建模師應該是任何應用程序團隊的核心部分。數據模型初稿通常應該是開始第一個真正的敏捷開發的先決條件。將產生的數據供下游使用,無論是出于操作目的還是分析目的,都應該是整體框架的一部分。這是數據驅動開發的最佳實踐,數據網格模式強烈建議這種做法。

  4.效率問題——建模只會減慢速度

  模型就是這樣——對現實世界的簡化。在進行數據建模的情況下,通常會捕獲一些隱式規則和關系,希望能夠適應企業管理其現實世界交互的方式。

  90年代的關系建模被認為太慢了,識別實體、關系和屬性的視圖通常被業務變化和新數據源所取代,并且在捕獲和傳輸在線事件時未能增加價值。隨著組織從生產純物理產品轉向更多數字產品,定期更改成為常態,建模被視為阻礙或與保持最新所需相沖突。

  解決方案:在在線應用程序中,半結構化“文檔模型”方法提供了事件封裝和可擴展模式的一定程度的靈活性。使用此類結構的最佳實踐隱含地承認3NF分析的原則。分析數據平臺轉而提供對JSON等格式的本地支持,并具有不同程度的承諾。

  在分析領域,DataVault方法通過歸納關鍵實體之間的關系、識別來源的多樣性和高變化概率以及構建歷史記錄來提供敏捷性。

  數據網格建議將大部分建模留給本地域——盡管它也提倡雙時態建模方法,并談到需要通用標準、一種新的建模方法,甚至一種語言來實現跨域的“可組合性”。

  最終,為用例或應用構建正確類型的模型是成功的最佳秘訣,無論是文檔、3NF、DataVault還是維度。雖然建模首先是一項邏輯活動,在底層數據平臺中支持一系列具有良好性能的數據建模方法可以顯著簡化邏輯到物理的映射。

  5.直接獲取數據——數據沼澤遺留問題

  雖然大數據運動是由互聯網生成的龐大數據驅動的,但它也是對復雜性和數據變化率問題的回應。隨著一些組織開始通過利用一切數據產生巨大收益,人們越來越不愿意丟棄任何數據。而且數據湖從業者認為,建模已經過時了。現在,當連接大型數據集或多表模型的數據很痛苦時,創建大量非規范化數據集的動力就非常強烈,通常會導致大量重復。對數據安全的忽視也進一步助長了這一趨勢。

  受此經驗的影響,基于云的“現代數據堆棧”中出現的兩個互補趨勢出現了一些阻力:“廉價”存儲和“轉換(ELT)模式”。

  許多云數據平臺參與者至少在某種程度上將存儲與計算分開。云對象存儲具有彈性且相對成本低。大量數據出于未知原因被保留,原始數據或建模不佳的數據被直接使用并且從未正確集成。雖然存儲很便宜,但不斷增長的數據量推高了按消費定價的計算,使平臺提供商有鼓勵客戶不要在乎數據建模。

  這筆費用不能完全回避——即使是廉價存儲的數據有時也應該被刪除,無論是為了減少混亂、降低濫用風險還是讓地球更輕盈。

  許多組織已經轉向分層數據建模方法,其中第一層采用“原始”數據,無論是直接匹配OLTP系統上的表格,還是未經提煉的JSONWeb和IoT日志。這種ELT模式并不新鮮,例如在Teradata等平臺上的數據倉庫模式和實施中很常見,已有十年或更長時間。理想的目標是原始層饋送到更多層,通常是反映某些規范模型(例如3NF或DataVault)的一致性層和針對最終用戶的表示或交付層(通常按維度建模)。

  將數據保存更長時間是有正當理由的——監管(證明你五年前所做的是合法的)、網絡安全(攻擊模式可以發展數月)、數據科學和長期分析(將原始數據轉化為新功能)、或者僅僅是利用直接的內置歷史從舊數據重構下游新產品的能力。與此相反的是隱私法規和違規風險,以及將半衰期短的數據保存太久的環境成本。最終,這又回到了數據所有權和“為什么”的問題上。

  解決方案:僅僅因為可以忽視,并不意味著應該這樣。具有可靠治理、良好的數據高級模型和可靠數據架構的組織可以受益于更便宜的存儲和易于使用的平臺支持的數據底座和轉換模式。不急于對數據進行詳細的過度建模并在其價值確定之前花費大量的計算周期和工程師時間進行轉換可能是有價值的。

  同樣,讓我們現實地看待數據的“半衰期”,尤其是原始數據——很少有法規要求保留超過7年的歷史,而ML模型則更少,除非著眼于長期的事件。您的數據平臺在捕獲依賴關系和訪問歷史記錄方面有多好?這有助于識別那些從未或很少使用的數據集,并避免因擔心下游后果而保留數據。

  總之…

  就像數據中的許多好東西一樣,良好的建模源于組織承諾、適當應用良好實踐和模式的技能、精心設計的流程以及設計師的優秀技能。在大多數數據平臺上,不進行建模是災難性的。

熱詞搜索:大數據 數據湖 數據建模

上一篇:數據流量和處理對環境有巨大影響
下一篇:最后一頁

分享到: 收藏
国产一级一区二区_segui88久久综合9999_97久久夜色精品国产_欧美色网一区二区
久久狠狠婷婷| 国产精品久久久久影院亚瑟 | 欧美精品在线视频| 亚洲直播在线一区| 伊人成人在线| 国产日韩精品一区| 欧美日韩一区二区视频在线| 久久久久国产一区二区| 欧美一区二区三区婷婷月色 | 最新国产拍偷乱拍精品| 国产精品电影网站| 欧美电影在线观看| 亚洲性线免费观看视频成熟| 亚洲日本电影| 国产一区二区三区在线免费观看| 欧美成人黄色小视频| 午夜精品福利一区二区三区av| 激情综合在线| 国产视频精品va久久久久久| 欧美一区二区三区精品电影| 亚洲国产三级| 国产欧美一区二区色老头| 欧美视频在线观看视频极品 | 欧美一区二区三区喷汁尤物| 亚洲第一主播视频| 韩国av一区| 国产精品一区二区久激情瑜伽| 欧美日韩精品高清| 欧美精品综合| 欧美日韩国产免费观看| 欧美 日韩 国产精品免费观看| 欧美大片一区| 欧美精选一区| 欧美精品一区二区三区一线天视频 | 国产一区二区三区四区在线观看 | 一区二区欧美国产| 亚洲人成久久| 亚洲精品一区二区三区99| 亚洲成人自拍视频| 伊人久久男人天堂| 亚洲人屁股眼子交8| 亚洲四色影视在线观看| 久久福利一区| 欧美成人精品一区二区| 国产精品国产三级国产普通话三级| 国产精品一区二区在线观看网站| 国内精品免费在线观看| 亚洲精品一区在线观看| 亚洲在线电影| 美女图片一区二区| 欧美午夜精品伦理| 激情久久久久| 亚洲无线一线二线三线区别av| 久久精视频免费在线久久完整在线看| 欧美 日韩 国产一区二区在线视频| 欧美午夜不卡影院在线观看完整版免费| 国产精品一区久久| 亚洲激情一区二区| 亚洲视频在线观看免费| 每日更新成人在线视频| 国产精品乱人伦一区二区 | 亚洲欧美一区二区视频| 久久久999| 国产精品成人播放| 亚洲国产毛片完整版| 亚洲欧美日韩综合国产aⅴ| 老司机久久99久久精品播放免费| 国产精品jvid在线观看蜜臀| 亚洲高清资源| 欧美中文字幕在线| 国产精品海角社区在线观看| 亚洲国产91| 久久亚洲精品伦理| 国产日产亚洲精品| 在线一区二区三区做爰视频网站| 久久一区二区视频| 欧美日韩91| 亚洲日本在线视频观看| 久久久久综合一区二区三区| 国产日韩精品电影| 亚洲一区综合| 欧美午夜在线一二页| 亚洲日韩中文字幕在线播放| 久久综合久久综合这里只有精品 | 亚洲午夜羞羞片| 欧美日本亚洲视频| 亚洲国产成人久久综合| 久久亚洲一区| 影音先锋久久久| 久久免费观看视频| 国产一二精品视频| 久久aⅴ国产欧美74aaa| 国产情人综合久久777777| 亚洲免费一在线| 国产精品久久久久久久午夜片| 99精品欧美一区二区三区| 欧美一区1区三区3区公司| 欧美日韩一区二区三区在线看| 在线播放不卡| 免费观看一级特黄欧美大片| 影音先锋日韩资源| 欧美一区视频在线| 国产视频欧美| 亚洲欧美视频在线| 亚洲欧洲在线一区| 欧美成人免费在线视频| 亚洲福利视频免费观看| 欧美成人乱码一区二区三区| 亚洲激情电影在线| 欧美日韩影院| 一区二区三区国产盗摄| 欧美日韩久久久久久| 一区二区三区视频免费在线观看| 欧美视频一区二| 亚洲欧美日韩在线高清直播| 国产亚洲精品v| 久久综合久久综合这里只有精品| 国内精品久久久久影院优| 久久久久久尹人网香蕉| 在线欧美日韩国产| 久久久欧美精品| 亚洲风情亚aⅴ在线发布| 久久久久久穴| 亚洲国产欧美日韩| 欧美日韩在线直播| 亚洲一区二三| 韩国成人理伦片免费播放| 久久婷婷av| 日韩图片一区| 国产精品国产精品| 久久人人97超碰精品888| 亚洲精品看片| 国产精品久久久久一区二区三区| 久久九九久精品国产免费直播| 国产在线精品一区二区夜色| 欧美国产日本| 一本色道久久88综合亚洲精品ⅰ| 国产农村妇女精品一区二区| 久久av一区| 日韩视频免费观看高清完整版| 国产精品一卡二| 欧美成人午夜| 亚洲色图综合久久| 在线观看国产一区二区| 欧美午夜大胆人体| 狂野欧美激情性xxxx欧美| 在线综合亚洲| 伊人成综合网伊人222| 国产精品成人一区| 鲁大师影院一区二区三区| 亚洲影院在线观看| 91久久亚洲| 国产一区二区三区久久| 国产精品久久9| 欧美**人妖| 欧美在线视频网站| 免费不卡在线观看| 久久av在线| 亚洲一区二区三区四区在线观看 | 欧美成人在线免费视频| 亚洲人成人99网站| 欧美日韩久久精品| 一区二区在线视频观看| 国产精品美女在线观看| 欧美韩日高清| 在线免费日韩片| 国产精品s色| 亚洲精选在线观看| 国产精品sss| 久久精品亚洲乱码伦伦中文| 在线国产亚洲欧美| 久久婷婷综合激情| 亚洲国产精品第一区二区| 久久久久久有精品国产| 久久av资源网站| 韩日在线一区| 午夜日韩电影| 欧美+日本+国产+在线a∨观看| 日韩亚洲欧美一区二区三区| 一区二区三区我不卡| 国内精品一区二区三区| 国产精品一级久久久| 国产精品一区二区三区观看| 一区二区三区在线视频观看| 亚洲国产一区二区三区青草影视| 欧美在线亚洲在线| 亚洲自拍16p| 一区二区欧美激情| 亚洲天堂免费观看| 亚洲一区二区三区色| 亚洲天堂网在线观看| 亚洲一区视频在线| 亚洲嫩草精品久久| 香蕉久久夜色精品国产| 亚洲自拍偷拍麻豆| 欧美综合77777色婷婷| 久久久久久**毛片大全| 麻豆久久婷婷| 欧美激情精品久久久久久久变态 | 久久这里只有|