構建私有云意味著選擇正確的云軟件。你需要考慮業務目標和現有虛擬化技術以及未來云軟件的兼容性問題。
大多數企業將私有云看作是公有云服務的擴展?；旌显茖⒅辽僖粋€公有云和至少一個本地(on-premises)私有云橋接在一起，構建出一個更為彈性的資源集，在其之上運轉應用。很多企業的混合云會和亞馬遜EC2連接，因此選擇云平臺就歸結為兼容性問題。開源IaaS廠商Eucalyptus和OpenNebula和EC2使用相同的管理API，促進了公有云和私有云之間的連接。
為了讓你的私有云有效，云資源池中的所有服務器要相互兼容;服務器應該使用相同的虛擬化軟件，運行在可比的硬件上，而且虛擬機(VM)的配置要類似。如果一個私有云的虛擬服務器分成小的系統，資源分配就不會有效，而且這個云可能不會在簡單的虛擬化上提供任何好處。
但是并不是所有的虛擬化平臺都與云軟件相匹配。如果你的公司只是用一個虛擬化平臺，而且這個平臺并不和所選的云軟件工作，或者不支持所有應用或者客戶OS，你可能需要進行改變。很多云軟件提供商支持Xen和其多種多樣的風格，這意味著有更多的用戶經驗可以利用，更多的工具支持基于Xen的云。KVM和微軟Hyper-V也像VMware那樣受到廣泛支持，盡管一些VMware產品只有很少的社區支持。
如果你使用多余一個虛擬化平臺的話，就要選擇支持你運行的所有應用和客戶OS的云廠商，同時也要支持你期望在IaaS環境中操作的任何新的應用和OS。
為什么云應用能支配IaaS選擇
越來越多的公司選擇構建特定的云應用，而不是將現有應用轉移到云端。這樣在IaaS平臺中，對于云軟件他們就有可更多選擇，像OpenStack、Eucalyptus、OpenNebula、Red Hat以及VMware，還有專業人的云平臺。
Hadoop是一種基于分布式網絡數據模型的架構，在專業化平臺中更受歡迎。這個架構允許云應用從多個地點而不是中央電拖出數據。
OpenStack對于底層虛擬化包相當寬容，OpenNebula則相對較小，Eucalyptus介于二者之間。將Hadoop和虛擬化軟件匹配可能需要額外的計劃和引導測試。Hadoop并不會在其結點中支配虛擬化使用，因此就不提供工作的具體指導了。
在那些旨在開發虛擬數據中心資源的私有云軟件產品中，OpenStack似乎勢頭最猛。其開發者活動在創建融合開發和云操作或者DevOps領域有其有力。這就會成為構建新的云應用關鍵的好處，但是也能加強在私有云中管理現有應用的能力。甚至業務人員來擔任云平臺的使用，可能希望看看這些新興的工具是否能支持現有的云選擇。
虛擬機(VM)資源池是支持IaaS模型的有力且萬能的方式，但是并不是唯一方式。其他使用操作系統級別的虛擬化戰略可能更適用于一些應用。當目標是使用私有云進行具體應用到云的映射的時候就非常適合。
