其實說起來服務器系統的硬件構成與我們平常所接觸的電腦有眾多的相似之處，主要的硬件構成仍然包含如下幾個主要部分：中央處理器、內存、芯片組、I/O總線、I/O設備、電源、機箱和相關軟件。這也成了我們選購一臺服務器時所主要關注的指標。
整個服務器系統就像一個人，處理器就是服務器的大腦，而各種總線就像是分布與全身肌肉中的神經，芯片組就像是脊髓，而I/O設備就像是通過神經系統支配的人的手、眼睛、耳朵和嘴;而電源系統就像是血液循環系統，它將能量輸送到身體的所有地方。
對于一臺服務器來講，服務器的性能設計目標是如何平衡各部分的性能，使整個系統的性能達到最優。如果一臺服務器有每秒處理1000個服務請求的能力，但網卡只能接受200個請求，而硬盤只能負擔150個，而各種總線的負載能力僅能承擔100個請求的話，那這臺服務器得處理能力只能是100個請求/秒，有超過80%的處理器計算能力浪費了。
所以設計一個好服務器的最終目的就是通過平衡各方面的性能，使得各部分配合得當，并能夠充分發揮能力。我們可以從這幾個方面來衡量服務器是否達到了其設計目的；R：Reliability——可靠性；A：Availability——可用性；S：Scalability——可擴展性；U：Usability——易用性； M：Manageability——可管理性，即服務器的RASUM衡量標準。
由于服務器在網絡中提供服務，那么這個服務的質量對承擔多種應用的網絡計算環境是非常重要的，承擔這個服務的計算機硬件必須有能力保障服務質量。這個服務首先要有一定的容量，能響應單位時間內合理數量的服務器請求，同時這個服務對單個服務請求的響應時間要盡量快，還有這個服務要在要求的時間范圍內一直存在。
如果一個WEB服務器只能在1分鐘里處理1個主頁請求，1個以外的其他請求必須排隊等待，而這一個請求必須要3分鐘才能處理完，同時這個WEB服務器在1個小時以前可以訪問到，但一個小時以后卻連接不上了，這種WEB服務器在現在的Internet計算環境里是無法想象的。
現在的WEB服務器必須能夠同時處理上千個訪問，同時每個訪問的響應時間要短，而且這個WEB服務器不能停機，否則這個WEB服務器就會造成訪問用戶的流失。
為達到上面的要求，作為服務器硬件必須具備如下的特點：性能，使服務器能夠在單位時間內處理相當數量的服務器請求并保證每個服務的響應時間;可靠性，使得服務器能夠不停機；可擴展性，使服務器能夠隨著用戶數量的增加不斷提升性能。因此我們說不能把一臺普通的PC作為服務器來使用，因為，PC遠遠達不到上面的要求。這樣我們在服務器的概念上又加上一點就是服務器必須具有承擔服務并保障服務質量的能力。這也是區別低價服務器和PC的差異的主要方面。
在信息系統中，服務器主要應用于數據庫和Web服務，而PC主要應用于桌面計算和網絡終端，設計根本出發點的差異決定了服務器應該具備比PC更可靠的持續運行能力、更強大的存儲能力和網絡通信能力、更快捷的故障恢復功能和更廣闊的擴展空間，同時，對數據相當敏感的應用還要求服務器提供數據備份功能。而PC機在設計上則更加重視人機接口的易用性、圖像和3D處理能力及其他多媒體性能。
