當伺服器的SSH服務正常運行后，我們完全可以從此在我們的自用PC上用SSH客戶端軟體在區域網中登錄到伺服器，用這種方式完成伺服器以後的配置和維護。不嚴格的說，這時伺服器是不需要顯示器和鍵盤的，因為絕大多數的配置工作都可在遠端（區域網內）的客戶端上操控。
這裡，以簡單易用的SSH客戶端軟體之一 -- PuTTY 為例，介紹從自用PC上登錄到伺服器的方法。
在
用OpenSSH構建SSH伺服器 一節中，我們將伺服器端相應用戶的的私鑰用安全的方式--3.5寸磁碟為介質，移動到了遠程終端（自用PC等等）上，下面就介紹一下載遠程終端用SSH客戶端軟體登錄到伺服器的方法。
SSH客戶端軟體，我們準備是用簡單易用的PuTTY。但伺服器端直接生成的私鑰，PuTTY無法直接使用，需要用PuTTYGen來轉換為PuTTY可以使用的私鑰匙。
[1] 下在私鑰轉換工具 PuTTYGen 。 並且將要轉換的私鑰從軟盤上複製到遠程終端本地硬碟的適當位置上。
[2] 運行 PuTTYGen ，出現如下窗口：
[3] 點擊Load，選取伺服器端生成的私鑰（文件類型要選擇「All Files」）。如下
[4] 開始轉換私鑰，這裡需要輸入在伺服器端建立此私鑰時的口令。在文本框中輸入口令開始轉換，如下：
[5] 如果轉換成功后，會彈出轉換成功的提示窗口，點擊確定進入下一步。如下：
[6] 保存轉換后的私鑰匙到適當的位置（轉換后的私鑰將做為PuTTY登錄到伺服器時使用的私鑰）。點擊「Save private key」，並選擇適當的位置保存私鑰。如下：
最後，關閉PuTTYGen，下面我們開始用PuTTY遠程登錄伺服器。
| 在Windows下用PuTTY通過SSH協議登錄到伺服器 |
|
[1] 下載 PuTTY ，放在適當的目錄（文件夾）中。（PuTTY為一個可執行文件，雙擊即運行）
[2] 雙擊啟動 PuTTY ，在左側找到Auth（認證方式）一項，對連接是使用的私鑰進行設定，如下：
[3] 點擊Browse，選擇剛剛用PuTTYGen轉換后的私鑰。如下：
然後點擊左側的Session，回到主機連接信息的設置，如下：
[4] 配置主機名，在「Host Name」填入伺服器的IP地址，以及在「Saved Sessions」欄上填入此連接的名稱（任意），然後點擊Save，保存主機連接設置。如下：
[5] 保存后，「Saved Sessions」一欄中會顯示剛剛被加入的連接。雙擊此連接，開始進行連接，如下
[6] 然後在登錄窗口中輸入伺服器端，相應用戶的用戶名，如下：
[7] 在輸入完用戶名后，不會出現用戶密碼輸入提示框，因為在SSH伺服器配置中我們禁止了用戶通過用戶密碼方式的SSH登錄。這時候會出現要求輸入口令的提示，這個口令就是在伺服器端建立相應用戶（digeast）的私鑰的時候設置的口令。輸入口令，進行登錄。如下：
[8] 輸入口令后，即可登錄成功，如下：
以上，就通過「鑰匙」的方式成功的登錄到了伺服器。
另外由於在SSH伺服器設定時禁止了root直接從遠程登錄，所以用SSH客戶端是無法用通過root登錄的，再者，要允許某個用戶對伺服器進行登錄，必須基於某個用戶建立其相應的公鑰與私鑰--因為我們禁止用戶通過用戶密碼的認證方式來登錄SSH伺服器，這樣就大大增強了伺服器的安全性。
但作為管理員，您可以將一般用戶加入到wheel組中（方法見 CentOS的下載、安裝及初始環境設置 ），然後基於此一般用戶建立相應私鑰於公鑰，通過此用戶遠程登錄到，然後再通過「su -」命令，獲得root許可權，對系統進行配置。而且，在初始環境設置中，我們不允許wheel組外用戶「su -」登錄為root用戶，從而又進一步增強了系統的安全性。
從此，我們就可以通過在Windows下用PuTTY登錄到伺服器的方式來完成所有伺服器的配置工作。當然如果您喜歡，或出於其他原因，也同樣可以在 伺服器本機上完成所有的配置工作。二者無本質的區別，這也體現了UNIX操作系統多用戶、多任務處理的特性之一。
