当IT组织认识到公共云中的潜在安全性问题时，即如果业务应用程序开始使用Amazon EC2，他们就有可能会失去对他们数据中心的控制权，他们就会开始着手推动实施私有云。我们有很多理由会认为这是一个好主意，其中包括在他们的公司里快速应用移动设备。私有云是对移动设备进行安全策略管理和实施的一个成功方法。
在私有云实施之前，必须首先完成的工作之一就是确定云计算的用例。你准备在私有云中运行哪些应用程序?你是否有大量在集群或特殊硬件的Unix上运行的应用程序?你是否有大量在一台大型机上运行的旧应用程序?如果最后两个问题的答案是肯定的，那么你完成UNIX和大型机工作负载虚拟化任务的工作量将是非常巨大的。我们用于构建私有云的虚拟化软件运行在基于x86的平台上。这就意味着，如果你希望对Unix应用程序和大型机应用程序进行虚拟化以便于让它们在私有云上运行，那么这些应用程序的架构必须支持在x86平台上运行。这并不是一个简单的任务。你必须进行评估，如最终把旧应用程序迁移至私有云是否值得，或者只是专注于把你的Linux和Windows应用程序迁移至私有云并为云计算编写新的应用程序。
显而易见，实施私有云具有较高的挑战性和需要昂贵的成本开支。你需要拥有内部的专业人士以便于进行或协助私有云实施，除非你签约的私有云供应商所提供的专业服务能够替代你完成实施工作，或者你也可以雇佣第三方咨询公司与私有云供应商协作。无论如何，构建一个私有云的代价都是非常昂贵的。你不仅需要培训你的员工使用私有云，你还必须为变更管理、配置、安全等工作创建新的业务流程。你可能还需要购买一些新的监控工具软件以便于对虚拟网络、虚拟交换机等进行性能与安全性方面的监控，这是因为物理监控工具一般是无法对虚拟环境中的流量进行监控的。
类似于传统的数据中心，IT组织无须准备超过其功能的资源以处理突发性的应用程序;但是，与传统数据中心相比，在私有云中你在有需要的时候能够得到一个更好的弹性能力。出于这个原因，在你实施你的私有云时，你应当为与公共云供应商的整合做好规划。这就意味着，当你选择你的公共云供应商时，你应当关注公共云供应商所使用的虚拟机管理程序、网络以及存储模式。例如，Eucalyptus系统公司基于Eucalyptus的私有云软件就与Amazon EC2云计算软件兼容，也就是说Eucalyptus支持EC2的云计算API。如果你决定在以后会把部分私有云应用程序迁至公共云，或者如果你已经有一些应用程序在公共云中运行了，那么这种对细节的关注将为你在后期免除很多的操心和精力投入。
服务器虚拟化仅仅是实施私有云的一部分。为了充分利用好私有云实施，你还应当对存储、实施自动化以及业务流程实行虚拟化，同时还应确保你将实施一个自助服务的门户网站/服务目录，以允许私有云用户们为他们的工作选择服务。
自动化/业务流程工具在虚拟层的顶部运行，其中包括了虚拟化的服务器、网络以及存储。它们极大地减少了相关的人工工作量，例如配置服务器、架设防火器、把服务器接入网络等等，由此，它们也就消除了与人工操作任务相关的人为因素错误。
实施私有云的宏步骤包括：服务器虚拟化、存储虚拟化以及选择在虚拟环境中运行的管理和监控工具，它们将实施自动化、业务流程以及自助服务门户网站/服务目录。你的工作就是选择一家私有云供应商来帮助你完成这一工作，同时还需培训你自己的员工使用云计算和开发新的业务流程。