虽然我们可以从上文《中国云计算发展趋势》的分析中看到云计算在国内的广阔前景，但也不得不面对一个现实，云计算需要应对众多的客观挑战，才能够逐渐发展成为一个主流的架构。云计算所面临的挑战包括：
用户认识不足
尽管云计算在国内已经得到了广泛的宣传，并且已经出现了若干典型的用户和案例。但是企业和最终用户对云计算仍然缺乏了解和认识，特别是在具体的业务和应用上，云计算可以带来怎样的变革和收益，仍然是不够清晰的。在这种情况下，云计算真正落地成为成功应用，会遇到很多困难。因此，重中之重是抛开大量的理论和概念，在应用和业务角度进行市场推广和用户教育，使云计算具有可操作性。
硬件迁移风险
云计算的一个重要特征就是会改变传统的应用交付方式，也改变传统的数据中心运营模式。这种变革，势必会带来一定程度的风险。这种风险包括硬件迁移风险和应用移植风险。硬件迁移风险指的是，在传统数据中心中，硬件都相对独立，但是在云计算中心中，基于虚拟化的模式会导致硬件界限不再那么明显，而是以虚拟机的形式在硬件设备间按照负载均衡和提高利用率的原则进行灵活迁移。这就对传统硬件的部署方式提出了挑战，如果缺乏系统的评估和科学的分析，就会导致硬件平台无法发挥出应有的效能，甚至导致应用系统的崩溃。
应用移植风险
应用迁移风险指的是原有应用，如财务应用、ERP应用、CRM应用等，在传统数据中心中是部署在相对独立的硬件系统中的，包括存储也会存在一定的应用独立性。在新的云计算平台中，应用会部署到不同的硬件，甚至是操作系统上，能否实现应用的无缝迁移，是保证计算成功的重要内容。如果在云计算平台上广泛采用虚拟化技术，又会涉及到虚拟机迁移和操作系统的兼容性，这一方面的因素也会影响到应用的可用性。
安全性
云计算平台的安全问题由两方面构成。一是数据本身的保密性和安全性，因为云计算平台，特别是公共云计算平台的一个重要特征就是开放性，各种应用整合在一个平台上，对于数据泄漏和数据完整性的担心都是云计算平台要解决的问题。这就需要从软件解决方案，应用规划角度进行合理而严谨的设计。二是数据平台上软硬件的安全性，如果由于软件错误或者硬件崩溃，导致应用数据损失，都会降低云计算平台的效能。这就需要采用可靠的系统监控、灾难恢复机制以确保软硬件系统的安全运行。
服务等级协议
云计算所面临的挑战，除了在系统方面的风险外，如何为用户提供合乎要求的服务也是非常重要的。因为相对于传统数据中心，云计算所提供的服务尽管更加丰富，但是也会给用户带来难以控制的担心，通过对用户的需求进行分析，提出合理、可执行的服务等级协议(SLA)，将在很大程度帮助用户树立对云计算服务的信心。