通俗地讲，云计算主要任务是把大量的硬件如服务器、存储设备、网络产品，以及操作系统、应用软件等资源进行集中部署 ， 形成一个巨大“云计算资源池”，也可以叫做“云平台” 。云平台会将资源池的计算资源进行再分配，以求达到计算资源的利用效率最大化 ， 极大地解决了数据激增算力不足的问题。
云计算按照部署模型大致分为三类：公有云、私有云、混合云。公有云是厂家搭建的云计算平台，企业按需付费进行资源托管，短期成本较低；私有云是由企业自己购买服务器、存储等硬件来搭建属于自己的云平台，私密性好、长期看性价比更高；当私有云的资源到达高峰，可以向公有云按需“借”一部分来使用，低峰再“退”掉，这种架构称为混合云，这是云计算的主流趋势。
对于云计算工程师来说，既要能够自己搭建部署运维私有云，又要能够设计一套弹性的公有云架构帮助私有云进行扩展。