人多时加机器、人少时减机器，能自动完成吗？

它按一套事先定好的扩缩容规则（scaling policy）来增减。下图用的规则是：

• 每分钟看一次全组的平均负载：超过 70% 加一台，低于 30% 减一台，最少留 2 台，坏了一台还有一台。
• 新机器要开机、装好程序、通过健康检查，才能接请求，这里假设要 2 分钟；它准备好以前，不再加下一台。
• 减一台时，先让负载均衡器不再给它分新请求，等它手上的请求做完，再关机；直接关掉，正在处理的请求就失败了。

关掉哪一台都不能把读者退出登录，所以这样增减要求服务器是无状态的（第 3 页）。下图是百家菜的一天：每天 17:30，百家菜给订阅的读者发一条「今晚做什么菜」的提醒，两分钟里涌来很多人。这一天平均每秒约 69 个请求，最忙时约 208 个，与第 1 页估出的数相同。

按负载增减以后，夜里只开 2 台，晚饭前后开到 6 台，这一天平均只开着约 3.3 台（推算）。可 17:30 那一阵来得太急：负载超过 70% 才去开新机器，新机器要 2 分钟才准备好，又是一台接一台地加，这几分钟里请求比容量多，多出来的就失败了。

能预见的高峰，可以提前加机器。17:30 的提醒天天都发，规则里就多写一条「17:20 先开到 6 台」，提醒发出时，机器已经等在那里了。云服务也提供按时间表，或者按过去几周的规律提前开机的功能。预见不到的高峰，就只能靠平时多留一些余量。