幹壞事是進步最大的原動力
AWS 的 ALB 宣佈支援 TLS 1.3：「Application Load Balancer now supports TLS 1.3」。
本來以為早就支援了，翻了一下發現應該是太多產品線的關係搞混了：
ALB 則是到了 2023 才支援 TLS 1.3...
在 AWS API Changes 上看到這個修改：「2021/09/27 - Elastic Load Balancing - 3 updated api methods」。
說明是這樣：
Adds new ALB-type target group to facilitate forwarding traffic from NLB to ALB
又是一個以為很久前就已經支援，但實際上沒支援的功能...
ALB 支援使用 cookie 實現 sticky session 功能：「Application Load Balancer now supports Application Cookie Stickiness」。
使用者的 session 通常會使用 cookie 記錄，而如果有多台 server 提供服務時，session 裡的資訊就需要找一個 shared session storage 放，以確保使用者在連到不同的 server 時都還是可以讀到對應的 session，比較傳統的方案就是直接把 session 塞進資料庫，後來發展出 memcached 或是 Redis 可以用。
但有些買來的軟體並沒有考慮到這點 (常常都是內部系統)，導致前面放 load balancer 時，必須想個辦法記錄使用者使用後端的哪台機器，這樣就可以在後端不支援 shared session storage 的情況下，還是可以讓應用正常運作。
透過 cookie 實做的 sticky session 算是蠻常見的作法，只是以為早就有了...
AWS 的 ALB 總算提供「最少連線數」的功能了：「Application Load Balancer now supports Least Outstanding Requests algorithm for load balancing requests」。
先前只有 Round robin (RR)，現在支援 Least outstanding requests (LOR) 後可以往比較少的塞了，這個方法在大多數的應用上比 RR 合理多了，現有的 ALB 應該都可以考慮換過去...
補功能不算快，但有種已知用火的感覺 XD
F5 宣佈併購 NGINX Inc.，雙方的新聞稿都出來了：「F5 Acquires NGINX to Bridge NetOps & DevOps, Providing Customers with Consistent Application Services Across Every Environment」、「NGINX to Join F5: Proud to Finish One Chapter and Excited to Start the Next」。
SEATTLE and SAN FRANCISCO – F5 Networks, Inc. (NASDAQ: FFIV) and NGINX today announced a definitive agreement under which F5 will acquire all issued and outstanding shares of privately held NGINX for a total enterprise value of approximately $670 million, subject to certain adjustments.
印象中 NGINX Inc. 的文章常常在批評 F5 這類 load balancer 太貴，現在是在演哪齣戲... 然後這不知道對 open source community 來說是不是好下場，也許如果真的發現風頭不對的話就會有人 fork？(AWS？他們最近好像對這個議題頗敏感 XDDD)
AWS 推出的新功能，讓 NLB (network load balancer) 可以直接做完 SSL offload：「New – TLS Termination for Network Load Balancers」。
而且 NLB 可以保留 source ip，不需要在 web server 上處理特殊的 header (像是 X-Forwarded-For 這類的 HTTP header)。這點倒是頗有趣...
AWS 這次對 Lambda 還發表了不少功能，除了前面提到透過 Layout 支援其他語言以外 (e.g. Ruby)，這邊要再提到另外一個重要的功能。
這次是 ALB 可以直接呼叫 lambda function 了：「Lambda functions as targets for Application Load Balancers」。
以前還得靠 API Gateway 整半天 (因為版本設定)，現在直接用 ALB 接就可以了？而且 ALB 這邊有規劃對應的 quota：
There is no change to the hourly price of ALB. The load balancer capacity units (LCUs) of ALB now include 0.4 GB per hour of data processing to AWS Lambda targets.
這樣就更接近 serverless 了...
GitHub 也 open source 自家的 load balancer 了：「GLB: GitHub's open source load balancer」。
如果翻一下歷史就會發現，夠大的單位都會遇到不同的 balancing 問題，然後都會開發自己的 load balancer，像是 Google 放出來的 Seesaw，eBay 放出來的 Neutrino (程式的 repository 在 eBay/Neutrino)，Facebook 放出來的 Katran。
經濟規模夠大就能夠自己搞，然後針對自家的問題客製化去解... open source 能對社群帶來多大好處就未必了，主要還是做名聲而已，實際上大家還是繼續用 nginx 跟 HAProxy，或是買商業方案來先撐著。
這個功能在 ELB Classic 年代時有跟 AWS 提過，到 ALB 支援了 (總算...)：「Application Load Balancer Announces Slow Start Support for its Load Balancing Algorithm」。
Application Load Balancers now support a slow start mode that allows you to add new targets without overwhelming them with a flood of requests. With the slow start mode, targets warm up before accepting their fair share of requests based on a ramp-up period that you specify.
然後時間可以設定，從 30 秒到 15 分鐘：
Slow start mode can be enabled by target group and can be configured for a duration of 30 seconds to 15 minutes. The load balancer linearly increases the number of requests sent to a new target in a target group up to its fair share during the slow start ramp-up window.
就之前的經驗來說，這在跑 PHP 的時候會很需要這個功能 (之前是在 F5 的設備上設定)。其他的語言因為性質不太一樣，可能不會這麼吃這個功能。
主要是因為 PHP 是在 request 進來時 compile 並且 cache。所以在機器剛起來時，儘量將 CPU 留給 opcache，把常用的頁面 compile 完並且放進 cache，而不是讓大量的連線灌進來，這樣對使用體驗不會太好... (要避免 CPU 吃滿 100% 很久，造成每個連線都很慢才跑完)
AWS 推出 Slow Start 後對 auto scaling 時的順暢度會好不少...
AWS 宣佈可以透過 Network Load Balancer 把 API Gateway 接進 VPC 內了：「Amazon API Gateway Supports Endpoint Integrations with Private VPCs」。
You can use API Gateway to create an API endpoint that is integrated with your VPC. You create an endpoint to your VPC by setting up a VPC link between your VPC and a Network Load Balancer (NLB), which is provided by Elastic Load Balancing.
基本上是所有的區域都有了，除了美國政府的區域外：
This feature is now available in US East (N. Virginia), US East (Ohio), US West (Oregon), US West (N. California), Canada (Central), South America (São Paulo), EU (Ireland), EU (Frankfurt), EU (London), Asia Pacific (Singapore), Asia Pacific (Tokyo), Asia Pacific (Sydney), Asia Pacific (Seoul), and Asia Pacific (Mumbai) AWS regions.
是透過 NLB 接進去，而不是 ELB Classic 或是 ALB，可以來想像網路架構是怎麼做的...