hardware

用 inxi 列出系統資訊，在回報問題時提供環境

在「GPU Survival Toolkit for the AI age: The bare minimum every developer must know」這篇看到的工具，雖然裡面是講 GPU 相關的事情，但看到這段：

inxi -G

This command provides information about the graphics subsystem, including details about the GPU and the display.

inxi 這個工具是用 Perl 寫的，在 manpage 的說明是：

inxi - Command line system information script for console and IRC

提供一些資訊給使用者，方便使用者在問問題時順便複製貼上到 IRC 或是論壇。

看了一下系統的 dependency，我的桌機是因為 xubuntu-desktop 這個套件相依裝進去的，這是 XFCE 桌面環境的套件。

而 Ubuntu 的預設環境沒有包這個套件進去，會需要額外安裝。

Raspberry Pi 5 拿掉硬體的 H.264 encoding

在 HN 上看到「Raspberry Pi 5 has no hardware video encoding and only HEVC decoding (raspberrypi.com)」，原文指到 Gordon Hollingworth 的回覆這邊，可以看到這是上個月的消息了。

Raspberry Pi 一直都有硬體 H.264 encoding 的能力，不過這個在 Raspberry Pi 5 上被拿掉了，所以得用軟體壓。

官方有提到 Raspberry Pi 5 的 CPU 因為比之前快很多，單顆就有辦法做到 1080p60 (而 RPi5 有 4 CPU)，所以除了 power consumption 以外應該不是大問題：

Obviously, the bad thing is the power consumption, but actually it only takes around 1 processor to encode 1080p60 with our default settings (which is still better quality than the PI 4 hardware encoder).

不過 HN 上猜是授權費用之類的問題，我在想是不是新的晶片組的 encoding license 都綁在一起，H.264 + H.265 得一包一起買，而 H.265 的授權費是眾所皆知的貴...

當 desktop 應該是還好，但就心裡有個底...

Raspberry Pi 5

Raspberry Pi 5 的消息出來了：「Introducing: Raspberry Pi 5!」。

價錢是 $60 (4GB RAM 版本) 與 $80 (8GB RAM 版本)，目前看起來是 pre-order 階段。

Today, we’re delighted to announce the launch of Raspberry Pi 5, coming at the end of October. Priced at $60 for the 4GB variant, and $80 for its 8GB sibling, virtually every aspect of the platform has been upgraded, delivering a no-compromises user experience.

其中一個大賣點應該是效能了，宣稱與 RPi4 相比，CPU/GPU 效能是以前的兩倍到三倍，記憶體與 I/O 的頻寬也加倍了，所以應該是所有應用都會變快不少：

Today, that effort bears fruit, with the launch of Raspberry Pi 5: compared to Raspberry Pi 4, we have between two and three times the CPU and GPU performance; roughly twice the memory and I/O bandwidth; and for the first time we have Raspberry Pi silicon on a flagship Raspberry Pi device.

等到後續出貨應該就會有資料可以看了，不過從時脈就可以看出一些重點，上一代還是 1.5GHz (或是後來更新的 1.8GHz)，這一代拉到 2.4GHz 了：

2.4GHz quad-core 64-bit Arm Cortex-A76 CPU

而後續也提到，在相同的 loading 吃電量比 RPi4 低，但因為 boost 的關係，瞬間最高吃電量從以前 RPi4 的 8W 變到 RPi5 的 12W：

Raspberry Pi 5 consumes significantly less power, and runs significantly cooler, than Raspberry Pi 4 when running an identical workload. However, the much higher performance ceiling means that for the most intensive workloads, and in particular for pathological “power virus” workloads, peak power consumption increases to around 12W, versus 8W for Raspberry Pi 4.

但也因為這樣，如果你拿 15W 的 USB-C 充電器時，他的 USB port 就只能提供 3W 的功率了 (剛好就是他提到的 5V/600mA)：

When using a standard 5V, 3A (15W) USB-C power adapter with Raspberry Pi 5, by default we must limit downstream USB current to 600mA to ensure that we have sufficient margin to support these workloads. This is lower than the 1.2A limit on Raspberry Pi 4, though generally still sufficient to drive mice, keyboards, and other low‑power peripherals.

如果要能夠讓 USB 可以供應足夠的功率 (像是外接的機械硬碟這種會吃比較多電的設備)，需要使用 5V/5A 的充電器。

但這邊提到 RPi5 firmware 在偵測到 5V/5A 的充電器時會提高限制，而不是提到 USB PD，所以可以預期是特規？

For users who wish to drive high-power peripherals like hard drives and SSDs while retaining margin for peak workloads, we are offering a $12 USB-C power adapter which supports a 5V, 5A (25W) operating mode. If the Raspberry Pi 5 firmware detects this supply, it increases the USB current limit to 1.6A, providing 5W of extra power for downstream USB devices and 5W of extra on-board power budget: a boon for those of you who want to experiment with overclocking your Raspberry Pi 5.

供貨的部分反而沒有聊到太多，但 RPi4 最近的供貨還算可以，所以可以預期 RPi5 應該不會太差？

Amazon EC2 推出 m7a 系列的機種

上一篇完全讀錯段落了，重寫...

Amazon EC2 推出了新的 m7a 的機種：「New – Amazon EC2 M7a General Purpose Instances Powered by 4th Gen AMD EPYC Processors」。

號稱與 m6a 相比有 50% 效能上的提升：

Today, we’re announcing the general availability of new, general purpose Amazon EC2 M7a instances, powered by the 4th Gen AMD EPYC (Genoa) processors with a maximum frequency of 3.7 GHz, which offer up to 50 percent higher performance compared to M6a instances.

不過查了一下價錢，us-east-1 的 m6a.large 是 $0.0864/hr，m7a.large 則是 $0.11592/hr (都是 2 vCPU + 8GB RAM)，漲了 34% 左右，如果計算 price performance 的話大約是 10%～15%？的確是不高所以不提 price performance，不過這次 m7a 提供了更小台的 m7a.medium (1 vCPU + 4GB RAM) 來補這塊 (m6a 最小的是 m6a.large)，$0.05796/hr。

這樣看起來新的機種對於需要單核效能的應用應該會不錯？

再來是可以租到的區域，目前看起來只有歐美的傳統大區有，亞洲區還要再等等：

Amazon EC2 M7a instances are now available today in AWS Regions: US East (Ohio), US East (N. Virginia), US West (Oregon), and EU (Ireland).

Amazon EC2 推出新世代 Intel CPU，以及奇怪的 Flex 產品

Jeff Barr 公告了 Amazon EC2 推出了新的 Intel CPU 產品線：「New Seventh-Generation General Purpose Amazon EC2 Instances (M7i-Flex and M7i)」。

先講 m7i，這個比較好理解，就是 Intel 新的 CPU，然後很隱晦的只宣稱了「比其他雲端廠商的 Intel CPU 快 15%」：

Today we are launching Amazon Elastic Compute Cloud (Amazon EC2) M7i-Flex and M7i instances powered by custom 4th generation Intel Xeon Scalable processors available only on AWS, that offer the best performance among comparable Intel processors in the cloud – up to 15% faster than Intel processors utilized by other cloud providers.

而與前一代的 Intel 機種相比 (應該是 m6i？) 則是高了 15% 的 CP 值：

The M7i instances are available in nine sizes (with two size of bare metal instances in the works), and offer 15% better price/performance than the previous generation of Intel-powered instances.

另外這次最有趣 (但未必好用) 的是推出了 m7i-flex，宣稱再「很多情境下」比 m6i 的 CP 值高了 19%：

M7i-Flex instances are available in the five most common sizes, and are designed to give you up to 19% better price/performance than M6i instances for many workloads.

這邊有提到 m7i-flex 是把 m7i 砍了 5% 價錢：

The M7i-Flex instances are a lower-cost variant of the M7i instances, with 5% better price/performance and 5% lower prices. They are great for applications that don’t fully utilize all compute resources. The M7i-Flex instances deliver a baseline of 40% CPU performance, and can scale up to full CPU performance 95% of the time.

但在「General purpose instances」這邊比較清楚，但可以跑超過 40% CPU 的時間限制在 24 小時內的 95%：

For times when workloads need more performance, M7i-flex instances provide the ability to exceed baseline CPU and deliver up to 100 percent CPU for 95 percent of the time over a 24-hour window.

這個設計頗微妙的，旁邊 ARM-based 的 t4g 就先不提了，至少不是 drop-in replacement...

看 m7i.large (2 vCPU + 8GB RAM) 在 us-east-1 的價錢是 $0.1008/hr，你可以完全沒有阻礙的用他 100% 的 CPU。

而 m7i-flex.large 是 $0.09576/hr，剛好省 5%，代價是有 5% 的時間必須壓在 40% 以下。

而拿 t3 系列的機器來比較，t3.large 也是有 2 vCPU + 8GB RAM，但他內建的 baseline CPU 是 30%，價錢則是 $0.0832/hr。

從這邊可以看出來，大多數的小應用還是會往 t3 甚至是 t3a 丟。

只有 24 小時的平均 loading 超過 40%，但又不是 24 小時都超過 40% 的應用，也就是現在應該是在 m6a 或 m6i 上面跑的，才有可能會評估 m7i-flex？

更不用說 AWS 上 m6a 的收費比 Intel 的 m6i 少了 10% 啊，這個產品定位在細算後很微妙：應該是有他可以出現的地方，但怎麼算都不多... 有點像是 AWS 跟 Intel 交代的產品？

但順著邏輯，這個方法其實是 billing-based 的方案，跟技術沒有太多關係，如果 Intel 可以做，那麼 AMD 與 ARM 應該也遲早會出現？

看起來像是 t 系列產品的延伸，但好像可以再等等，看會不會在 AMD 與 ARM 的產品線上推出類似的東西？

華碩接手 Intel NUC 的維護與後續研發

Intel 發新聞稿，說跟 ASUS 簽了約，讓 ASUS 接手 Intel NUC 的維護與產品研發了：「Intel and ASUS Agree to Term Sheet to Take Intel NUC Systems Product Line Forward」。

Today, Intel announced it has agreed to a term sheet with ASUS, a global technology solution provider, for an agreement to manufacture, sell and support the Next Unit of Compute (NUC) 10th to 13th generations systems product line, and to develop future NUC systems designs.

不過 ASUS 這邊網站上還沒看到新聞稿...

前幾天 Intel 宣佈要停止 Intel NUC 產品線，但當時沒看到接手的消息：「Intel Exiting the PC Business as it Stops Investment in the Intel NUC」。

有可能是消息出來後 ASUS 才去談的？或是一開始 Intel 就有找 partner 談，但談到一半消息先走漏了，但外面只聽到 Intel 不做？

Anyway，這樣 ASUS 算是官方指名的繼承人，讓後續要買的人可以過去看看；以 ASUS 本來就有自己的便當盒產品線 (像是 PChome 24h 上面的「ASUS－特規/改機專區品牌館」)，就是讓現有的團隊接手一個知名的產品線，不過本來跟精英 & 和碩的代工不知道會出現什麼變化...

DHH 一系列從雲端搬回地端的文章

因為 37signals 陸陸續續把所有的服務從雲端搬回地端，DHH 從去年開始寫了一系列相關的文章，開頭應該是這篇：「Why we're leaving the cloud」。

最近的「Cloud exit pays off in performance too」這篇看到個有趣的東西，提到現在的硬體可以很大台，大到可以直接吃整個 Basecamp 服務：

In fact, given that each of our new Dell R7625s have 196 vCPUs, we could actually run the entire Basecamp Classic application, including databases and Redis, on a single such machine! That's just astounding.

其實這也提到了另外一個問題，就是他們的東西一直沒做大，然後也沒有遇到超大的 peak XD

雲端比地端貴是大家都知道的前提 (把網路設備以及 storage 也考慮進來，整體硬體攤提成本來說大概是 1/3～1/4，而頻寬成本會差更多)，但即使團隊會管機房，還是會採用雲端的原因 (優點)：

節省了採購的人力成本。
讓老闆對於「短時間需要大量的資源」心安。

前者是大家都比較清楚的，在地端如果臨時要一批資料庫等級的機器，通常機房不會有這種等級的機器，需要跟廠商借機器來用，而且裝機再怎麼快也是半天的時機，而雲端上面直接 console 點一點就解決了。

後者是突然爆紅的狀態，幾乎不會發生 (i.e. 做夢)，但是會是跟老闆推銷雲端的重要說詞之一；而且就算發生了，常常還是會遇到程式寫的不夠好，無法 scale out 解決問題，甚至是無法 scale up 解決問題。

所以 37signals 把服務都搬回地端是個正確的決定沒錯，但他提到單機就可以解決所有問題，代表量沒大到需要把 sharding 拿出來，其實有點悲傷... XD

AWS 推出了 Graviton3 的機種

Amazon EC2 推出了 Graviton3 的機種：「New Graviton3-Based General Purpose (m7g) and Memory-Optimized (r7g) Amazon EC2 Instances」。

~~第一波只有一般的 m7g 與記憶體型的 r7g，而計算型的 c7g 大家在 Twitter 上猜應該晚點會放出消息。~~在去年五月就推出了：「AWS 推出 c7g 機種」。

目前只在歐美的 us-east-1、us-east-2、us-west-2 與 eu-west-1 區提供，亞洲目前都還沒有這些機種可以用：

M7g and R7g instances are available today in the US East (N. Virginia), US East (Ohio), US West (Oregon), and Europe (Ireland) AWS Regions in On-Demand, Spot, Reserved Instance, and Savings Plan form.

官方宣稱比 Graviton2 的 m6g & r6g 多了 25% 的效能，不過我另外查了一下 us-east-1 上的價錢，也貴了 6% 左右，如果依照官方宣稱的數字計算，大約是 18% 左右的 CP 值提昇，對於有實際上跑滿的 CPU 的人是個不錯的效能提昇：

Today I am happy to tell you about the newest Amazon EC2 instance types, the M7g and the R7g. Both types are powered by the latest generation AWS Graviton3 processors, and are designed to deliver up to 25% better performance than the equivalent sixth-generation (M6g and R6g) instances, making them the best performers in EC2.

裡面有提到在 Graviton3 的一個架構上的大改變是記憶體從 DDR4 變到 DDR5，這使得記憶體的傳輸頻寬提昇了 50%：

Both types of instances are equipped with DDR5 memory, which provides up to 50% higher memory bandwidth than the DDR4 memory used in previous generations.

接下來是看有沒有下放到 t 系列的計畫，像是 t5g 之類的，有的話再用看看好了，不過 blog 這台已經買了三年 RI，等到期間滿了之後說不定都有 Graviton4 或是 Graviton5 了...

風扇的出風孔的遮罩，不同形狀產生噪音的差異

前幾天在 Hacker News Daily 上看的文章：「Effects of grill patterns on fan performance/noise (2011) (pugetsystems.com)」，原文在「Effects of Grill Patterns on Fan Performance/Noise」。文章在講電腦風扇的出風口擋板的樣式對噪音的影響。這是一篇 2011 的老文章，但看了一下好像沒有什麼新資料...

出風口的遮罩在有些地區似乎是法律要求，主要是怕小朋友手指戳進去，以及成年人不小心碰到，所以就會有專門的測試項目在跑：

I remember back in 2000 ish I worked in R&D of a PC manufacturer and had to check the new PSUs and cases with a 'Test Finger' to make sure all the holes were small enough. The test finger was really expensive IIRC.

但回到這篇的重點，噪音與風量的差異，所以基準值是拔掉遮罩的部份先測試 (所以可以知道最低的噪音與最大的風量)，然後上各種遮罩測差異。

Mesh 增加的噪音是最少，但風量有點差：

Wire 增加的噪音也很少，風量也達到最高：

從倒數的方向來看，Turbine 是最吵風量也最少的：

發現比較差的遮罩增加的噪音不算少，把很多風的動能變成聲音的能量了...

CPU Core 之間溝通的時間成本

在 Hacker News 上看到「Measuring CPU core-to-core latency (github.com/nviennot)」這篇，專案在「Measuring CPU core-to-core latency」這裡，看起來是個有趣的研究，測試許多不同 CPU 內，跨 core 之間溝通的時間花費。

依照專案的說明，測試的方式是利用 cache coherence 來來量測：

We measure the latency it takes for a CPU to send a message to another CPU via its cache coherence protocol.

By pinning two threads on two different CPU cores, we can get them to do a bunch of compare-exchange operation, and measure the latency.

裡面已經測了很多不同的 CPU，然後可以看到一些有趣的結果。

像是第一張圖片的「Intel Core i9-12900K @ 8+8 Cores (Alder Lake, 12th gen) 2021-Q4」這組，大家還蠻好奇 CPU #8 到底是怎麼一回事，跨 core 溝通的 latency 特別低，還特別找了 CPU 的 die 圖片看看：