幹壞事是進步最大的原動力
Backblaze 釋出了 2023Q2 的硬碟報告：「Backblaze Drive Stats for Q2 2023」。
看硬碟數量有破千顆的會比較準確，跟以前的趨勢差不多，HGST 與改牌到 WDC 的硬碟在第一梯隊，再來是 Toshiba，然後是 Seagate：
特別被拿出來講的是 0% 死亡率的：
前面三顆 Drive Days 都夠高，還可以維持 0% 死亡率，算是可以選擇的型號？
另外比較特別的是 8TB 與 10TB 硬碟的死亡率比平均值高不少，不過文章裡面有提到 10TB 因為量太少所以跳過 (可能還在統計誤差的範圍)：
Given there are relatively few 10TB drives (1,124) versus 8TB drives (24,891), let’s dig deeper into the 8TB drives models.
而 8TB 的資料可以看到這幾顆的狀況：
這邊算是提供要避開的型號？
Backblaze 放出 2023 Q1 的硬碟生存資料：「Backblaze Drive Stats for Q1 2023」。
這次意外看到 WDC 的表現超級好：
看了一下型號，WUH 開頭的，看起來是之前 HGST 的 model，而不是 WDC 自家的型號... (備註一下，WDC 在 2012 年就買下 HGST 了，但到了 2018 廢掉了 HGST 的 branding)
所以整體看起來 HGST 的硬碟還是首選...
Backblaze 發表了 2022 Q2 硬碟使用的報告：「Backblaze Drive Stats for Q2 2022」。
第一張是綜合性的資料，從 2013 年到現在還活著的型號都拉出來：
表格裡面好像有些錯誤的地方，像是 Seagate 的 ST12000NM0007 這顆的數字就對不太起來，1288 顆但是有 1989 次的 failure，另外 drive days 累計有 35,823,850 days，平均下來是 27813 天 (76 年？)，另外 AFR 只有 2.03% (低 1.90%，高 2.10%)。
就算硬碟數量多一個零變成 12880 顆也還是對不太起來，查 datasheet 看起來這個型號是 2017 年出的，到現在也才五年多，76 年的 1/10 變成 7.6 年也對不起來，這個部份看後續會不會更正好了...
另外作者另外把比較有指標性的型號拉出來，可以看到 HGST 在歷史上的表現很好：
然後就算只過濾 2022 Q2 的故障資料，還是可以看到 HGST 在近期的 AFR 表現很不錯：
另外最後提到他會在 DEFCON 30 上聊聊：
If you will be at DEFCON 30 in Las Vegas, I will be speaking live at the Data Duplication Village (DDV) at 1 p.m. on Friday, August 12th. The all-volunteer DDV is located in the lower level of the executive conference center of the Flamingo hotel. We’ll be talking about Drive Stats, SSDs, drive life expectancy, SMART stats, and more. I hope to see you there.
這篇稍微偏 CS 理論一些...
以前在學校學 Formal language 的時候會帶出 Grammer、Language、Automaton 三個項目，就像是維基百科上的條列：
裡面可以看到經典的 Regular expression 會被分到 RG/RL/FSM 這三塊。
前幾天看到 gugod 寫的「[Perl] 以正規表示式來定義文法規則」這篇，裡面試著用 Perl 的 regular expression (perlre) 建構「遞歸下降解析器」 (Recursive descent parser)。
Recursive descent parser 可以當作是 CFG 的子集合，而 CFG 對應到的語言是 CFL，另外他對應到的自動機是 PDA。
我們已經知道 perlre 因為支援一堆奇怪的東西 (像是 backreference 或是 recursive pattern)，所以他能接受的 language 已經超過 RL，但我很好奇他能夠做到什麼程度。
用搜尋引擎翻了翻，查到對 PCRE 的分析 (這是一套與 Perl regular expression 語法相容的 library)：「Which languages do Perl-compatible regular expressions recognize?」。
在裡面有人提到「The true power of regular expressions」這篇文章，裡面給了一個在 PTIME 演算法，將 3SAT 轉換到 PCRE 裡解，這證明了 PCRE 是 NP-hard；另外也很容易確認 PCRE 是 NP，所以就達成了 NP-complete 的條件了...
本來一直以為 PCRE 只是 CFG/CFL/PDA 而已，沒想到這麼強，NPC 表示大多數現有的演算法都可以轉成 PCRE 形式放進去跑... XD
Backblaze 放出 2021 年的硬碟統計數據了：「Backblaze Drive Stats for 2021」。
最後一張圖是 Backblaze 機房內還活著的硬碟資訊，大概是整篇裡面最有用的 (而且有 AFR 的信心區間)，先拉出來看：
比較好奇的是還沒有導入 18TB 的硬碟...
另外從上面依照廠牌分類的部份也可以看出個感覺，這時候如果再針對各廠牌的歷史記錄拉出圖的話就很殘酷了，要說 Seagate 不愧是 Seagate 嗎 (大家的刻板印象好像也不刻板了，數字都對的上...)：
如果就廠牌可以看出來 HGST 不論哪個型號，死亡率 (AFR) 都很低，而 Toshiba 與 Seagate 則是很吃型號，有的型號 AFR 很高，但有的就蠻低的...
另外裡面有提到一個比較有趣的現象，大顆硬碟的 AFR 反而比較低，目前猜測是新硬碟的關係，但時間要拉長才會看的比較明顯，不確定是不是有什麼技術發展出來 (過個幾年再回來看的意思)：
話說前陣子才送修一顆 Seagate 的硬碟回來 (還在保固內)，SMR 的死亡率果然高不少...
Backblaze 昨天放出來 2021Q1 的硬碟報告：「Backblaze Drive Stats for Q1 2021」。
前半部沒有什麼意外，HGST 的硬碟比起其他家的看起來還是好不少。
比較有趣的是首次拿 SSD 與 HDD 對決，這邊比較的對象是開機碟。可以看到如果以 2021Q1 的時間來看，SSD 的 AFR 低不少：
拉長到 lifetime 來看也還是低不少：
但裡面也有提到 HDD 的最大壽命比目前 SSD 都高不少，時間看起來可能還不夠長，算是一個很初步的資料...
前幾天 Backblaze 放了 2020 年的回顧資料出來：「Backblaze Hard Drive Stats for 2020」。
整體的 AFR (Annualized Failure Rate) 在 0.93% 左右，而如果照品牌拆開，HGST 的數字依然是最漂亮的 (雖然他現在是 WD 的品牌)，大約在 0.36% 左右 (111/(1083774+4663049+372000+820272+275779+3968475))，Toshiba 次之，大約低了平均值一些落在 0.89%，而 Seagate 光是看就就知道會超過 1%...
官方有提到，低於 250,000 drive days 以下的數據僅供參考，因為資料量太少，在統計上無法提供結論：
For drives which have less than 250,000 drive days, any conclusions about drive failure rates are not justified. There is not enough data over the year-long period to reach any conclusions. We present the models with less than 250,000 drive days for completeness only.
然後 WD 本家的硬碟回到戰線了，記得之前基本上算是被唾棄 XDDD
另外一張表則是講到這三年的情況，可以看出來 2020 年的 AFR 數字降了不少，裡面也解釋了為什麼 (看起來就是活下來的穩下來了...)：
The answer: It was a group effort. To start, the older drives: 4TB, 6TB, 8TB, and 10TB drives as a group were significantly better in 2020, decreasing from a 1.35% AFR in 2019 to a 0.96% AFR in 2020. At the other end of the size spectrum, we added over 30,000 larger drives: 14TB, 16TB, and 18TB, which as a group recorded an AFR of 0.89% for 2020. Finally, the 12TB drives as a group had a 2020 AFR of 0.98%. In other words, whether a drive was old or new, or big or small, they performed well in our environment in 2020.
在「Backblaze Hard Drive Stats Q2 2020」這邊又有資料可以看啦，主要是這張表：
比較讓我注意到的是，其中有個一千台的 HUH728080ALE600，AFR 居然是 0.00%，仔細看算了一下發現應該是弄來一批貨，上線約三個月 (91 天)，而目前還沒有壞掉而已...
不過 HUH728080ALE600 這個料號很有趣啊，在搜尋的時候發現 Ptt 上 2018 年的文章「Re: [請益] 關於HUH728080ALE604 這顆8t硬碟」這邊有提到這個號碼，裡面有猜測這個料號的來源：
查了一下發現有趣的事實 國外資料都指出,OEM的原廠HGST沒有給予保固 且驗證序號會是無效的序號 但中國地區驗證 OEM序號卻是有效 所以合理懷疑HGST將生產過剩的 OEM產品轉到中國銷售? 並將這些 OEM序號登錄至HGST資料庫內 當然這些標籤都是貼HGST的, 貼DELL或HP標的都是查無有效序號 而且這些都是保五年, 保固低於五年可能就是有問題的 HUH728080ALE600 是目前有看到在中國銷售的 當然這都是沒有外盒包裝
不知道 Backblaze 是怎麼弄到這批貨的...
不過就算不管這批貨，HGST 整體上看起來還是很不錯，不過現在掛 HGST 的應該都是庫存了。
Backblaze 丟出去年的報告了：「Backblaze Hard Drive Stats for 2019」。
WD/HGST 的還是最耐用，再來是 Toshiba 的，最後是 Seagate 的。
不過有一些硬碟沒有列到表上，像是「Seagate 16 TB Drives」這組因為 2019Q4 才剛裝上去，所以才 1440 drive days，因此還沒到門檻所以沒放進報告，但就 Backblaze 測試起來看起來是個好的開始：
In Q4 2019 we started qualifying Seagate 16 TB drives, model: ST16000NM001G. As of the end of Q4 we had 40 (forty) drives in operation, with a total of 1,440 drive days—well below our 5,000 drive day threshold for Q4, so they didn’t make the 2019 chart. There have been 0 (zero) failures through Q4, making the AFR 0%, a good start for any drive. Assuming they continue to pass our drive qualification process, they will be used in the 12 TB migration project and to add capacity as needed in 2020.
再來是把 2017/2018/2019 擺在一起看：
馬上可以看到的是 AFR 上升了不少，一個是因為 8TB 系列的硬碟進入中年期，另外是 Seagate 12TB 硬碟的問題：
The total AFR for 2019 rose significantly in 2019. About 75% of the different drive models experienced a rise in AFR from 2018 to 2019. There are two primary drivers behind this rise. First, the 8 TB drives as a group seem to be having a mid-life crisis as they get older, with each model exhibiting their highest failure rates recorded. While none of the rates is cause for worry, they contribute roughly one fourth (1/4) of the drive days to the total, so any rise in their failure rate will affect the total. The second factor is the Seagate 12 TB drives, this issue is being aggressively addressed by the 12 TB migration project reported on previously.
所以大原則還是跟以前差不多，沒有時間特別研究的話就先往 WD/HGST 這邊找...
在「How Backblaze Buys Hard Drives」這篇裡面提到了 Backblaze 採購硬碟的策略，可以看到完全都是偏成本走向，所以裡面的策略一般個人用不太到，一般企業也不應該照抄，但拿來看看還蠻有趣的...
像是因為硬碟太多，所以硬碟的使用電量是他們在評估成本時蠻重要的一環，這點在一般的情境下不太會考慮到：
Power draw is a very important metric for us and the high speed enterprise drives are expensive in terms of power cost. We now total around 1.5 megawatts in power consumption in our centers, and I can tell you that every watt matters for reducing costs.
另外也提到了 SMR 硬碟的特性，在單位成本雖然有比較高的容量，但導致架構面需要配合 (cache)，而也會有工程端的成本提昇，所以不是很愛：
SMR would give us a 10-15% capacity-to-dollar boost, but it also requires host-level management of sequential data writing. Additionally, the new archive type of drives require a flash-based caching layer. Both of these requirements would mean significant increases in engineering resources to support and thereby even more investment. So all-in-all, SMR isn’t cost-effective in our system.
成本面上，他們觀察到的現象是每季會降 5%～10%：
Ideally, I can achieve a 5-10% cost reduction per terabyte per quarter, which is a number based on historical price trends and our performance for the past 10 years.
另外提到了用 SAS controller 可以接多個 SATA 硬碟的事情 (雖然還是成本考量)，但這塊也蠻有趣的：
Longer term, one thing we’re looking toward is phasing out SATA controller/port multiplier combo. This might be more technical than some of our readers want to go, but: SAS controllers are a more commonly used method in dense storage servers. Using SATA drives with SAS controllers can provide as much as a 2x improvement in system throughput vs SATA, which is important to me, even though serial ATA (SATA) port multipliers are slightly less expensive. When we started our Storage Pod construction, using SATA controller/port multiplier combo was a great way to keep costs down. But since then, the cost for using SAS controllers and backplanes has come down significantly.