實做 MyRocks 的 Mark Callaghan 花五分鐘在 CIDR 2019 上介紹 LSM tree：「Geek code for LSM trees」。翻了一下發現 CIDR 是兩年辦一次，跟之前遇過的 conference 不太一樣...
投影片在「Diversity of LSM tree shapes」這邊可以看到，在五分鐘內講完的前提下規劃出的重點...
Tag: structure
Home » Posts tagged "structure"
HyperLogLog 與 Bloom Filter
看到 Facebook 在 Presto 裡增加使用 HyperLogLog 計算數量的能力，突然想到常常忘記這兩個拿準確度換速度的資料結構：「HyperLogLog in Presto: A significantly faster way to handle cardinality estimation」。
HyperLogLog (HLL) 是解決 Count-distinct problem 的資料結構，用很少的記憶體就可以給出一個誤差不大的值 (用 1.5KB 的空間處理十億等級的資料，誤差大約在 2%)，所以 Presto 利用這個資料結構引進了 APPROX_DISTINCT() 以及其他的函數，就很容易在 L2/L3 cache 裡運算，藉此大幅提昇速度。
Depending upon the problem at hand, we can achieve speed improvements of anywhere from 7x to 1,000x.
先前也提過 Reddit 也用 HLL 統計資料：「Reddit 在處理 Page View 的方式」。
Bloom Filter 也是在處理大量資料的問題，但這個資料結構的功能不太一樣，是給出「有沒有存在」，使用空間與誤差大約是 10 bits per key (1% false positive)，另外先前也有提到一些變形，可以提供其他功能。像是「Quotient filter」與「Cuckoo Filter：比 Bloom Filter 多了 Delete」。
Instagram 解決 Cassandra 效能問題的方法
在解決 Cassandra 效能問題中大概就 ScyllaDB 特別有名，用 C++ 重寫一次使得效能大幅改善。而 Instagram 的人則是把底層的資料結構換掉，改用 RocksDB (這公司真的很愛自家的 RocksDB...)：「Open-sourcing a 10x reduction in Apache Cassandra tail latency」。
主要原因是他們發現 Cassandra 在處理資料的部份會有 JVM 的 GC 問題，而且是導致 Cassandra 效能差的主要原因：
Apache Cassandra is a distributed database with it’s own LSM tree-based storage engine written in Java. We found that the components in the storage engine, like memtable, compaction, read/write path, etc., created a lot of objects in the Java heap and generated a lot of overhead to JVM.
然後在換完後測試可以看到效能大幅提昇，也可以看到 GC 的延遲大幅降低：
In one of our production clusters, the P99 read latency dropped from 60ms to 20ms. We also observed that the GC stalls on that cluster dropped from 2.5% to 0.3%, which was a 10X reduction!
比較一下這兩者的差異：在 ScyllaDB 是全部都用 C++ 改寫 (資料結構不換)，這樣就直接解決掉 JVM 的 GC 問題。在 Rocksandra 則是在 profiling 後挑重點換掉 (這邊看起來是處理資料的 code，直接換成 RocksDB)，另外順便把一些界面抽象化... 兩個不一樣的解法，都解決了 JVM 的 GC 問題。
Quotient filter
之前有提過「Cuckoo Filter：比 Bloom Filter 多了 Delete」，最近在「A general purpose counting filter: making every bit count」這邊看到 Quotient filter，也是類似 Bloom filter 的資料結構，但想要解決更多問題。
一般的 Bloom filter (BF) 會有這些問題：
- The inability to delete items
- Poor scaling out of RAM
- The inability to resize dynamically
- The inability to count the number of occurrences of each item, especially with skewed input distributions.
而文章裡提到的 Quotient filter (QF) 就是要解這些問題。另外還提到了 Rank-and-Select-based Quotient filter (RSQF) 以及 Counting Quotient filter (CQF)。雖然多了一些空間需求，但看起來解掉不少問題... (尤其是刪除的能力)
效能上也還不錯，尤其是讀取速度的部份... 不過不知道相對於 Cuckoo filter 差多少。
GitHub 的組織管理可以堆階層了...
GitHub 的組織管理可以堆階層了：「Nested teams add depth to your team structure」。
If you're a member of Engineering and someone creates a child team called Security, team members of Engineering aren't automatically direct team members of Security. Security and all other teams nested under the Engineering will inherit repository permissions and @mentions but nothing else.
包括了權限繼承的概念。
這功能等好久了，剛好最近會用到... 本來得硬幹做，現在看起來可以比較方便的管理了。
Reddit 在處理 Page View 的方式
Reddit 說明了他們如何處理 pageview：「View Counting at Reddit」。
以 Reddit 的規模有提到兩個重點，第一個在善用 Redis 的 HyperLogLog 這個資料結構，當量大的時候其實可以允許有微小的誤差：
The amount of memory varies per implementation, but in the case of this implementation, we could count over 1 million IDs using just 12 kilobytes of space, which would be 0.15% of the original space usage!
維基百科上有說明當資料量在 109 這個等級時，用 1.5KB 的記憶體只有 2% 的誤差值：
The HyperLogLog algorithm is able to estimate cardinalities of > 109 with a typical error rate of 2%, using 1.5 kB of memory.
第二個則是寫入允許短時間的誤差 (pageview 不會即時反應)，透過批次處理降低對 Cassandra cluster 的負荷：
Writes to Cassandra are batched in 10-second groups per post in order to avoid overloading the cluster.
可以注意到把 Redis 當作 cache 層而非 storage 層。
主要原因應該跟 Redis 定位是 data structure server 而非 data structure storage 有關 (可以從對 Durability 的作法看出來)，而使用 Cassandra 存 key-value 非常容易 scale，但讀取很慢。剛好兩個相輔相成。
在面試時的資料結構與演算法的問題
在「500 Data structures and algorithms interview questions and their solutions」這邊看到在 Quora 上整理出來的題目 (以及解答)。
每個題目下面也都有地方可以留言，等久一點應該會更豐富？
另外一個不錯的地方在於題目的分類，舉例來說，如果想要練習 Backtracking，可以去翻對應的題目出來練。
Cuckoo Filter：比 Bloom Filter 多了 Delete
在「Cuckoo Filter implementation in Go, better than Bloom Filters」這邊看到這個資料結構，有興趣的人也可以看「Cuckoo Filter：设计与实现」這篇介紹，下面是我抓重點整理。
Bloom Filter 支援的操作：
Add(element)Query(element)
1970 年提出來的資料結構。優點是空間複雜度是 O(1)，Query(element) 會有可接受的 false positive，缺點是不支援 Delete(element)、以及數量變多時誤判率的增加。
Cuckoo Filter 多了一組操作：
Delete(element)
2014 年提出來的資料結構。空間複雜度一樣是 O(1)，但相同的空間用量下 false positive 變低，然後支援 Delete(element) 了。也因此論文直接寫「Cuckoo Filter: Practically Better Than Bloom」，表示可以直接替代。
看到 zmx 貼了之前的連結，更確信 Uber 的問題不是技術問題了...
在 Twitter 上看到 zmx 提了一個連結，講 Uber 年初時貼的「How We Built Uber Engineering’s Highest Query per Second Service Using Go」這篇文章的問題：
TLDR;
Uber：傳統方式太複雜了根據我們資料特性自創一套高效能的空間索引服務。
前 Bing 員工：買了 Bing 怎麼不問專家啊？Quadtree 降兩個數量級啊，不然你們自創的做了這個小修改也是降兩個數量級啊！https://t.co/nHw1DgmYtU— Bill Zhong (@zmx) August 2, 2016
對照最近的事情還蠻有趣的，尤其是這篇文章後面提到的，酸～爆～了～XDDD：
It is clear to me that the team at Uber under-engineered this problem. Thoughtfully designing this service could trim down the number of nodes by an order of magnitude and save hundreds of thousands of dollars each year. That may sound like pittance to a company valued at more than the GDP of Delaware, but in my eyes that’s the salaries of a few engineers and a few good engineers can go a long way. Maybe even further than the few extra Mercedes-Benz S-Classes they could add to their fleet from the money they could be saving...
先不提政治問題，上面提到的 Quadtree 算是簡單易懂的結構，好久沒看到這個資料結構了：
MySQL 的 Index 設計技巧
Percona 的「Indexing 101: Optimizing MySQL queries on a single table」這篇講了最基本的 index 設計技巧，雖然文章裡沒提到，但最好是需要 B-tree 與 B+ tree 的背景知識。
MySQL 的 query 大致分成幾個階段。先決定要使用哪些 index (或是完全不用)，然後透過 index 抓出符合條件資料 (或是 table scan)，最後再細部過濾。
以文章裡提到的「Multiple inequalities」範例裡這樣的 SQL query 來討論：
SELECT * FROM t WHERE c > 100 and b < 10 and d = 'xyz'
如果 index 是 (d, c)，需要在透過這組 index 抓出資料後再過濾 b < 10 的條件。而如果 index 是 (d, b)，需要在取出資料後再過濾 c > 100 的條件。也就是 B+ tree 做不到的事情，就要另外 post-processing。
另外也有提到 covering index 對效能提昇的原理，不過這就有點屬於怪招了...