Tag: system

Relational Database System (RDBMS) 運作的方式

在「How does a relational database work」這篇文章用了很長的篇幅講「資料庫如何把 SQL query 轉換為實際的操作」：

I’ll focus on what I think is essential: the way a database handles an SQL query.

資料庫也是人寫出來的，資料結構與演算法也是人設計出來的。你現在手上有資料，要怎麼把 SQL query 變成有效率的查詢操作行為，就是這篇文章在描述的。

看起來連 JOIN 的機制也講了不少...

KKBOX 徵人：平台營運處 (API Team)

索引：

續上篇的「KKBOX 徵人」，順便跟 Client Team 的同事徵文，等他寫完後也會貼出來讓大家知道 Client Team 目前找什麼人。

Server Team 這邊徵人的部份順著每個部門說明，這次先講平台營運處 (API Team)。

曲庫開發部

曲庫開發部，負責接唱片公司所提供的 API 以及 DDEX 資料，將這些資料半自動或是自動化整合到 KKBOX 的系統內。

另外這個部門在某些情況下，會需要寫程式特殊處理曲庫資料。舉例來說，前陣子金牌大風被華納音樂集團併購，這時候就有授權單位轉移的工作要做。

人工上架的系統也是這個部門開發，由公司另外的部門作業。

API 開發部

API 開發部，負責開發與維護 KKBOX 應用程式的 API。

平台開發部

平台開發部，負責系統建制。我用條列的方式試著列一些出來：(應該是列不完)

  • 搜尋引擎的設計與維運，目前現在是使用 Solr，正在研究翻新成 Elasticsearch。
  • 與曲庫開發部合作，像是音檔轉檔與 DRM 機制。
  • 與 API 開發部合作，像是依照商業邏輯選擇使用我們自己租用的國際頻寬，或是使用 Akamai 供應音檔。
  • 各種通靈業務。

影音服務開發部

影音相關的研發，也是偏 Server Side 的部份。

找什麼樣的人？

不限於這些，可以是聯集也可以有其他技能：

  • 系統分析、系統設計 (SA & SD)，包括了以上業務的分析與設計，主管會調度分配對應的項目。
  • Java 工程師 (以及資深工程師)，目前主要是針對平台開發部的搜尋引擎。
  • PHP 工程師 (以及資深工程師)，這邊提到的四個部門都有在找。
  • Full Stack Engineer，平台開發部與影音服務開發部都有找。

待續...

冨樫中...

Facebook 因為 Connection Pool 選擇機制，加上系統的複雜性而導致的慘案...

Facebook 的 engineer 寫了一篇文章，說明他們花了超過兩年的時間找到一個 bug：「Solving the Mystery of Link Imbalance: A Metastable Failure State at Scale」。

整個故事是個通靈的故事...

Facebook 在底層的架構使用了 Link Aggregation 的規劃，多條線路 channel bonding 在一起連到骨幹上。但發現有時候會卡在某一條線路壅塞而導致 system failure。

於是就一路追下去，從 switch 本身開始懷疑，最後去組織跨部門的研究小組跳下去分析 (通靈)。後來才觀察到是因為 connection pool 的機制本身用的演算法在 Facebook 這個複雜的系統架構下造成的慘案...

當 query burst 發生時，Facebook 的系統會同時到 50～100 組資料庫撈資料出來寫入 cache，而 connection pool 的機制用的是 MRU (Most Recently Used)，從 congestion link 回來的 connection 會在 pool 裡面的最上方，於是就愈來愈塞...

知道問題後，解決的方法就簡單多了。只是把 connection 選擇演算法從 MRU 換成 LRU 後就解決了，但中間用了超過兩年的時間，以及至少 30 個人的努力才把問題找出來並且解決。

可以看到最後銘謝的對象一卡車：

Thanks to all of the engineers who helped us manage and then fix this bug, including James Paussa, Ernesto Ovcharenko, Mark Drayton, Peter Hoose, Ankur Agrawal, Alexey Andreyev, Billy Choe, Brendan Cleary, JJ Crawford, Rodrigo Curado, Tim Eberhard, Kevin Federation, Hans Fugal, Mayuresh Gaitonde, CJ Infantino, Mark Marchukov, Chinmay Mehta, Murat Mugan, Austin Myzk, Gaya Nagarajan, Dmitri Petrov, Marco Rizzi, Rafael Rodriguez, Steve Shaw, Adam Simpkins, David Swafford, Wendy Tobagus, Thomas Tobin, TJ Trask, Diego Veca, Kaushik Veeraraghavan, Callahan Warlick, Jason Wilbanks, Jimmy Williams, and Keith Wright.

最後附上 Facebook 解釋的圖：

分散式系統的基礎理論

這篇「Distributed systems theory for the distributed systems engineer」列出了分散式系統的許多理論，以及後來開發的經典應用。

這篇文章是回答 Cloudera 的某位全職員工而寫的，所以避開了太學術性質的論文，而是夾雜比較容易讀的解釋文章，以及維基百科的資料。

文章裡出現很多有聽過但是沒有深入了解過的詞彙。這篇介紹文章可以當作入口點...

資料結構、RDBMS、ORM

欠了很久的雜記。既然是雜記，只是把一些事情記錄下來，許多句子的主題會跳來跳去，請多見諒。

先解釋標題的三個詞彙。這邊要講的是三種存取資料的方式：

  • 資料結構：直接操作最底層的資料結構。
  • RDBMS (Relational Database Management System，關聯式資料庫)：透過 RDBMS 存取資料的方式，在 open source 領域比較常遇到 MySQL 與 PostgreSQL。由於與下面的 ORM 比較，這一條指的是透過 SQL query 去存取資料。
  • ORM (Object-Relational Mapping)：透過程式語言的 object 以及 object 之間的關聯性存取資料。

彈性最高、效能也最好的是直接的資料存取，但寫起來也最複雜；而 ORM 大致上就是反過來。

現代的 RDBMS 大多都有實做 ACID，在自己操作資料結構時考慮這塊會比較辛苦。兩個層級之間有一些 library 試著解決這個問題 (像是 BerkeleyDB 或是 LevelDB)，不過這篇文章暫時跳過。

MySQL 與其他的 RDBMS 比較起來欠了許多東西，但 High Availability 的成熟度以及效能而成為 open source 的第一選項。而也因為許多人使用，大家都知道 MySQL 的先天限制，也有許多 workaround 出現，所以大多數的狀況下這不是問題。

MySQL 的 InnoDB 其實寫的相當不錯，但 MySQL 的 SQL parser 一直都是 MySQL 的痛處，所以許多人使用 MySQL 時會儘量使用 simple query，而 ORM 的特性剛好可以搭上風。

使用 ORM 時最常見要避免的是 N+1 的問題，其他常見到的問題大多都不是 ORM 專有的。

先整理到這邊。

Facebook 的主程式碼放在 Git？

在一月時，Facebook 官方的 Engineering Blog 上提到 Facebook 使用 Mercurial 遇到的問題，以及所作的努力「Scaling Mercurial at Facebook」：

Facebook's main source repository is enormous--many times larger than even the Linux kernel, which checked in at 17 million lines of code and 44,000 files in 2013.

...

Instead, we chose to improve Mercurial. Mercurial is a distributed source control system similar to Git, with many equivalent features.

當時的解讀是 Facebook 把 main source repository 放到 Mercurial 上。

以 Facebook 的規模以及遇到的問題，是有能力直接改變世界的，用 Mercurial 或是 Git 都算是合理的選擇。

不過這幾天在 Twitter 上看到：

這讓人錯亂了啊 XDDD

把 Git commit 切開

在「Split a commit in two with Git」這邊看到有趣的方法：

git rebase -i <oldsha1>
# mark the expected commit as `edit` (replace pick in front of the line), save a close
git reset HEAD^
git add ...
git commit -m "First part"
git add ...
git commit -m "Second part"
git rebase --continue

squash 是把多個 commit 合起來，這個方法是拆開。還沒有 push 出去，需要整理時應該會用到...

Leslie Lamport 拿下 2013 年圖靈獎 (Turing Award)

Leslie Lamport - A.M. Turing Award Winner：

For fundamental contributions to the theory and practice of distributed and concurrent systems, notably the invention of concepts such as causality and logical clocks, safety and liveness, replicated state machines, and sequential consistency.

分散式系統領域的老大與 LaTeX 的發明人...

Machine Learning 的課程 (2013 年一月開課，已經完結)

在「推薦系統的課程...」這篇推薦了 2013 秋天的課程，不過整理舊文章的時候發現有另外一門講 Machine Learning 的課程已經結束 (不僅僅是 Recommendation System)。

CMU 的課程：「Introduction to Machine Learning」，課程都有 PDF slide 與錄影可以看。

相較於推薦系統，機器學習的課程比較篇理論，而且也比較廣泛，而推薦系統比較偏應用。