幹壞事是進步最大的原動力
本來花了一些功夫整理了一下 KataGo + Lizzie 純 CPU 版本在 Windows 上的安裝方式 (在「KataGo/Windows」這邊)，後來找了一下發現早就有人做的更簡單了：「BadukMegapack」。
底層的部份除了可以選擇裝 KataGo 外，也可以選擇目前已經停止維護的 Leela Zero，或是 SAI、AQ 與 Ray。
而界面的部份除了可以用 Lizzie 外 (而且還是改過的加強版 XD)，還可以選其他的界面... 除此之外還連 JVM (Java 8) 都一起拉進來幫你裝。
看起來算是包的好好的... 看起來最困難的應該是弄一張高階顯卡了？
我用 Packer 包了一個將 Lizzie (界面) + KataGo (引擎) 打包成 Amazon EC2 AMI 的設定：「packer-katago」。
這個組合應該是目前圍棋棋手最常拿來分析棋譜的工具，與之前常用的 Lizzie + Leela Zero 的差異在於 KataGo 可以分析勝率與目數，而 Leela Zero 則只能分析勝率。(參考之前寫的「用更少訓練時間的 KataGo」這篇)
早期的 KataGo 強度還沒有很強，一般還是會與 Leela Zero 交叉換著分析，但最近幾個版本的強度比之前好很多，目前看起來已經超過 Leela Zero 了 (可以參考 CGOS Whole Period Ratings for 19x19 Board 這邊列出來的排名)，另外就 YouTube 上看起來，蠻多棋手應該都是改用 KataGo 了...
不過不管是 Leela Zero 還是 KataGo 都需要夠強的 GPU 運算，之前就算用 GTX 1080 Ti 也還是覺得不夠快，就丟到 AWS 上面用看看，順便練一下手，熟悉 Packer 怎麼用。
我是設計成用 IceWM + VNC，連進去後左下的選單裡面就會有 Lizzie 可以選：
第一次跑起來會比較久，我在 p3.2xlarge 的機器上大約要等個三四分鐘，然後就會出現數字了：
看了一下運算的速度還不錯，用 spot instance 開的話，成本上應該還可以接受 (剛剛的 p3.2xlarge 是 USD$0.918/hr)。
最近開始在不同的地方會看到 KataGo 這個名字 (Twitter 與 YouTube 上都有看到)，翻了一下資料發現是在訓練成本上有重大突破，依照論文的宣稱快了五十倍...
在第一次跑的時候，只用了 35 張 V100 跑七天就有 Leela Zero 第 130 代的強度：
The first serious run of KataGo ran for 7 days in Februrary 2019 on up to 35xV100 GPUs. This is the run featured in the paper. It achieved close to LZ130 strength before it was halted, or up to just barely superhuman.
而第二次跑的時候用了 28 張 V100 跑 20 blocks 的訓練，跑了 19 天就已經超越 Facebook 當初提供的 ELFv2 版本，而對應到 Leela Zero 大約是第 200 代左右的強度 (要注意的是在 Leela Zero 這邊已經是用 40 blocks 的結構訓練了一陣子了)：
Following some further improvements and much-improved hyperparameters, KataGo performed a second serious run in May-June a max of 28xV100 GPUs, surpassing the February run after just three and a half days. The run was halted after 19 days, with the final 20-block networks reaching a final strength slightly stronger than LZ-ELFv2! (This is Facebook's very strong 20-block ELF network, running on Leela Zero's search architecture). Comparing to the yet larger Leela Zero 40-block networks, KataGo's network falls somewhere around LZ200 at visit parity, despite only itself being 20 blocks.
從論文裡面可以看到，跟 Leela Zero 一樣是逐步提昇 (應該也是用 Net2Net)，而不是一開始就拉到 20x256：
In KataGo’s main 19-day run, (b, c) began at (6, 96) and switched to (10, 128), (15, 192), and (20, 256), at roughly 0.75 days, 1.75 days, and 7.5 days, respectively. The final size approximately matches that of AlphaZero and ELF.
訓練速度上會有這麼大的改善，分成兩個類型，一種是一般性的 (在「Major General Improvements」這章)，另外一類是特定於圍棋領域的改進 (在「Major Domain-Specific Improvements」這章)。
在 Leela Zero 的 issue tracking 裡面也可以看到很多關於 KataGo 的消息，看起來作者也在裡面一起討論，應該會有一些結果出來...
看到「圍棋ＡＩ與ＡＷＳ」這篇譯文，原文是「囲碁AIブームに乗って、若手棋士の間で「AWS」が大流行 その理由とは？」。
沒有太意外是使用 Leela Zero + Lizzle，畢竟這是 open source project，在軟體與資料的取得上相當方便，而且在好的硬體上已經可以超越人類頂尖棋手。
由於在 Lizzle 的介面上可以看到勝率，以及 Leela Zero 考慮的下一手 (通常會有多個選點)，而且當游標移到這些選點上以後，還會有可能的變化圖可以看，所以對於棋手在熟悉操作介面後，可以很快的擺個變化圖，然後讓 Leela Zero 分析後續的發展，而棋手就可以快速判斷出「喔喔原來是這樣啊」。
網路上也有類似的自戰解說，可以看到棋手對 Lizzle 的操作與分析 (大約從 50:50 開始才是 Lizzle 的操作)：
不過話說回來，幹壞事果然是進步最大的原動力... 讓一群對 AWS 沒什麼經驗的圍棋棋手用起 AWS，而且還透過 AMI 與 spot instance 省錢... XD
Leela 的作者 Gian-Carlo Pascutto 依照 paper 的描述寫完了，放在 GitHub 上的 gcp/leela-zero：
I made an open source re-implementation of AlphaGo Zero: https://t.co/p8H6gGohA1
It just needs a good weights file.
— Gian-Carlo Pascutto (@gcpascutto) October 24, 2017
不過他在 Twitter 上也提到了，open source 實做不是真正的困難，真正的困難在於訓練完的資料，那個部份需要大量的成本才有辦法作到：
Every redditor is asking to opensource AlphaGo Zero, when all we really need are those last 500k self-play games.
— Gian-Carlo Pascutto (@gcpascutto) October 19, 2017
另外他推估 AlphaGo Zero 的計算量是 1700 年 (以 1080 Ti 來計算)：「[Computer-go] Zero performance」。
另外 Leela 0.11.0 也推出了，還是先維持 policy + value 的方式，但引入了不少新演算法加強。另外一個蠻特別的地方是 Windows 版改用 clang 而變快不少：
Windows version is now compiled with Clang/LLVM 5.0 instead of MSVC2017. This makes the Monte Carlo evaluations about 15% faster.
雖然 DeepMind 說要收手，但還是留下不少方向讓大家走...
這邊講的不是對人下的，而是電腦之間的對弈。
目前大多數的對弈軟體會到「CGOS - A Go Server Just for Computers」這邊對弈，當然目前最紅的是一般 (人類) 正式比賽用的 19x19 棋盤，數子採用中國規則 (相當於貼 7.5 目)。
不過與常見的正式比賽比較不一樣的是採用包干制，每方限時 15 分鐘，超時就直接裁定敗，不過有個小例外：
CGOS silently adds a fraction of a second to each players clock for each move played.
要把圍棋程式接到 CGOS 上面需要兩段程式，一段是 Go Engine 本身要支援 Go Text Procotol (GTP)，另外一段是把 GTP 接到 CGOS。
前面 Go Engine 的部份，目前不少圍棋軟體都有支援 GTP，像是 Leela 或是 Ray。
後者一般會用 Python CGOS Client。
其中比較特別的是 CGOS 的帳號密碼，帳號只允許 18 個字，另外沒有帳號申請系統，第一次用什麼帳號他就自動記錄起來，之後就要用這組。
# config.cfg Common: KillFile = kill.txt # First engine GTPEngine: Name = Leela090-test CommandLine = ./leela090-gtp.sh ServerHost = yss-aya.com ServerPort = 6819 ServerUser = Leela090-test ServerPassword = mypassword NumberOfGames = 1 SGFDirectory = sgf
然後建立 sgf 目錄存棋譜後，用 python bin/cgosclient.py config.cfg 跑起來。當你 touch kill.txt 後，下一盤棋就會自己結束 (預設是一直下)。
再來是裡面提到的 leela090-gtp.sh：
#!/bin/bash exec /usr/bin/nice -n 20 $(dirname $0)/leela_090_linux_x64_opencl -g -t 8 -b 50 -q -l /tmp/leela090-gtp.log
這邊跑的是 OpenCL 版本，你也可以跑 CPU 版。其中 -g 是 GTP mode，-t 是 CPU thread 數量，-b 是 network latency penalty (避免超時)，-q 是 quiet mode，-l 是 log。