Tag: tensor

Amazon EC2 推出 G4 系列機器

這次 Amazon EC2 更新了 G 系列的機器，其實會特地寫文章主要是在複習 P 系列與 G 系列的差異 (每次都記不起來到底哪個是給科學運算用的)：「Now Available – EC2 Instances (G4) with NVIDIA T4 Tensor Core GPUs」。

EC2 上的 GPU Instances 分成兩條線在發展，一條是 P 系列，另外一條是 G 系列，都是使用 Nvidia 的產品線。

從「Amazon EC2 Instance Types」這邊的「Accelerated Computing」可以看到每條產品線用了哪些型號 (扣掉 FPGA 的 F1)：

  • P3：Up to 8 NVIDIA Tesla V100 GPUs, each pairing 5,120 CUDA Cores and 640 Tensor Cores
  • P2：High-performance NVIDIA K80 GPUs, each with 2,496 parallel processing cores and 12GiB of GPU memory
  • G4：NVIDIA T4 Tensor Core GPUs
  • G3：NVIDIA Tesla M60 GPUs, each with 2048 parallel processing cores and 8 GiB of video memory

查了資料發現雖然時間點不同，但這四個都列在「Nvidia Tesla」這邊，裡面也沒有太多說明，所以還是看不出來差異，之後要碰到的時候再來還這個知識債好了...

Bitmain 推出 AI chip

Bitmain 在 Bitcoin ASIC 市場上算是很有名的，就利用作 ASIC 的經驗推出自己的 AI chip 了：「Bitcoin’s Biggest Tech Player to Release AI Chips and Computers」。

這樣除了可以在雲端上租用 Google Cloud Platform 的 Cloud TPU 以外，也可以自己買硬體來算了 (雖然軟體的支援應該還要再等)：「Tensor Computing Processor BM1680」。

AlphaGo 不是使用 GPU 加速...

Google 今天公佈的資料中說明了 AlphaGo 不是用一般常見的 GPU 加速運算：「Google supercharges machine learning tasks with TPU custom chip」。

這是特別為 TensorFlow 製作的 ASIC：

The result is called a Tensor Processing Unit (TPU), a custom ASIC we built specifically for machine learning — and tailored for TensorFlow.

而 AlphaGo 用的版本是 TPU 版：

AlphaGo was powered by TPUs in the matches against Go world champion, Lee Sedol, enabling it to "think" much faster and look farther ahead between moves.

放 AlphaGo 的機櫃長這樣：

通常 ASIC 特製的版本會比 FPGA 或是 GPU 快上許多，這代表目前這些沒有大公司撐腰的圍棋軟體要跟 AlphaGo 拼，除非演算法上有重大的突破，不然就得用更大量的設備跟他換...