DeepMind 丟出新聞稿,提到了 Gopher 這個比 OpenAI 家的 GPT-3 更暴力的 language model:「Language modelling at scale: Gopher, ethical considerations, and retrieval」。
GPT-3 是 175 billion 個參數,Gopher 則是拉到 280 billion,加上 tune 了不少東西,在成績上面可以看出來好不少:
另外是主打反歧視與倫理道德標準 (在「Ethical and social risks from Large Language Models」這邊提到)。
看起來主要是推出對應的產品,跟 OpenAI 家對打...