Tag: license

目前可商用的 LLM

在 Ask Hacker News Weekly 上看到的討論，有人問了目前可商用的 LLM 有哪些：「Ask HN: Open source LLM for commercial use?」。

有人提到 Google 的 Flan 應該是目前最能打的？在 Hugging Face 上可以下載到：

I've seen this question asked repeatedly in many LLaMa threads, currently the best models that are truly open are the released models from the Flan family by Google, which includes Flan-T5[0] and Flan-UL2[1]. According to its paper, Flan-UL2 performs slightly better than Flan-T5-XXL.

然後差不多是 GPT-3 的等級，離 GPT-3.5 或是演伸出來的 ChatGPT 都還有段距離。但如果針對特定情境下 tune 的話應該還是能用的：

These models perform slightly better than GPT-3 under some tasks[2], but they're still far from achieving the results from GPT-3.5 and GPT-4. This becomes evident when you try to use them in the real world; they're not "good enough" for general use cases, unlike ChatGPT models. However, if you can restrict your use case to one particular domain, you can achieve pretty good results by further fine-tuning these models.

另外一則回覆有提到一些其他的 model：

The ones I saw mentioned so far were Flan, Cerebras, GPT-J, and RWKV.

Not yet mentioned:

* Pythia https://github.com/EleutherAI/pythia

* GLM-130B https://github.com/THUDM/GLM-130B - see also ChatGLM-6B https://github.com/THUDM/ChatGLM-6B

* GPT-NeoX-20B https://huggingface.co/EleutherAI/gpt-neox-20b

* GeoV-9B https://github.com/geov-ai/geov

* BLOOM https://huggingface.co/bigscience/bloom and BLOOMZ https://huggingface.co/bigscience/bloomz

看起來如果有需要用的話是可以從這裡面挖看看...

Linux 6.2 的 Btrfs 改進

在 Hacker News 上看到 Btrfs 的改善消息：「Btrfs With Linux 6.2 Bringing Performance Improvements, Better RAID 5/6 Reliability」，對應的討論在「 Btrfs in Linux 6.2 brings performance improvements, better RAID 5/6 reliability (phoronix.com)」這邊。

因為 ext4 本身很成熟了，加上特殊的需求反而會去用 OpenZFS，就很久沒關注 Btrfs 了，這次看到 Btrfs 在 Linux 6.2 上的改進剛好可以重顧一下情況。

看起來是針對 RAID 模式下的改善，包括穩定性與效能，不過看起來是針對 RAID5 的部份多一點。

就目前的「情勢」看起來，Btrfs 之所以還是有繼續被發展，主要還是因為 OpenZFS 的授權條款是 CDDL，與 Linux kernel 用的 GPLv2 不相容，所以得分開維護。

但 OpenZFS 這邊的功能性與成熟度還是比 Btrfs 好不少，以現階段來說，如果架構上可以設計放 OpenZFS 的話應該還是會放 OpenZFS...

Decompile to C 的工具

昨天在 Hacker News 上看到「Decompiler Explorer (dogbolt.org)」這篇，裡面列出了很多 Decompile to C 的工具 (就不用直接硬看 assembly)，包括了 open source 與商用軟體：

網站本身則是提供界面可以交叉比較，不過各家的結果看起來還是有侷限...

GitHub Copilot 宣佈 GA

GitHub Copilot 宣佈 GA：「GitHub Copilot is generally available to all developers」，Hacker News 上的討論可以看一下：「GitHub Copilot is generally available (github.blog)」。

價錢也出來了，US$10/mo 或是 US$100/year：

We’re making GitHub Copilot, an AI pair programmer that suggests code in your editor, generally available to all developers for $10 USD/month or $100 USD/year. It will also be free to use for verified students and maintainers of popular open source projects.

不過重點不是價錢，而是還沒有被挑戰過的 license 問題，像是在 Hacker News 上有人提到有些程式碼的授權是有感染性的 GPL 類的，這些在法院上還沒有被戰過。

不過還是很看好這個服務，畢竟可以處理掉很多無聊的 coding 時間... 查了一下發現 Neovim 已經有支援了，似乎可以來看看要怎麼玩 :o

原來 ISC 自己已經不用 ISC license 了

查資料的時候翻到「ISC Software Licenses」這頁，發現從 2015 年開始 ISC 就打算換掉原先的 ISC license，陸陸續續都轉移到 MPL 2.0...

在維基百科的頁面上可以看到一些說明，包括 Kea、BIND 與 ISC DHCP 都已經換完了：

In 2015, ISC announced they would release their Kea DHCP Software under the Mozilla Public License 2.0, stating, "There is no longer a good reason for ISC to have its own license, separate from everything else". They also preferred a copyleft license, stating, "If a company uses our software but improves it, we really want those improvements to go back into the master source". Throughout the following years, they re-licensed all ISC-hosted software, including BIND in 2016 and ISC DHCP Server in 2017.

不過 INN 還是維持著 ISC license，應該是因為不算是 ISC 的正式產品？

LLVM 的更換授權進展

在 Hacker News Daily 上看到「LLVM relicensing update & call for help」這篇，在講 LLVM 計畫從 UIUC license 與 MIT license 授權轉成 Apache License 2.0 的進展，在 Hacker News 上的討論「LLVM relicensing update and call for help (llvm.org)」也可以翻一下。

目前的規劃是這樣：

文章開頭還是先花了一些篇幅解釋，這個計畫主要是要處理專利的問題，原先的 developer policy 對於專利的句子太粗糙，會授權過多的權力給 LLVM。這對於一般個人可能影響不大，但對於手上有一卡車專利的公司來說就不太願意了。

另外一個問題是 LLVM 遇到的問題，因為 runtime library 的部份是用 UIUC license + MIT license 授權，但主體是用 UIUC license 授權，這使得主體的程式碼不能隨意搬到 runtime library 裡面：

The run time libraries were dual licensed under the UIUC and MIT license; the rest of the code only under the UIUC license. Therefore, we could not easily move code to run time libraries from other parts. The reason run time libraries were dual licensed was to enable linking to run time library binaries without requiring attribution to LLVM.

因為這些目標，所以新的授權會是 Apache License 2.0 為主，裡面有設計還算合理的專利授權條件，另外大家也算熟悉，再來是針對 object code 以及 GPLv2 設計了例外條款：

As an exception, if, as a result of your compiling your source code, portions of this Software are embedded into an Object form of such source code, you may redistribute such embedded portions in such Object form without complying with the conditions of Sections 4(a), 4(b) and 4(d) of the License.

In addition, if you combine or link compiled forms of this Software with software that is licensed under the GPLv2 ("Combined Software") and if a court of competent jurisdiction determines that the patent provision (Section 3), the indemnity provision (Section 9) or other Section of the License conflicts with the conditions of the GPLv2, you may retroactively and prospectively choose to deem waived or otherwise exclude such Section(s) of the License, but only in their entirety and only with respect to the Combined Software.

在「Long tail of individuals and corporations without a relicensing agreement yet」這邊有目前還沒有同意重新授權的人以及團隊的資料，看起來不會是每個人都願意重新授權，到時候可能還得再挑出來重寫，但有些可以獨立出來的可能可以維持，畢竟 UIUC licesne 與 MIT license 都是 permissive license，只要放到另外一個目錄下，大家知道不是 Apache License 2.0 就還好...

MangoDB：拿 PostgreSQL 當作後端的 MongoDB 相容層

在 Hacker News Daily 上看到「A truly Open Source MongoDB alternative」這個東西，在「MangoDB: An open-source MongoDB alternative (mangodb.io)」的討論也可以翻一翻。

MongoDB 最主要的問題就是 4.0 以及以後的版本變成 SSPL 後就不是 open source license 了。

而 MangoDB 是個 Proxy service，前端提供 MongoDB 的協定，後端則是 PostgreSQL。

在 GitHub 上的「MangoDB-io/MangoDB」這邊可以看到 MangoDB 主要是用 Golang 寫的，軟體授權則是 Apache License 2.0。

The core of our solution is a stateless proxy, which converts MongoDB protocol queries to SQL, and uses PostgreSQL as a database engine. This will be compatible with MongoDB drivers, and should work as a drop-in replacement to MongoDB in many cases.

這對於只有提供 MongoDB 當儲存層的軟體來說會是個替代方案。不過如果是自己開發的話，這其實也證明了可以直接用 PostgreSQL，基本上 MongoDB 的功能都可以在 PostgreSQL 上找到方案。

話說這個讓我想到 2019 年 AWS 推出 Amazon DocumentDB 的時候，大家都一直在猜 Amazon DocumentDB 是不是拿 PostgreSQL 前面加上一些東西 (參考「大家在猜 Amazon DocumentDB 的底層是不是 PostgreSQL...」)，後來也有人發現再更早之前就有人 PoC 過了：「A proof of concept MongoDB clone built on Postgres (github.com/jerrysievert)」，現在一般的公認應該就是，只是 AWS 沒有 open source 出來。

目前 MangoDB 還在早期的階段，但看起來這波應該會有一些能量進去幫忙...

OpenSSL 3.0 釋出，使用 Apache License 2.0

OpenSSL 3.0 推出了，這是轉換到 Apache License 2.0 後的第一個正式版本：「OpenSSL 3.0 Has Been Released!」。

中間跳過 2.0 的原因在維基百科上也有提到，因為之前被 OpenSSL FIPS module 用掉了：

The major version 2.0.0 was skipped due to its previous use in the OpenSSL FIPS module.

雖然 3.0.0 看起來是大版本，不過主要的功能都在 OpenSSL 1.1.1 先加進去了，沒有什麼特別的理由現在就要升級到 3.0.0...

用 Podman 替代 Docker？

也是因為最近 Docker Desktop 改變授權的關係 (參考先前寫的「Docker Desktop 要開始對商用收費了，以及 Open Source 版本的設法」這篇)，有不少人在講怎麼用 Podman 替代 Docker，不過要注意這邊的替代不是 drop-in replacement，而是功能上的替代。轉移的過程還是得花一些時間處理...

在 Mac 上面的範例大多都是用 Homebrew，我在 MacPorts 上也有看到套件：「podman」，看起來好像得多裝 qemu，但即使把 qemu 裝起來，也還是不會動... 後續因為沒有需求，加上先前已經把 Docker CLI 的版本弄好了，暫時就沒再多研究要怎麼跑起來。

另外有人寫了「Migrating from Docker to Podman」這篇，在「GUI Replacement」的部份還介紹了對應的 GUI 方案，也可以參考看看。

跟以前的養套殺類似，都會推動一些 open source 替代方案的成熟度，以這次的情況看起來這些能量有很大一部份都會進到 Podman 裡面，對於個人用戶也可以再放幾個月看看是不是要跳槽過去。