Blog
TabbyML挑戰GitHub Copilot：開源與自訂性是未來代碼生成器的王道
TabbyML挑戰GitHub Copilot：開源與自訂性是未來代碼生成器的王道
October 11, 2023
重點摘要：
新聞內文：
競爭開始加劇，以幫助人類編寫電腦代碼的AI助手的創作競賽也隨之升溫。由兩位前Google員工打造的「TabbyML」已經獲得320萬美元的種子融資，用於開發其開源代碼生成器。
與GitHub的Copilot不同，像TabbyML這樣的自托管編碼助手具有高度可自訂性的優勢，該新創公司的創辦人Meng Zhang建議：「我們相信未來所有公司在軟體開發方面都將有某種自定義需求」。
他在接受TechCrunch的訪問時補充說：「在專有軟體領域可能有更成熟和完整的產品，但如果我們將一個開源解決方案與GitHub的OpenAI動力工具進行比較，則後者有更多的限制」。
特別是對於大型企業，開源軟體能夠滿足需求。Lucy Gao，「Zhang」的創辦人，提出了這一觀點。獨立開發人員可能會在其項目中使用開源代碼，而企業內的工程師通常會提取該組織專有的代碼，因此對於Copilot來說是無法觸及的。
Gao解釋道：「例如，如果我的同事剛剛寫了一行代碼，我可以立刻引用它（使用TabbyML）」。
像其他類型的AI助手一樣，代碼生成器並不總是可靠的，因為它們可能充斥著錯誤。對於自托管解決方案，Gao認為這個挑戰「相對容易解決」。每當使用者選擇不採納TabbyML的建議或編輯其自動填充的代碼時，AI模型都會根據該訊息進行微調。
代碼生成器的目的是「協助人類程式人員」，而「不是取代他們」，並且已經出現了一些有希望的結果。GitHub在六月份發布的一份調查中顯示，Copilot使用者接受了該編碼助手生成的建議中的30％。Zhang引用了另一個他認為更具啟發性的數據：在最近的開發者活動中，Google宣布，有24％的軟體工程師每天使用其AI增強內部代碼編輯器「Cider」時，經歷了超過五次的「輔助時刻」。
在實施代碼生成器之後，決策者可能會考慮減少工程師人數，但Zhang也說明「事情並不那麼簡單。編碼不是生產線」。
TabbyML於四月份推出，截止目前在GitHub上已經獲得了大約11,000次星標。參與其最新輪的兩家投資者分別是雲端合夥人（Yunqi Partners）和ZooCap。
當被問及與GitHub Copilot這個龍頭的競爭時，Zhang主張，隨著其他AI模型變得更強大以及計算能力成本隨時間降低，OpenAI的優勢將逐漸減弱。
Zhang表示，GitHub和OpenAI的優勢源於它們能夠通過雲端部署具有數百億參數的AI模型。儘管這種大型模型的服務成本較高，但Copilot到目前為止已經透過請求批量處理，在一定程度上減少了開支。
然而，這種策略顯示出局限性：根據華爾街日報的報導，在今年年初的前幾個月，微軟平均每位GitHub Copilot使用者每月損失超過20美元。
相反地，Tabby的目標是透過建議基於10至30億參數訓練的模型來降低部署障礙，這種方法在短期內不可避免地會導致降低品質。
Zhang說「然而，隨著計算能力成本隨時間降低以及開源模型的品質不斷提高，GitHub和OpenAI的競爭優勢最終將會減弱」。
新聞原址： https://techcrunch.com/2023/10/10/tabbyml-github-copilot-alternative-raises-3-2-million/
- 由前Google員工創立的「TabbyML」獲得320萬美元種子融資，專注於開發開源代碼生成器，並強調其高度可自訂性。
- 與GitHub的Copilot相比，TabbyML的自托管解決方案更適合大型企業和有特定需求的開發者，並且能夠更靈活地適應使用者的反饋。
- 儘管GitHub和OpenAI目前在AI代碼生成器領域具有競爭優勢，但隨著計算成本降低和開源模型品質提升，這些優勢可能會逐漸減弱。
新聞內文：
競爭開始加劇，以幫助人類編寫電腦代碼的AI助手的創作競賽也隨之升溫。由兩位前Google員工打造的「TabbyML」已經獲得320萬美元的種子融資，用於開發其開源代碼生成器。
與GitHub的Copilot不同，像TabbyML這樣的自托管編碼助手具有高度可自訂性的優勢，該新創公司的創辦人Meng Zhang建議：「我們相信未來所有公司在軟體開發方面都將有某種自定義需求」。
他在接受TechCrunch的訪問時補充說：「在專有軟體領域可能有更成熟和完整的產品，但如果我們將一個開源解決方案與GitHub的OpenAI動力工具進行比較，則後者有更多的限制」。
特別是對於大型企業，開源軟體能夠滿足需求。Lucy Gao，「Zhang」的創辦人，提出了這一觀點。獨立開發人員可能會在其項目中使用開源代碼，而企業內的工程師通常會提取該組織專有的代碼，因此對於Copilot來說是無法觸及的。
Gao解釋道：「例如，如果我的同事剛剛寫了一行代碼，我可以立刻引用它（使用TabbyML）」。
像其他類型的AI助手一樣，代碼生成器並不總是可靠的，因為它們可能充斥著錯誤。對於自托管解決方案，Gao認為這個挑戰「相對容易解決」。每當使用者選擇不採納TabbyML的建議或編輯其自動填充的代碼時，AI模型都會根據該訊息進行微調。
代碼生成器的目的是「協助人類程式人員」，而「不是取代他們」，並且已經出現了一些有希望的結果。GitHub在六月份發布的一份調查中顯示，Copilot使用者接受了該編碼助手生成的建議中的30％。Zhang引用了另一個他認為更具啟發性的數據：在最近的開發者活動中，Google宣布，有24％的軟體工程師每天使用其AI增強內部代碼編輯器「Cider」時，經歷了超過五次的「輔助時刻」。
在實施代碼生成器之後，決策者可能會考慮減少工程師人數，但Zhang也說明「事情並不那麼簡單。編碼不是生產線」。
TabbyML於四月份推出，截止目前在GitHub上已經獲得了大約11,000次星標。參與其最新輪的兩家投資者分別是雲端合夥人（Yunqi Partners）和ZooCap。
當被問及與GitHub Copilot這個龍頭的競爭時，Zhang主張，隨著其他AI模型變得更強大以及計算能力成本隨時間降低，OpenAI的優勢將逐漸減弱。
Zhang表示，GitHub和OpenAI的優勢源於它們能夠通過雲端部署具有數百億參數的AI模型。儘管這種大型模型的服務成本較高，但Copilot到目前為止已經透過請求批量處理，在一定程度上減少了開支。
然而，這種策略顯示出局限性：根據華爾街日報的報導，在今年年初的前幾個月，微軟平均每位GitHub Copilot使用者每月損失超過20美元。
相反地，Tabby的目標是透過建議基於10至30億參數訓練的模型來降低部署障礙，這種方法在短期內不可避免地會導致降低品質。
Zhang說「然而，隨著計算能力成本隨時間降低以及開源模型的品質不斷提高，GitHub和OpenAI的競爭優勢最終將會減弱」。
新聞原址： https://techcrunch.com/2023/10/10/tabbyml-github-copilot-alternative-raises-3-2-million/