微軟最近宣布對 GitHub Copilot 進行重大價格調整 — 這些調整幅度之大，讓一位 Reddit 使用者表示，他們的公司已經開始稱之為「Tokenpocalypse（代幣末日）」。在 TechCrunch 的 Equity 節目最新一期中，Kirsten Korosec、Sean O’Kane 跟我討論了這些調整對更大 AI 生態系統可能產生的影響。畢竟，隨著 Anthropic 等大型 AI 公司計畫上市，導致一些尷尬的問題浮現，例如盈利能力，我們很可能會看到其他 AI 產品出現類似的價格上漲，以及企業為了控制成本而加強使用限制。Sean 問道：「這些 AI 實驗室能否壓縮成本並推動技術進展，使其最終與客戶的支出意願達到平衡？」Kirsten 則認為，這也反映了「事情進展得有多快」。幾個月內，企業們先是沉迷於「tokenmaxxxing（代幣最大化）」，隨後又因高昂成本而轉而反對。因此，當 AI 公司撰寫 IPO 登記文件時，她問道：「你怎麼樣才能把這些風險寫進去，因為它們正以我們無法預測的速度不斷變化？」繼續閱讀，預覽我們的對話內容，已根據長度與清晰度進行編輯。
Anthony Ha：當我們計畫這場對談時，Sean，你稱這為「Tokenpocalypse（代幣末日）」。我想聽聽你對這件事的看法，但有一個例子是微軟決定對 GitHub Copilot 進行調整，他們將開始按每個 token 收費，而不是採用固定費用。這個生態系統其實嚴重依賴投資者的資金支撐。因此，看起來沒有成本的東西，其實成本非常高。現在，我們將會看到更多成本轉嫁給最終消費者與客戶。這會如何改變人們的行為？我不認為我們知道，但這將會帶來許多痛苦。
Sean O’Kane：我的意思是，我們認為 Anthropic 的 S-1 檔案中會包含多少與 token 相關的風險因素？這是一個很大的問題。這是我一直在這個節目上提到的問題，我們似乎不斷遇到類似的情況，Uber 在一個月半內就經歷了從「我們今年在這方面花費的預算遠超預期」到「這可能會太貴，我們需要對這類東西設限，並在公司內限制人們的使用」的過程。這讓我很擔憂。假設你看到這樣的情況發生在像 Uber 這樣大量使用這些技術的公司身上，這就變成了一個問題：這些 AI 實驗室能否壓縮成本並推動技術進展，使其最終與客戶的支出意願達到平衡？
回顧一下有趣的事實是，當 ChatGPT 最初推出時，並沒有任何策略去收取每月 20 美元的費用。這只是隨便拿出一個數字。從那之後，我們一直在面對這個問題。顯然，人們會為更先進的模型支付更多費用，但即使如此，這仍然無法彌合與真實成本之間的差距。因此，這顯然是目前最大的問題。
Kirsten：這一切對我來說，說明了事情進展得有多快。我的意思是，當你仔細想想，整個 tokenmaxxxing 的現象在六個月內就成為一種風潮，達到高峰，現在卻被視為負面現象。這個規模以及整個定價機制，是你所說的，在 AI 實驗室的商業模式尚未確立之前就已經建立起來。同時，政府也在努力追上。這週，川普總統簽署了一項行政命令，雖然範圍較窄，但這為政府提供了一個機會去審查強大的 AI 模型。因此，所有這些事情都在以我從未經歷過的速度進行。這就是我非常期待看到這些 S-1 IPO 登記聲明的原因，因為這些風險因素。你怎麼樣才能把這些風險寫進去，因為它們正以我們無法預測的速度不斷變化。
Anthony：Uber 是一個有趣的例子，Sean，因為你提到了他們在 AI 上的開銷，但他們也出現在 AI 討論中，因為有時認為存在泡沫的人會提到這些工具以及這些公司極其不盈利，然後人們就會拿出 Uber 作為回應。人們談論 Uber 如何不盈利，但最終你達到規模，然後就能彌合這個差距。我想這是真的。但同時，Uber 要做到這一點，必須在很多方面轉變公司本身。從 Uber 最初的樣子到現在，它必須擴展到許多不同的業務領域，客戶與司機的壓力也必須被緩解，這些都是讓它成為一家盈利公司的必要條件。我想你會看到許多這些 AI 公司也需要經歷類似的轉變，才能生存下來。
Sean：這些實驗室有什麼方法可以像 Uber 那樣壓榨出分毫不差的利潤嗎？有什麼地方可以讓他們像壓榨司機那樣做嗎？我不知道。這似乎在很多方面都是更直接、更難壓縮的成本，這將會很有趣。