「去年年底以來,我們平台上的中國客戶明顯多了,」Aw說。「經常有人問我,我們有沒有輝達的晶片。」
輝達不予置評。該公司已表示遵守美國出口管制規定,並希望合作夥伴也能這樣做。輝達定於本周三公布季度財報。
加密貨幣領域活動放緩,釋放出一部分先前用於挖掘比特幣等數位貨幣的算力,過去兩年間湧現出一批尋求利用這種契機的平台,Aw麾下平台就是其中之一。這些平台試圖收集分散在全球各地的算力,並將其出租給AI開發者。
出售分散算力的服務被稱為去中心化GPU的商業模式。輝達的GPU廣泛用於AI應用領域,在這些平台上備受追捧。營運商表示,自2022年美國限制向中國出售高性能晶片以來,越來越多的中國客戶已經湧向去中心化平台獲取算力。
不久前從上海一家AI初創企業離職的Joseph Tse說,這家企業在發現無法從Amazon Web Services租用算力之後,轉向了一個去中心化GPU平台。Tse說,經由該平台的安排,在加州一家配備輝達H100晶片的數據中心有超過400台伺服器被用於幫助他的前僱主訓練AI模型。
Tse說,該服務與亞馬遜(Amazon)或Google等公司提供的雲計算沒有太大區別,但風險更高,因為區塊鏈系統可能存在漏洞,也許會導致程式碼和數據泄露。
「區塊鏈確實可以保護用戶的隱私,但也正因為如此,如果哪裡出了問題,會很難追究責任,」Tse說。「不過我們沒有太多選擇。為了生存下去,我們不得不做一切嘗試。」
io.net是一家網路中擁有超過4萬塊晶片的去中心化GPU提供商,該公司在用戶指南中宣稱,不強制執行「了解你的客戶」限制。該公司表示,如此一來,「用戶可以在不到90秒的時間裡獲得GPU供應並部署叢集」。
構建更大的叢集
在今年6月於新加坡舉行的一場AI行業展會上,至少有三家去中心化GPU公司在宣傳其平台,藉助這些平台,用戶在全球各地可以不受限制地訪問價格實惠的輝達算力。這些公司都表示有來自中國的客戶。
新創企業和個人開發者利用此類去中心化平台來構建和運行無需強大算力或瞬間響應的小型AI應用。然而,去中心化網路通常無法訓練大型AI模型,例如支持ChatGPT的模型。這樣的模型需要數以千計的晶片相互快速傳輸數據。
因此,Aw之類的運營商正在某個地方構建更大的處理器叢集,通常是考慮到特定客戶的需求。
成立於2022年的Edge Matrix Computing (簡稱EMC)正尋求構建更大的晶片叢集。EMC在其去中心化網路中連接了3,000多GPU,包括用於AI訓練、受制於美國出口管制的輝達晶片。用戶使用EMC的代幣購買這些晶片的使用權。
EMC表示,正招攬投資者,以便籌集資金購買輝達H100晶片(該晶片的單價相當於一輛凱迪拉克轎車),並部署到一個數據中心,用於更大強度的AI訓練。該公司表示,批量購買算力的用戶每使用H100一小時,付費或可低於2美元。
在美國參議院某委員會今年7月舉行的一場聽證會上,路易斯安那州共和黨籍聯邦參議員John Kennedy指出,中國用戶能夠利用晶片出口限制中的漏洞,而美國商務部沒能及時填補。
「一些先進的微晶片似乎仍在源源不斷地流入中國。這種流動必須停止,」 Kennedy在給商務部長吉娜·雷蒙多(Gina Raimondo)的一封信中寫道。
在這場聽證會上,商務部負責出口管理的助理部長Thea Kendler表示,她所在部門正密切追蹤非法採購網路,「我們正嚴厲打擊這種行為」。
與此同時,Aw正從一群沙烏地阿拉伯和韓國投資者處籌集更多資金。他們計劃為另一家母公司為中國實體的新加坡企業打造一個由輝達最新Blackwell晶片構成的叢集。
「沒有人違反出口管制,」Aw說。「從法律上講,它們是新加坡公司。」