谷歌吹噓自研芯片TPU4組成的超算是英偉達(dá)A100超算性能的1.7倍 – 藍(lán)點(diǎn)網(wǎng)
谷歌日前公布了該公司用于訓(xùn)練人工智能模型 PaLM 的谷歌超級(jí)計(jì)算機(jī)的更多細(xì)節(jié),谷歌稱這個(gè)超級(jí)計(jì)算機(jī)比英偉達(dá)的吹噓成的超算超算同類系統(tǒng)速度更快、功耗更低。自研U組鄭州(全套服務(wù))上門按摩vx《189-4143》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
目前 AI 行業(yè)主要依靠英偉達(dá)的芯片性專用加速卡進(jìn)行訓(xùn)練,典型代表是英偉 OPENAI 使用 20000~30000 張 NVIDIA A100 加速卡,早前英偉達(dá)還推出了最新加速卡 NVIDIA H100,達(dá)A的倍性能是藍(lán)點(diǎn) A100 的三倍。
谷歌雖然也使用英偉達(dá)的谷歌加速卡,不過(guò)谷歌自己也在研發(fā)芯片,吹噓成的超算超算比如谷歌新超級(jí)計(jì)算機(jī)使用的自研U組就是谷歌自己研發(fā)的第四代張量處理單元 (TPU)。
TPU 主要用于谷歌的芯片性人工智能訓(xùn)練,谷歌稱公司 90% 的英偉人工智能和機(jī)器學(xué)習(xí)訓(xùn)練都是基于 TPU 單元的,即通過(guò)模型提供數(shù)據(jù)的達(dá)A的倍鄭州(全套服務(wù))上門按摩vx《189-4143》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)過(guò)程,讓這些處理單元在用于類似人類的藍(lán)點(diǎn)文本響應(yīng)查詢和圖像生成領(lǐng)域發(fā)揮作用。

谷歌最新的張量處理單元是第四代即 TPU4,谷歌自 2020 年開(kāi)始將 TPU4 部署在數(shù)據(jù)中心組成超級(jí)計(jì)算機(jī)供內(nèi)部使用。
谷歌本周發(fā)布了一篇新論文介紹 TPU4 及 TPU4 組成的超級(jí)計(jì)算機(jī),谷歌工程師利用自己定制開(kāi)發(fā)的光開(kāi)關(guān)將 4000 多個(gè) TPU4 連接在一起組成超算。
難點(diǎn)在于如何讓這些處理單元組合起來(lái)提供高速運(yùn)算,因?yàn)橹T如 ChatGPT、Bard 這類模型數(shù)據(jù)量太大,靠單個(gè)芯片無(wú)法支撐。
相反,這些模型必須利用數(shù)量夸張的計(jì)算單元,然后將數(shù)據(jù)分布存儲(chǔ)在上面,同時(shí)還要求每個(gè)計(jì)算單元能夠協(xié)同工作數(shù)周甚至更長(zhǎng)的時(shí)間,因此這是一個(gè)技術(shù)難點(diǎn)。
所以最終谷歌選擇自己定制開(kāi)發(fā)專用的光開(kāi)關(guān),這樣 TPU4 超算可以輕松動(dòng)態(tài)配置處理單元之間的連接,降低延遲、提高性能滿足計(jì)算需求。
性能對(duì)比方面,谷歌在論文中表示對(duì)于同等大小的系統(tǒng),TPU4 超算比 NVIDIA A100 超算快 1.7 倍、能效提高 1.9 倍,A100 上市時(shí)間與 TPU4 完成開(kāi)發(fā)類似,所以可以對(duì)比,而最新發(fā)布的 H100 屬于更先進(jìn)的產(chǎn)品了,谷歌沒(méi)對(duì)比。
那么標(biāo)題中為什么要說(shuō)谷歌 “吹噓” 呢?我們倒不是懷疑谷歌的研發(fā)能力,主要是谷歌自研的這些芯片 (包括用于手機(jī)上的 AI 芯片) 都不對(duì)外出售的,也就是只有谷歌自己能使用。
所以即便性能提升多少對(duì)其他 AI 企業(yè)來(lái)說(shuō)好像也沒(méi)太大意義,不過(guò)谷歌也倒不是完全封鎖,谷歌通過(guò) Google Cloud 云計(jì)算服務(wù)對(duì)外出租 Cloud TPU 算力,所以 AI 企業(yè)要想使用 TPU 還必須使用 Google Cloud,妥妥的捆綁銷售了,要知道云計(jì)算成本可比自己購(gòu)買芯片后長(zhǎng)期使用的成本高的多,所以對(duì)大型 AI 企業(yè)來(lái)說(shuō)這并不劃算。
另外谷歌暗示該公司還在開(kāi)發(fā)新一代 TPU,畢竟 TPU4 都是 2020 年之前的事兒了,谷歌要研發(fā)第五代張量計(jì)算單元與 NVIDIA H100 競(jìng)爭(zhēng)。
-
《真三國(guó)無(wú)雙8》上市宣傳片 首次加入開(kāi)放世界環(huán)境蔣欣代止《閉門放呂布》iOS正版下周爆笑去襲《新秦時(shí)明月》公測(cè)開(kāi)啟 百度挪動(dòng)游戲“真金”尾收龍魂附體戰(zhàn)群雄 《皇圖》魂之體系尾曝《荒野大鏢客2》預(yù)購(gòu)獎(jiǎng)勵(lì)曝光 可獲得獨(dú)家藏寶圖特斯推運(yùn)轉(zhuǎn)《茶杯頭》掀示視頻 借將移植《輻射出亡所》《看門狗:軍團(tuán)》建制人:沒(méi)有曉得玩家能沒(méi)有克沒(méi)有及沒(méi)有殺人通閉《碧藍(lán)航路:Crosswave》新圖 大年夜胸妹小蘿莉退場(chǎng)《展開(kāi)那三國(guó)2》槃金武將攜新時(shí)拆本日更新E3:《盟軍敢逝世隊(duì)2》將推出下渾重制版 本年Q4出售
- ·《冒險(xiǎn)家商棧2》4月底搶先體驗(yàn) 加入網(wǎng)絡(luò)模式
- ·SE成心推出線上數(shù)字游戲庫(kù)辦事 涵蓋旗下統(tǒng)統(tǒng)典范做品
- ·《真況足球2020》真機(jī)演示 繪里晉降A(chǔ)I有較大年夜改進(jìn)
- ·E3:灰塵飛揚(yáng)!《天下汽車推力錦標(biāo)賽8》40分鐘演示賞識(shí)
- ·花魁賽風(fēng)采回瞅!魔域心袋版年度超等衰典!
- ·《食戟之靈》薙切繪里奈換拆足辦 衣衫半解性感非常
- ·齊新古古脫越游戲《花間事》 正在最好的年光光陽(yáng)碰睹您
- ·一人一狗走齊國(guó) 《侍魂 曉》減我禍特角色預(yù)報(bào)片
- ·終日戰(zhàn)略游戲荒漠迷鄉(xiāng)民宣游戲代止人,東圓拳王張志磊來(lái)臨荒漠
- ·肥豬游戲重度塔防游戲《皇家保衛(wèi)軍》國(guó)慶震驚上線
- ·E3:Switch《水焰紋章:風(fēng)花雪月》教院部分超少試玩
- ·足游《六界》遁獄啟測(cè)水爆停止 特性燒腦弄法盤(pán)面
- ·《陽(yáng)陽(yáng)師》齊新結(jié)界皮膚·華夜楓舞 即將上線!
- ·祭司的吸喚《太極熊貓》新質(zhì)料片本日震驚開(kāi)啟
- ·對(duì)沒(méi)有起《閉門放呂布》本日上沒(méi)有了線了
- ·三國(guó)殺3.0尾收倒計(jì)時(shí),四大年夜明面搶先看
- ·《粘粘世界2》PC配置要求公布推薦配置GTX 960
- ·E3:《植物之森:新天仄線》2020年3月20日推出
- ·E3:科樂(lè)好推出新主機(jī)TurboGrafx
- ·齊新競(jìng)技陣營(yíng)對(duì)決 《太極熊貓》5V5通天塔弄法掀秘
- ·中世紀(jì)幻想RPG《地下城與王國(guó)》現(xiàn)已登陸Steam支持中文
- ·《夢(mèng)境西游》足游齊新辱物震驚來(lái)臨 顛覆PK格式
- ·最強(qiáng)戰(zhàn)略足游《神魔之戰(zhàn)》出色弄法國(guó)慶樂(lè)翻天
- ·索僧沒(méi)有去 本年E3參減玩家比客歲少了3000人
- ·《全面戰(zhàn)爭(zhēng):三國(guó)》曹操海報(bào)曝光 技能屬性介紹
- ·《NBA夢(mèng)之隊(duì)2》三測(cè)定檔10月20日啟 弄法體驗(yàn)大年夜進(jìn)級(jí)
- ·大連金州怎么找酒店上門資源vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·青島李滄外圍介紹的電話聯(lián)系方式 vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·天津津南如何能找到小姐一條龍服務(wù)vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·蘇州虎丘外圍介紹的電話聯(lián)系方式 vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·青島市南(外圍)資源聯(lián)系方式vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·北京(上門服務(wù))外圍找服務(wù)vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·青島市南(小姐上門服務(wù))全套服務(wù)vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·蘇州吳中外圍上門服務(wù)(高級(jí)資源)外圍vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·佛山(外圍經(jīng)紀(jì)人)外圍服務(wù)vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·天津紅橋哪里能找到小姐上門服務(wù)vx《134+8006/5952》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)
- ·《靈魂戰(zhàn)甲》地圖情報(bào):制作團(tuán)隊(duì)更注重世界密度
- ·《單鏡》跳票至2020年 將成為Epic商鄉(xiāng)限時(shí)獨(dú)占游戲
- ·鋼鐵猛獸卷潮去襲 足游《齊仄易遠(yuǎn)洋戰(zhàn)》揚(yáng)帆起航
- ·鼎足之勢(shì) 《天子》足游齊新紫色仙靈辱物上線
- ·Switch版的《無(wú)主之地:潘多拉魔盒版》現(xiàn)已正式上線NS
- ·鼎足之勢(shì) 《天子》足游齊新紫色仙靈辱物上線
- ·年度戰(zhàn)略足游烏馬!《坦克鑒戒》一炮搶先?
- ·《看門狗:軍團(tuán)》試玩體驗(yàn):7旬老太束縛倫敦
- ·《四海兄弟:最終版》即將在8月份登陸Game Pass
- ·劍走偏偏鋒另辟門路 《錘子三國(guó)》非主流武將大年夜盤(pán)面
