英特爾表示，Gaudi 3 AI加速器(qì)可(kě)通(tōng)過以太網的通(tōng)用标準連接多(duō)達數(shù)萬個(gè)加速器(qì)。與上(shàng)一代産品相比，英特爾Gaudi 3将帶來(lái)4倍的BF16 AI計(jì)算(suàn)能力提升，以及1.5倍的內(nèi)存帶寬提升。該加速器(qì)将為(wèi)尋求大(dà)規模部署生(shēng)成式AI的企業帶來(lái)AI訓練和(hé)推理(lǐ)方面的重大(dà)飛躍。

英特爾Gaudi 3預計(jì)可(kě)大(dà)幅縮短(duǎn)70億和(hé)130億參數(shù)Llama2模型，以及1750億參數(shù)GPT-3模型的訓練時(shí)間(jiān)。

英特爾表示，Gaudi 3能夠比英偉達上(shàng)一代H100處理(lǐ)器(qì)訓練特定大(dà)型語言模型的速度快40%，在推理(lǐ)端比英偉達H100快50%。

基辛格在現場(chǎng)表示，Gaudi 3的性能将與英偉達H200相當，在某些(xiē)領域的性能甚至會(huì)更好。但(dàn)是他沒有(yǒu)給出具體(tǐ)數(shù)據。

值得(de)注意的是，外媒指出，H100是英偉達Hopper産品線中的老款芯片，在2022年發布。英偉達在去年又發布了H200，将于今年二季度正式開(kāi)售，2024年3月英偉達展示了新的Blackwell B100和(hé)B200芯片。

英特爾表示，Gaudi 3已經在Meta大(dà)模型Llama上(shàng)做(zuò)了測試，可(kě)以有(yǒu)效地訓練或部署AI大(dà)模型，包括文生(shēng)圖的Stable Diffusion和(hé)語音(yīn)識别的Whisper等等。

在現場(chǎng)，基辛格也展示了集成最新英特爾芯片的AI PC，能夠快速處理(lǐ)的多(duō)項任務，例如快速處理(lǐ)郵件、語音(yīn)處理(lǐ)、圖像渲染等。

據了解，英特爾Gaudi 3采用台積電(diàn)5納米工藝制(zhì)造。英特爾Gaudi 3将于2024年第二季度面向OEM廠商出貨，包括戴爾、惠普和(hé)超微電(diàn)腦(nǎo)在內(nèi)的公司将使用該芯片。

當天，英特爾還(hái)分享了企業AI各細分領域的下一代産品和(hé)服務的最新信息。英特爾為(wèi)面向數(shù)據中心、雲和(hé)邊緣發布了下一代處理(lǐ)器(qì)英特爾至強6。配備能效核（E-cores）的英特爾至強6處理(lǐ)器(qì)将于2024年第二季度推出，配備性能核（P-cores）的英特爾至強6處理(lǐ)器(qì)将緊随其後推出，帶來(lái)更高(gāo)的AI性能。

英特爾想要打造一個(gè)廣泛的AI生(shēng)态聯盟，推動企業在AI領域創新。

英特爾概述了面向開(kāi)放的、可(kě)擴展的AI系統的戰略，其中包括硬件、軟件、框架和(hé)工具。當天，英特爾聯合多(duō)家(jiā)公司宣布，将創建一個(gè)開(kāi)放平台助力企業推動AI創新。這一計(jì)劃旨在開(kāi)發開(kāi)放的、多(duō)供應商的生(shēng)成式AI系統，通(tōng)過RAG（檢索增強生(shēng)成）技(jì)術(shù)，提供部署便利性、性能和(hé)價值。RAG可(kě)使企業在标準雲基礎設施上(shàng)運行(xíng)的大(dà)量現存專有(yǒu)數(shù)據源得(de)到開(kāi)放大(dà)語言模型（LLM）功能的增強，加速生(shēng)成式AI在企業中的應用。

标題

更多(duō)

分享到：

上海新寶信息科技有限公司