【新智元導(dǎo)讀】如今炙手可熱的AI PC之戰(zhàn),英偉達(dá)也下場(chǎng)了!RTX GPU給1億打工人加持的算力,已經(jīng)破了紀(jì)錄,生圖、視頻、會(huì)議、直播,統(tǒng)統(tǒng)被RTX AI史詩(shī)級(jí)升級(jí);《黑神話:悟空》《永劫無(wú)間》的玩家,更是雙廚狂喜!
昨天深夜,英偉達(dá)CEO黃仁勛甩出能訓(xùn)萬(wàn)億參數(shù)大模型的新核彈B200,直接打破了摩爾定律。
同時(shí)推出的AI推理微服務(wù)NIM,號(hào)稱能讓全世界用上AI。
與此同時(shí),英偉達(dá)又為1億RTX PC用戶和開(kāi)發(fā)者,更新了AI應(yīng)用和工具,直接要讓我們快進(jìn)到AI PC時(shí)代:
一臺(tái)筆記本,Instant ID 15秒就能做出一張影樓級(jí)質(zhì)量的肖像照;
一張RTX 4090D,Stable Diffusion更是達(dá)到了8張圖/秒的生成速度;
Sora大火之余,英偉達(dá)已經(jīng)在和剪映,共同探索生成式AI在視頻制作上的落地;
國(guó)產(chǎn)游戲之光《黑神話:悟空》,在全景光追和DLSS 3.5的加持下,畫面已經(jīng)得到了史詩(shī)級(jí)提升。
準(zhǔn)備好,一場(chǎng)RTX AI PC的革命之火,已經(jīng)被引爆。
RTX AI PC革命來(lái)襲!
早在2018年,英偉達(dá)就已經(jīng)在探索AI PC的雛形了。
當(dāng)時(shí),隨著RTX技術(shù)和首款專為AI打造的消費(fèi)級(jí)GPU(GeForce RTX)的推出,英偉達(dá)加速了向AI計(jì)算的轉(zhuǎn)變。
在RTX GPU上,這些專用的AI加速器,也就是我們熟知的Tensor Core。
即使運(yùn)行要求極為嚴(yán)苛的工作和娛樂(lè)應(yīng)用,它都能顯著加速AI性能,還能讓PC用戶用上在云端才能運(yùn)行的新功能。
從軟硬件到生態(tài)加速,英偉達(dá)正憑借實(shí)力,有力地證明了這一點(diǎn):RTX就是AI PC的核心。
硬件方面,新一代GeForce RTX GPU提供的算力,不僅從200 AI TOPS到1300 AI TOPS全覆蓋,還提供了筆記本、臺(tái)式電腦的多樣選擇。(TOPS即teraops,萬(wàn)億次運(yùn)算/秒)
相較之下,沒(méi)有獨(dú)立GPU的AI PC,算力僅為10到45 TOPS。
軟件層面,從2018年到現(xiàn)在,全球搭載英偉達(dá)RTX GPU的PC已經(jīng)有超1億的用戶。
如今,它所加持的領(lǐng)域,已經(jīng)覆蓋了AI繪畫、平面設(shè)計(jì)、視頻編輯/體驗(yàn)、3D創(chuàng)作,到AI游戲、游戲開(kāi)發(fā),再到AI應(yīng)用開(kāi)發(fā)、文檔助手等等。
地表最快Stable Diffusion
有了RTX AI,創(chuàng)作者可以專注于創(chuàng)意本身,無(wú)需在等待系統(tǒng)加載,乏味的重復(fù)性工作上浪費(fèi)時(shí)間。
只用一張RTX 4090D,Stable Diffusion就能在每秒內(nèi)生成8張圖片,迅速讓創(chuàng)意成為現(xiàn)實(shí)。
NVIDIA TensorRT的引入,徹底改變了游戲規(guī)則。
通過(guò)8位量化成為當(dāng)前SD最快的加速方法,最快可達(dá)120 imgs/s。(StreamDiffusion)
開(kāi)啟TRT之后,1分鐘的視頻生成比以往快了足足30秒,效率提升了40%。
以及當(dāng)前已經(jīng)支持支持SD 1.5 & 2.1、SDXL、SDXL Turbo、LCM以及Stable Video Diffusion等模型的加速。
另外,CUDA還提供了對(duì)LoRA、ControlNet、微調(diào)、AnimateDiff、InstantID等模型支持
圖像編輯
想要一張質(zhì)量不錯(cuò)的肖像照,但只能用電腦攝像頭拍一張很糊的照片,怎么辦?
答案非常簡(jiǎn)單:只需上網(wǎng)找一張自己想要的「模板」,再用Instant ID把它和自己的人臉融合在一起,就能得到一張質(zhì)量不錯(cuò)的照片了,甚至在影樓還不一定拍出這樣的效果。
而這一整套工作流,在一臺(tái)RTX 4090筆記本上就能完成。
這,就是真正的生產(chǎn)力,真正面向?qū)I(yè)用戶的AI PC應(yīng)用。
另外,修圖師還可以通過(guò)Photoshop快速實(shí)現(xiàn)對(duì)圖片各種細(xì)節(jié)的處理和編輯。
視頻制作
視頻剪輯工作者可以更輕松使用AI加持在深度圖生成、表面追蹤、風(fēng)格轉(zhuǎn)換等工作流中的高級(jí)效果。
就拿轉(zhuǎn)描(突出顯示圖中某個(gè)元素)來(lái)說(shuō),如果要靠人工完成,就需要逐幀選出下圖中的「頭戴式耳機(jī)」,這無(wú)疑會(huì)消耗大量時(shí)間。
借助AI,只需選擇耳機(jī)就可以創(chuàng)建蒙版,再讓AI具體裁剪出確切的形狀,并且可以跨越不同幀進(jìn)行追蹤。
與30系相比,RTX 40系顯卡,直接將這一性能提升了70%。
另外,RTX 40系擁有第八代NVENC AV1編碼器,滿足了不同工作者對(duì)導(dǎo)出視頻格式的需求。
英偉達(dá)還在和國(guó)內(nèi)深受用戶喜愛(ài)的剪輯軟件剪映專業(yè)版,共同探索推進(jìn)生成式AI在PC端的落地。
目前,已通過(guò)TensorRT推動(dòng)剪映AI藝術(shù)字功能上線,并正在通過(guò)RTX AI平臺(tái)加速生成式AI在剪映產(chǎn)品功能中的應(yīng)用。
AI 3D創(chuàng)作
3D創(chuàng)作者通過(guò)UE等AI工具,加速3D創(chuàng)作渲染。
生成式3D材質(zhì),也可以用RTX AI來(lái)加速。
視頻會(huì)議/直播
在視頻會(huì)議/直播中,RTX AI還能做到多項(xiàng)流媒體質(zhì)量的優(yōu)化。
比如,這個(gè)全新上線的目光接觸功能,可以輕松矯正人物的眼神方向。
別看現(xiàn)在鏡頭里的人正在看腳本,目光接觸功能一開(kāi),他的目光就會(huì)立馬看向鏡頭了!
此外,還有虛擬背景、虛光濾鏡、噪音消除等多項(xiàng)功能。
游戲開(kāi)發(fā)
毋庸置疑,RTX AI更是強(qiáng)化游戲體驗(yàn)的利器。
游戲開(kāi)發(fā)者們可以利用生成式AI創(chuàng)建自己的游戲MOD、重制游戲助手、自動(dòng)捕獲游戲場(chǎng)景。
可以在NVIDIA Ominiverse中,通過(guò)生成式AI重制物體材質(zhì)。
AI增強(qiáng)的光追技術(shù),能夠讓游戲環(huán)境更加真實(shí)。
更重要的是,開(kāi)發(fā)者們可以為游戲制作支持實(shí)時(shí)光追、DLSS 3/DLSS 3.5的RTX重制版。
這不,一些玩家、開(kāi)發(fā)者、創(chuàng)意者們,已經(jīng)開(kāi)始用上RTX AI了。
DLSS 3.5:游戲體驗(yàn)史詩(shī)級(jí)提升
剛剛開(kāi)幕的英偉達(dá)游戲開(kāi)發(fā)者大會(huì),簡(jiǎn)直讓玩家們激動(dòng)到把拳頭捏爆。
包括多款 RTX 游戲的最新消息:《黑神話:悟空》,《永劫無(wú)間》,《星球大戰(zhàn)?:亡命之徒》,《暗黑破壞神IV》,光聽(tīng)名字,就讓人想起立致敬。
特別值得一提的是:在今年的GDC上,英偉達(dá)宣布,支持DLSS 3.5的游戲陣營(yíng)進(jìn)一步擴(kuò)大!
國(guó)產(chǎn)游戲之光、質(zhì)量和流量的扛鼎之作——《黑神話:悟空》,就將支持全景光線追蹤和DLSS 3.5。
雖然還未正式推出,但這兩年江湖上一直有它的傳說(shuō),眾多玩家都在翹首以盼。
果然,玩家們果然沒(méi)有白等——在光追和DLSS 3.5的加持之下,無(wú)論是場(chǎng)景,光影,還是畫面細(xì)節(jié),體驗(yàn)都全部刷新!
如今,《黑神話:悟空》的B站預(yù)告片觀看數(shù)已破228萬(wàn),網(wǎng)友紛紛追問(wèn):這真是實(shí)機(jī)畫面,不是渲染的?
想象一下這個(gè)畫面:打開(kāi)搭載 GeForce RTX 顯卡的PC,開(kāi)啟支持光線重建技術(shù)的NVIDIA DLSS 3.5 和全景光線追蹤,接下來(lái),就是一場(chǎng)視覺(jué)盛宴。
為什么通過(guò)DLSS 3.5呈現(xiàn)的畫面如此激動(dòng)人心?
原因在于,它包含了英偉達(dá)全新的DLSS光線重建技術(shù)(Ray Reconstruction),利用全新統(tǒng)一的AI模型,取代了多個(gè)人工設(shè)計(jì)的光線追蹤降噪器。
因此,光線追蹤效果和全景光線追蹤的圖像質(zhì)量,再次得到了史詩(shī)級(jí)提升。
而在《黑神話:悟空》中開(kāi)啟全景光追后,我們就可以更加沉浸式地體驗(yàn)史詩(shī)級(jí)的游戲場(chǎng)景。
可以看到,水面上可以反射出周圍所有場(chǎng)景的細(xì)節(jié)。
水的散焦效果,進(jìn)一步增加了場(chǎng)景的真實(shí)感,光的折射和反射效果,都被渲染得更好。
全景光追的全局光照,也讓室內(nèi)外的光照效果更加完美,即使是因被遮擋而無(wú)法照亮的較暗區(qū)域,也會(huì)通過(guò)反射光被照亮。
在光照系統(tǒng)的配合之下,無(wú)論是接觸處的硬化陰影,還是光追帶來(lái)的柔化陰影,都可以輕松投射到各處。
小到葉片和卵石上每一處最小的陰影,大到主角、巨大的怪獸、擁有精致外表的建筑,全部被細(xì)致入微地刻畫了出來(lái)。
下面是一波高清大圖,請(qǐng)欣賞:
此外,率先將支持DLSS 3.5的,還有在國(guó)內(nèi)外游戲社區(qū)中人氣超高的國(guó)產(chǎn)多人動(dòng)作競(jìng)技端游《永劫無(wú)間》。
《永劫無(wú)間》會(huì)在PVP和PVE模式下的三個(gè)地圖中,添加全景光線追蹤,之后也將在更多地圖中陸續(xù)支持全景光線追蹤。
更豐富細(xì)致的全景光線追蹤效果,可以讓全局光照、反射、環(huán)境光遮蔽和陰影得到全面優(yōu)化,而DLSS 3.5的光線重建技術(shù),會(huì)讓這些效果進(jìn)一步增強(qiáng)。
具體來(lái)說(shuō),DLSS 3.5通過(guò)將人工降噪器替換為英偉達(dá)超級(jí)計(jì)算機(jī)訓(xùn)練的AI網(wǎng)絡(luò)(在采樣光線之間生成更高質(zhì)量的像素),提升了GeForce RTX GPU光線追蹤圖像的質(zhì)量。
同時(shí),DLSS 3.5 AI網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)量也是DLSS 3的5倍,可識(shí)別不同的光線追蹤效果,從而可使用時(shí)間和空間數(shù)據(jù)做出更明智的決策,并保留高頻信息以實(shí)現(xiàn)更高質(zhì)量的圖像效果。
此外,光線重建還會(huì)從訓(xùn)練數(shù)據(jù)中識(shí)別光照模式,例如全局光照或環(huán)境光遮蔽等,并在游戲中重新創(chuàng)建。其最終效果比需要人工設(shè)計(jì)的降噪器更出色。
而DLSS 3.5除了能夠讓新游戲帶來(lái)更好的性能表現(xiàn)和畫面效果外,還能讓用新技術(shù)復(fù)刻的老游戲重新煥發(fā)光彩。
《傳送門》RTX版是首款采用NVIDIA RTX Remix打造的游戲,這是一種變革性的Mod工具,可幫助Mod玩家升級(jí)和重制經(jīng)典游戲。
現(xiàn)在,《傳送門》RTX版也將支持NVIDIA DLSS 3.5,利用AI驅(qū)動(dòng)的光線重建(Ray Reconstruction)技術(shù),提高全景光線追蹤的保真度和全局動(dòng)態(tài)照明效果的響應(yīng)速度。
在DLSS 3.5加持之下,GeForce RTX 4090的幀率可提升至原來(lái)的6.2倍,GeForce RTX 4080 SUPER的幀率可提升至原來(lái)的6.7倍,游戲速度分別能達(dá)到100 FPS和70 FPS。
除了這些新鮮出爐的游戲大作之外,目前已有超500款游戲和應(yīng)用支持NVIDIA RTX技術(shù),未來(lái)還會(huì)有更多大作加入。
比如《星球大戰(zhàn)?:亡命之徒》:
《戰(zhàn)國(guó)王朝》:
在封建日本的動(dòng)蕩時(shí)期,玩家可以建立并成為自己王朝的主宰
《暗黑破壞神IV》:已經(jīng)支持DLSS 3,將于3月26日支持光線追蹤。
ACE:AI NPC「活了」
除此之外,英偉達(dá)還利用「世界級(jí)數(shù)字人技術(shù)」讓那些游戲NPC們活了!
同時(shí),還為商業(yè)應(yīng)用創(chuàng)建了栩栩如生的數(shù)字化身。
其中就包括,用于語(yǔ)音和動(dòng)畫的NVIDIA ACE、用于語(yǔ)言功能的NeMo,以及RTX渲染技術(shù)。
這些技術(shù)都將成為開(kāi)發(fā)者創(chuàng)建,AI驅(qū)動(dòng)的自然語(yǔ)言交互的數(shù)字人的基石。
去年GTC大會(huì)上,老黃發(fā)布會(huì)上直接與游戲NPC實(shí)時(shí)對(duì)話,網(wǎng)友表示這簡(jiǎn)直顛覆了整個(gè)游戲行業(yè)。
這一次,英偉達(dá)直接帶來(lái)了更多行業(yè)里的應(yīng)用。
在GDC 2024上,英偉達(dá)與InWorld聯(lián)手呈現(xiàn)了全新的技術(shù)Demo——Covert Protocol。
有了Covert Protocol,每個(gè)玩家的體驗(yàn)都是獨(dú)一無(wú)二的。
因?yàn)镹PC可以在游戲世界中感知周圍世界,做出決策和行動(dòng),突破了游戲中角色互動(dòng)的局限。
這里,你扮演的是一名私家偵探,將根據(jù)與場(chǎng)景中人物的對(duì)話結(jié)果完成目標(biāo)。
它們可以學(xué)習(xí)和適應(yīng),表現(xiàn)也會(huì)存在細(xì)微差別,有時(shí)還會(huì)自主發(fā)起行動(dòng)。
針對(duì)同一場(chǎng)景,NPC有著豐富的語(yǔ)言表達(dá)能力。
具體來(lái)說(shuō),InWorld引擎集成了NVIDIA Riva自動(dòng)語(yǔ)音識(shí)別技術(shù),可實(shí)現(xiàn)精確的語(yǔ)音轉(zhuǎn)換文字。
同時(shí)NVIDIA Audio2Face提供逼真的面部表情,增強(qiáng)了動(dòng)畫效果。
而在InWorld端,開(kāi)發(fā)人員可以針對(duì)每個(gè)特定的NPC調(diào)整各種參數(shù):個(gè)性、知識(shí)和認(rèn)知、目標(biāo)、場(chǎng)景、安全性、長(zhǎng)期記憶。
InWorld引擎可以讓游戲開(kāi)發(fā)人員,添加更多響應(yīng)玩家的行為「多模態(tài)AI智能體敘事」。
它將認(rèn)知、感知和行為系統(tǒng)集成在一起,在精心制作的環(huán)境中呈現(xiàn)令人驚嘆的RTX渲染角色,以實(shí)現(xiàn)身臨其境的敘事效果。
另一家游戲巨頭育碧也開(kāi)始利用Inworld和NVIDIA ACE技術(shù),來(lái)探索數(shù)字人在游戲中可能性。
最具代表性的項(xiàng)目是NEO NPC——讓游戲NPC可以自由即興對(duì)話。
Inworld的角色引擎和LLM技術(shù),使育碧的敘事團(tuán)隊(duì)能為每個(gè)NPC建立完整的背景、知識(shí)庫(kù)和對(duì)話風(fēng)格,而NVIDIA ACE技術(shù)套件中的NVIDIA Audio2Face則用于實(shí)現(xiàn)實(shí)時(shí)面部動(dòng)畫。
育碧通過(guò)三個(gè)獨(dú)立技術(shù)Demo展示了NEO NPC的功能。
每個(gè)場(chǎng)景都側(cè)重于NPC行為、環(huán)境和上下文意識(shí)的不同方面;一系列實(shí)時(shí)反應(yīng)和動(dòng)畫;以及連續(xù)對(duì)話、協(xié)作和戰(zhàn)略決策。
這些實(shí)驗(yàn)發(fā)現(xiàn)突破了游戲設(shè)計(jì)和沉浸感的界限。
另外,《誅仙世界》、《渾噩》也將 Audio2Face 加入了開(kāi)發(fā)流程。
Audio2Face可以精準(zhǔn)生成口型同步,讓腳本編寫人員更容易為《誅仙世界》添加新配音內(nèi)容。
在醫(yī)療行業(yè)中,數(shù)字助理可以為世界各地的患者提供有用、及時(shí)和準(zhǔn)確的信息。
初創(chuàng)公司HippocraticA創(chuàng)建了由NVIDIA ACE加持的醫(yī)療保健智能體,可以給患者打電話,跟進(jìn)護(hù)理協(xié)調(diào)任務(wù),提供術(shù)前指導(dǎo),執(zhí)行出院后管理等。
NVIDIA App:一個(gè)應(yīng)用搞定一切
為了讓玩家擁有更加流暢無(wú)縫的使用體驗(yàn),英偉達(dá)還推出了全新的NVIDIA app——它最大的亮點(diǎn)是:無(wú)需登錄即可更新驅(qū)動(dòng)。
它還徹底解決了之前GeForce Experience使用體驗(yàn)卡頓,在后臺(tái)資源占用過(guò)大的問(wèn)題。響應(yīng)速度提升50%,磁盤占用減少17%。
而且無(wú)論是游戲發(fā)燒友還是內(nèi)容創(chuàng)作者,NVIDIA app都能讓用戶更輕松及時(shí)地更新到最新的驅(qū)動(dòng),讓用戶快速找到和安裝NVIDIA Broadcast和NVIDIA Omniverse等最新應(yīng)用。
GPU「大一統(tǒng)」控制中心:最優(yōu)游戲設(shè)置 + 驅(qū)動(dòng)配置。
NVIDIA app將GeForce Experience的游戲設(shè)定優(yōu)化功能與NVIDIA控制面板的3D設(shè)置整合到一個(gè)統(tǒng)一的界面中。
玩家能在一個(gè)集中的應(yīng)用中查看修改各種優(yōu)化選項(xiàng),同時(shí)調(diào)整驅(qū)動(dòng)程序設(shè)置。
玩家可以針對(duì)游戲和應(yīng)用自定義控制中心選項(xiàng),也可以對(duì)所有游戲和應(yīng)用使用全局配置文件。
全新升級(jí)的驅(qū)動(dòng)面板:快速查看概要,獲取最新驅(qū)動(dòng)信息。
在「驅(qū)動(dòng)程序」頁(yè)面中,玩家可以快速了解每次驅(qū)動(dòng)更新的重點(diǎn)內(nèi)容。
如果玩家想要查看具體的更新或者是修復(fù)細(xì)節(jié),也能方便的獲取到全部的細(xì)節(jié)信息。
全新的游戲覆蓋界面:實(shí)時(shí)統(tǒng)計(jì)數(shù)據(jù)顯示,支持120 FPS ShadowPlay錄制。
NVIDIA app還重新設(shè)計(jì)了游戲中的浮窗,玩家依然可以方便地使用「Alt+Z」快速調(diào)出Shadowplay錄制工具、Freestyle 游戲?yàn)V鏡、NVIDIA Highlights、照片模式和性能監(jiān)控工具。
重新設(shè)計(jì)的統(tǒng)計(jì)信息浮窗,增強(qiáng)了性能監(jiān)控功能。
玩家可以通過(guò)多種選項(xiàng)自定義性能浮窗在游戲期間的顯示方式,最大限度地減少HUD占用的空間。
全新的AI圖像濾鏡:支持RTX HDR和RTX數(shù)字自然飽和度。
借助NVIDIA Freestyle,玩家可以利用實(shí)時(shí)后處理濾鏡為自己喜愛(ài)的游戲打造個(gè)性化的視覺(jué)效果。
由玩家喜愛(ài)的Digital Vibrance(數(shù)字自然飽和度)功能改進(jìn)而來(lái)的RTX Dynamic Vibrance(RTX數(shù)字自然飽和度)可針對(duì)每個(gè)應(yīng)用增強(qiáng)視覺(jué)清晰度,讓玩家能夠靈活、方便地調(diào)整每個(gè)游戲的視覺(jué)設(shè)置。
它不僅能在屏幕上呈現(xiàn)更多顏色,而且可以在不同的顏色之間實(shí)現(xiàn)完美平衡,最大限度地避免顏色崩壞,保證圖像質(zhì)量和沉浸感。
而RTX HDR是一款新的AI增強(qiáng)Freestyle濾鏡,可以將高動(dòng)態(tài)范圍 (HDR) 的艷麗視覺(jué)效果無(wú)縫引入到原本不支持HDR的游戲中。
借助RTX HDR濾鏡,現(xiàn)在玩家可以利用兼容HDR的顯示器暢玩DX12、DX11、DX9和Vulkan平臺(tái)上運(yùn)行的大量游戲。
NVIDIA app還能讓用戶方便探索英偉達(dá)的各類前沿應(yīng)用:包括NVIDIA ICAT、NVIDIA Omniverse等。
ChatRTX:專屬大模型,本地就能跑,還免費(fèi)開(kāi)源
英偉達(dá)在前段時(shí)間也上線了自己第一款支持本地運(yùn)行的大模型技術(shù)demo——Chat with RTX。
Chat with RTX(簡(jiǎn)稱ChatRTX),使用檢索增強(qiáng)生成、NVIDIA TensorRT-LLM軟件和NVIDIA RTX加速,將本地生成式AI功能引入到支持RTX的Windows系統(tǒng)中。
用戶可快速、輕松地將本地文件作為數(shù)據(jù)集連接到開(kāi)源大語(yǔ)言模型,快速查詢與上下文相關(guān)的答案。
想要運(yùn)行Chat with RTX的要求也非常簡(jiǎn)單,用戶在搭載 NVIDIA GeForce RTX 30 系列或更高版本的 GPU(至少 8GB 顯存)進(jìn)行本地部署,打造個(gè)人專屬聊天機(jī)器人。
目前,Chat with RTX已經(jīng)可以支持Mistral、Llama2等多款開(kāi)源模型。
但很快,Chat with RTX將增加對(duì)語(yǔ)音、圖像和新模型的支持。
RTX AI工具:全面加持開(kāi)發(fā)者
LLM巨大的參數(shù)規(guī)模,讓「部署和推理」的難度和成本一直居高不下。
為此,英偉達(dá)推出了一款專門用于提升AI推理性能的開(kāi)源軟件——TensorRT-LLM。
TensorRT-LLM將TensorRT的深度學(xué)習(xí)編譯器、FasterTransformer的優(yōu)化內(nèi)核、預(yù)處理和后處理以及多 GPU/多節(jié)點(diǎn)通信,封裝在一個(gè)簡(jiǎn)單的開(kāi)源Python API中。
開(kāi)發(fā)者不需要深入的C++或CUDA專業(yè)知識(shí),就能夠部署、運(yùn)行、調(diào)試各種大語(yǔ)言模型,還能獲得頂尖性能表現(xiàn),以及快速定制化的功能。
對(duì)于RTX PC和工作站用戶來(lái)說(shuō),借助英偉達(dá)定制的TensorRT-LLM for Windows,可以讓模型的推理性能最高提升5倍之多。
這些大語(yǔ)言模型的版本將能夠在任何配有8GB及以上顯存的GeForce RTX 30系和40系GPU上運(yùn)行。
這意味著即便是最輕便的Windows設(shè)備,也能快速、準(zhǔn)確地實(shí)現(xiàn)本地大語(yǔ)言模型處理能力。
除了成本居高不下外,定制和維護(hù)生成式AI項(xiàng)目也需要大量的時(shí)間和精力,尤其是在嘗試跨多個(gè)環(huán)境和平臺(tái)進(jìn)行協(xié)作和部署時(shí)。
針對(duì)這一問(wèn)題,英偉達(dá)提出了一站式解決方案——AI Workbench。
基于此,開(kāi)發(fā)者可以輕松地在PC或工作站上快速創(chuàng)建、測(cè)試和定制預(yù)訓(xùn)練的生成式AI模型和大語(yǔ)言模型。
2024年伊始,AI PC一躍成為了消費(fèi)級(jí)市場(chǎng)的兵家必爭(zhēng)之地。
就在各芯片廠商和PC品牌商發(fā)力之際,英偉達(dá)憑借多年布局,早已不知不覺(jué)地走在了AI PC前列。
英偉達(dá)掀起的這場(chǎng)RTX AI PC革命,必將席卷我們這一代人的工作和娛樂(lè),改變一切。
此文來(lái)源于微信公眾號(hào):新智元
英偉達(dá)引爆AI PC革命,RTX給1億打工人送算力!40系卡秒生百?gòu)垐D,「黑神話:悟空」畫質(zhì)爆表玩家顫抖 (qq.com)