NIM for RTX 或是 RTX NIM 真的非常有趣。

在企業環境,NVIDIA 已推出一系列的 NIM 加速推論微服務,旨在為企業提供以容器化的方式部署 AI 推論。如今也透過 WSL 2 這個 Windows 下的 Linux 子系統,推出 NIM for RTX 或是 RTX NIM,想當然耳已針對自家 GeForce RTX 顯示卡最佳化,讓開發者或是玩家可以更輕鬆地在本機電腦上暢享 AI。

NIX for RTX

NVIDIA GeForce RTX 50 系列不僅能夠提供強大的繪圖能力,其第五代張量核心 Tensor Core 更支援 FP4,最高階 GeForce RTX 5090 還配備 32GB GDDR7 記憶體,同樣適合在本機進行 AI 推論工作,或是將 AI 融入遊戲當中,讓 NPC 的反應不再單調、魔王跳脫制式攻擊模式、更可以取得一位 AI 好隊友。

▼ NVIDIA NIM for RTX,除了針對 GeForce RTX 顯示卡最佳化之外,同時也相容雲端執行環境。
NVIDIA NIM for RTX

NIM for RTX 的特色包含容器化方便部署、針對 GeForce RTX 顯示卡最佳化、提供業界標準 API、領域特定程式碼、支援客製化以及推論後端。初期推出的 NIM for RTX 已具備語言、視覺語言、RAG、演說、動畫、電腦視覺、影像等多種 AI 領域,且未來仍將繼續最佳化與推出新款 NIM。

▼ 首波 NIM for RTX 包含語言、視覺語言、RAG、演說、動畫、電腦視覺、影像等多種 AI 領域。

▼ NIM 相容於多種開發工具,讓開發者能夠輕鬆導入抑或是根據需求微調。

▼ NVIDIA 以 PDF 轉換為 Podcast 為例子,其中需要用到 LLM、TTS、RAG、ASR 等多種技術。

▼ NVIDIA 以數位人類作為例子,說明 NIM 能夠支援本機端與雲端的協作。

▼ BUCK 後端是以 NIM for RTX 所構成的遊戲 NPC 角色,玩家可以使用自然語言,請他將船艦重新漆成紫色。

▼ 遊戲開發者可以使用 ACE 自動 NPC 模型,為遊戲內的 NPC 提供更為人性化、可互動的設計。
NVIDIA ACE

在 Editor’s Day 現場,NVIDIA 同時也邀請到 KRAFTON 與現場記者編輯們暢談在遊戲中使用 ACE 的狀況。首先是 PlayerUnknown’s Battlegrounds 將會推出 PUBU Ally 這個由 AI 驅動的隊友功能,直接在遊戲中使用自然語言即可指揮隊友,遊戲商將此角色定位為 CPC(Co-playable Character),能夠討論戰略、提供建議,或是純粹打屁聊天都可以。

▼ PlayerUnknown’s Battlegrounds 將會推出 PUBU Ally 功能,是一位由 AI 驅動,能夠和玩家並肩作戰的好隊友。
PUBG Ally

另外一款 inZOI 生活模擬類遊戲,內部角色同樣也是透過 ACE 開發,因此你可以看到 CPC 於早上起床之後,將會自行安排一天的生活、做決定,或是針對事件提供反應。角色也可以透過自然語言,客製化個性、關係、記憶等。

▼ 玩家可以看到 inZOI 內部角色的想法,能夠理解角色做出此決定或是反應的背後原因。
inZoi

AI 助創作者一臂之力

遊戲直播就如同綜藝節目一樣,總是要一來一往,有人做球、有人接球才會好看。新推出的 Streamlabs Intelligent Streaming Assistant,可以做為直播主的僚機好哥兒或是好姊妹,能夠對直播主的遊戲內容表現做出反應,或是使用自然語言的方式下命令。

▼ Streamlabs Intelligent Streaming Assistant 的身分可以是好夥伴,也可以是這場直播的製作人或是提供技術支援。
Streamlabs Intelligent Streaming Assistant

NVIDIA Broadcast 直播軟體同步獲得功能更新,直播主只要透過 Studio Voice,即可獲得去除背景雜音、完整頻率響應範圍的語音表現;Virtual Key Light 則是透過分析,即時為直播主的臉龐打光,改善光線不均勻、暗沉等問題。當然,上述功能都是透過 AI 搞定的。

▼ 不需要高級的麥克風,Studio Voice 透過 AI 分析即可去除背景噪音、還原頻率響應範圍。
Studio Voice

▼ 直播時的臉蛋暗沉無光?只要擦上添加 AI 成分的 Virtual Key Light,就還給你淨白無瑕的肌膚。
Virtual Key Light