在研究與開(kāi)發(fā)醫(yī)療設(shè)備算法的過(guò)程中，始終需要具有高端算力的專(zhuān)用 PC 來(lái)探索最先進(jìn)的算法。
并行計(jì)算平臺(tái)和編程模型 CUDA 的出現(xiàn)，推動(dòng)了 NVIDIA GPU 在許多醫(yī)療設(shè)備、醫(yī)療器械和模型中的集成，實(shí)現(xiàn)了高性能算法工作負(fù)載的軟件開(kāi)發(fā)循環(huán)。如今，AI 已被應(yīng)用于醫(yī)學(xué)影像工作流程，并且自然而然地?cái)U(kuò)展到了其他使用醫(yī)學(xué)影像的領(lǐng)域，例如具有視頻或圖像采集功能的醫(yī)療設(shè)備等。為了將 AI 集成到醫(yī)療設(shè)備中，需要投入更多的計(jì)算資源來(lái)加快新功能的開(kāi)發(fā)。
NVIDIA 正在推出 NVIDIA Clara AGX 開(kāi)發(fā)套件來(lái)滿(mǎn)足這一需求，從而推動(dòng)針對(duì)醫(yī)療器械的高級(jí)算法和 AI 技術(shù)的研究。Clara AGX 開(kāi)發(fā)套件包含：Jetson AGX Xavier、Mellanox Connect X-6 NIC、RTX 6000 GPU 和 HDMI 2.0 輸入。Clara AGX SDK 提供必要的 OS、驅(qū)動(dòng)程序和存儲(chǔ)庫(kù)、容器化運(yùn)行時(shí)，以及 AI 技術(shù)示例。這一硬件和軟件的組合創(chuàng)建了一個(gè)獨(dú)特的平臺(tái)，通過(guò)該平臺(tái)，醫(yī)療設(shè)備制造商、軟件開(kāi)發(fā)者和醫(yī)學(xué)研究界能夠更輕松地將 AI 先進(jìn)技術(shù)應(yīng)用于醫(yī)療器械。
用于 AI 技術(shù)開(kāi)發(fā)的可擴(kuò)展計(jì)算
Clara AGX 開(kāi)發(fā)套件建立在 Jetson AGX Xavier 基礎(chǔ)之上，包含一個(gè)基于 Jetson 產(chǎn)品系列的豐富且多樣化存儲(chǔ)庫(kù)和工具的生態(tài)系統(tǒng)。Jetson AGX Xavier 模塊將運(yùn)行功率低至 10W、算力高達(dá) 32 TOPS 的 AI 自主機(jī)器變成現(xiàn)實(shí)。作為全球領(lǐng)先 AI 計(jì)算平臺(tái)的一部分，該模塊受益于 NVIDIA 豐富的 AI 工具和工作流，開(kāi)發(fā)者可使用它快速訓(xùn)練和部署神經(jīng)網(wǎng)絡(luò)。Jetpack SDK 是一款用于構(gòu)建 AI 應(yīng)用的綜合解決方案，它通過(guò)標(biāo)準(zhǔn) Linux 操作系統(tǒng)、為主板組件提供支持的 BSP 以及對(duì) CUDA 的支持（并因此帶來(lái)了整個(gè) CUDA 加速生態(tài)系統(tǒng)），為 Clara AGX 開(kāi)發(fā)套件提供支持。此外，Clara AGX SDK 包含用于構(gòu)建流數(shù)據(jù)處理流程的 Rivermax 和 DeepStream、支持通過(guò) EGX 進(jìn)行部署的容器化運(yùn)行時(shí)，以及用于為特定用例建模的參考應(yīng)用。
雖然 Jetson 平臺(tái)在技術(shù)上非常適合產(chǎn)品化，但新一代算法的開(kāi)發(fā)需要 NVIDIA 獨(dú)立 GPU 提供更多計(jì)算資源。高性能的 RTX GPU 能夠減少優(yōu)化代碼所需的時(shí)間，并且可以在不影響性能的情況下進(jìn)行算法實(shí)驗(yàn)。
Clara AGX 開(kāi)發(fā)套件中包含 NVIDIA RTX 6000 GPU，其峰值性能超過(guò) 200 INT8 AI TOPS。RTX 6000 可以運(yùn)行最復(fù)雜、要求最高的 AI 應(yīng)用中的多個(gè)并發(fā)推理流程，從而促進(jìn)最新 AI 模型的研發(fā)。
當(dāng)研發(fā)完成且最終 AI 模型已準(zhǔn)備就緒時(shí)，開(kāi)發(fā)者可以?xún)?yōu)化這些模型，并將它們部署到一個(gè)完全可擴(kuò)展的架構(gòu)上。追求低功耗用例的開(kāi)發(fā)者可以使用 Jetson 產(chǎn)品系列，該系列產(chǎn)品滿(mǎn)足了小型產(chǎn)品對(duì)功耗和尺寸要求。此外，開(kāi)發(fā)者也可以在結(jié)合 Jetson 和 RTX GPU 的產(chǎn)品系統(tǒng)上，部署高性能用例。NVIDIA 正通過(guò)一套應(yīng)用軟件提供一個(gè)完整且可擴(kuò)展的產(chǎn)品系列。
適用于高帶寬傳感器的可擴(kuò)展連接
醫(yī)療器械以及許多其他嵌入式系統(tǒng)都需要通過(guò) GPU Direct 或 RDMA 流在各類(lèi)上游傳感器和 GPU 之間建立高帶寬連接。Clara AGX 開(kāi)發(fā)套件讓客戶(hù)能夠通過(guò)兩種不同的媒介實(shí)現(xiàn)這類(lèi)專(zhuān)用連接。
第一種是通過(guò)集成 NVIDIA Mellanox ConnectX-6 NIC 實(shí)現(xiàn)對(duì) 100G 以太網(wǎng)和 10G 以太網(wǎng)的支持。該先進(jìn)設(shè)備能夠以全線速將 GPU Direct 連接到 RTX 6000 GDDR DRAM。Clara AGX 開(kāi)發(fā)套件可減輕網(wǎng)絡(luò)堆棧的負(fù)擔(dān)，從而使串流的傳感器數(shù)據(jù)包能夠?qū)崿F(xiàn)最高的吞吐量和性能，同時(shí)最大程度地減少對(duì) CPU 利用率的影響。
第二種是用戶(hù)可以采用兩個(gè)支持自定義 PCIe 卡或其它 NIC 的 PCIe Gen4x8 插槽。第一個(gè) PCIe 端口用于連接 NVIDIA Mellanox ConnectX-6 NIC 中的集成交換機(jī)。該端口支持將 RDMA 數(shù)據(jù)直接傳輸?shù)?RTX6000 GDDR DRAM 中，其用例包括具有多個(gè) 4k60 12G SDI 輸入的自定義視頻采集卡。第二個(gè) PCIe 端口用于直接連接 Jetson AGX Xavier 模塊。該端口可以連接外部主機(jī)或通過(guò)自定義卡實(shí)現(xiàn)專(zhuān)用輸出。
合作伙伴開(kāi)發(fā)者計(jì)劃
NVIDIA 還為 Clara AGX 開(kāi)發(fā)套件推出了合作伙伴開(kāi)發(fā)者計(jì)劃，包含 NVIDIA 硬件和協(xié)作網(wǎng)絡(luò)。如欲進(jìn)一步了解如何獲取 Clara AGX 開(kāi)發(fā)套件，請(qǐng)點(diǎn)擊鏈接進(jìn)行申請(qǐng)。
如欲了解有關(guān) Clara AGX 的更多信息，請(qǐng)觀看 Mathias Blake、Juha Tukkinen 和 Brian Feeley 在 NVIDIA GTC 2020 秋季站上所做的深入展示《構(gòu)建 AI 驅(qū)動(dòng)的醫(yī)療器械》。三位專(zhuān)家探討了 AI 革命將如何為醫(yī)療設(shè)備創(chuàng)造巨大價(jià)值，以及 Clara AGX 將如何助力這場(chǎng)變革。