持續迭代的 AI 技術，除了加速產業進化幫助更多人享受到智慧化的生活，與此同時，也幫助學界的實驗室，受惠軟硬體設備展現更有效率的演算能力，助力教授的研究計畫事半功倍。
近期產學聯手案例，就是國立臺灣科技大學資訊工程系姚智原副教授，使用 NVIDIA 的 Gefore RTX 4090 顯示卡、NVIDIA DGX 伺服器、CUDA 硬體架構、搭配 ROG Strix SCAR 18 高效能電競筆電，幫助他的生成式 AI 研究大有斬獲。
訓練電腦圖學 AI 模型更聰明！受惠算力提升而降低開發成本
多年來研究領域專注於電腦圖學、電腦視覺、擴增實境、人機互動的姚智原副教授，其研究項目不論是製造業工廠產線的瑕疵檢測，或是運用數位雙生（Digital twins）技術生成擬真的城市地景圖像，都需要預訓練大量電腦圖學資料給人工智慧模型，才能讓檢測辨識率或仿真精準度持續提升。
但如果把時間軸回溯五至十年前，當時 GPU 效能、軟體演算以及人工智慧繪圖等基礎設備不如現在的狀態之下，確實影響學界的研究速度及效率。
姚智原舉例：「當時研究比較偏向 Rule-Based（條件式）方法，需要研究者發現什麼條件後，逐一用 programming 方式把它實現出來。如果寫的程式有 bug，遇到某些特殊情境研究就 fail，很多時候需要人工一直檢查。自從人工智慧這一塊興起，加上算力達到一定程度，很多我們過去解不出來的圖像，例如瑕疵測檢，現在不僅能解出來，而且成功率越來越高。」
特別是生成式人工智慧，隨著給予的圖學資料越多，研究團隊也需要更「精實」的設備。姚智原就提到，「我們實驗室買了兩台 NVIDIA DGX、12 張 GeForce RTX 4090 顯示卡，以及搭配 ROG Strix SCAR 18 電競筆電，這類筆電搭載 NVIDIA GeForce 筆記型電腦 GPU，等於從硬體設備、模型訓練算力、到生成式 AI 圖像顯示，這幾個方面確實是研究單位現在不可或缺的工具。」
實驗室導入多個 AI 深度學習模型，助製造業、城市治理都受惠
有了基礎設備的加持，姚智原的實驗室也根據不同研究計畫，選擇相對應的深度學習程式框架，分別有 PyTorch、TensorFlow、NIM（NVIDIA 推論微服務），而深度學習模型之各項應用，包含圖像生成模型、三維圖像生成、視覺檢測...等，每個模型各肩負不同使命，並在各項領域上發揮舉足輕重的功用。
以生成式 AI 為例，姚智原的研究主要用來訓練國外車牌辨識，利用 Stable Diffusion 產生虛擬測試資料藉以強化檢測網路的精準度。而在製造領域也有產學合作的案例，特別是高科技製造業領域，隨著製造元件朝向精密化，更加仰賴 AI 辨識瑕疵品，而生成式 AI 近乎真實的虛擬合成測資，讓業者得以進一步調整參數以提升良率。「業界曾把我們的模型跟其他商業公司的模型做精度比較，發現學校訓練的成果表現更好。」姚智原補充說明。
至於三維圖像成像方面，這也是姚智原的重點研究之一，採訪時他直接展示利用 3D Gaussian Splatting 所生成出來的仿真「斗六市」城市地景。周邊的住宅建物、交通運輸、基礎建設等「如實」呈現在網頁上，而且手指輕動滑鼠，就能輕鬆轉變 360 度的觀看視角。
姚智原還提到，「十年前光是把一棟房子放大縮小光這個動作，畫面就會卡很久！隨著顯示卡跟 AI 運算技術持續提升，現在 TB 等級的資料量跑 3D Gaussian Splatting，搭配 NVIDIA GeForce RTX 4090 顯示卡，一個斗六市的規模大約只要 30 分到 1 小時，就能得到所有點雲資料的高斯函數。這個應用對智慧城市的治理像是都更計畫就很有幫助，可以用實際畫面跟當地居民溝通。」
軟硬體整合發揮更大效能，CUDA 媲美小兵助攻平行運算
從教授的研究主題可發現其中的共同點，不論是國際車牌辨識、製造產線瑕疵檢測、或是用數位雙生技術輔助智慧城市，這些應用場景都仰賴多樣且量體龐大的訓練資料，才能提升深度學習模型的表現。而 AI 模型能時時保持強勁的效能，也跟 NVIDIA 研發的圖形處理單元之平行運算平台及程式設計模型 CUDA（Compute Unified Device Architecture）有高度關聯。
有關 CUDA 的解釋，姚智原提到，「高性能 GPU 裡面需要成千上萬的小處理器在運作，這些小處理器可以想像成小兵，NVIDIA CUDA 裡面不僅小兵數量越來越多，而且這些兵力在收到指令之後，會自動各司其職去完成它的任務。這也是為什麼用 NVIDIA CUDA 來運算深度學習的模型，訓練效能跟準確性都可以獲得驗證。」
不過姚智原也強調一點，在跑 CUDA 的訓練時整個運算資源需要全開狀態，所以搭載的筆電必須散熱能力要非常足夠。目前實驗室使用 ASUS ROG Strix SCAR 18，這台筆電的機殼和主機板有重新設計，特別加入第三個風扇用來散熱 GPU 及 VRAM，可避免在跑資料時遇到過熱問題機。另外，有時教授也需到產學合作的場域進行 AI 模型示範說明，受惠 ASUS ROG Strix SCAR 18 採用 NVIDIA DLSS 3、Ada Lovelace 架構和 Max-Q 技術，即使到現場跑模型，依然能完全釋放圖形的運算能力，讓每次簡報都能順利完成。
至於現在實驗室正在執行哪些研究項目？姚智原提到兩個讓人眼睛為之一亮的 AI 研究。第一個針對自駕車的交通測試，若能獲得更多違規、肇事者的駕駛行為資料，就能模擬車禍腳本，有助於在實際道路避免災害發生。另一個是水質檢測，幫助企業在排放廢水以及回收過程，透過 AI 快速辨識出，水質內是否參雜有害的微生物。
而這些研究也與 CUDA 平台息息相關。因為 CUDA 可以讓開發人員在筆記型電腦、電腦、工作站、伺服器和嵌入式裝置中存取 GPU，隨時隨地執行相同的 CUDA 程式碼。姚智原最後肯定表示，「對我們開發者來講，很多東西都是基於 CUDA 進行撰寫程式碼，加上 CUDA 的效能表現確實很令人驚豔，讓我們開發團隊對它的依賴度可說是越來越高。」
