用戶登入
用戶登入
單元2.4
【明報專訊】位於數碼港的人工智能超算中心(AISC)啟用一年,現提供3000 PFLOPS(每秒1000萬億次浮點運算)算力,相當於1小時可完成近100億張圖像處理、逾1100萬小時語音翻譯等,現使用率約八成。數碼港業務發展部總監霍露明昨接受訪問表示,現有算力足夠應付市場訓練AI模型,正研究添置與推理相關的算力,以滿足企業下階段需求。她又說,AISC電費開支佔成本逾半,會研究以「液冷」技術減低耗電。
AISC去年12月在數碼港啟用,現時在特區政府設立的30億元「人工智能資助計劃」下,資助本地院校、研發機構、企業、政府部門等5類機構使用算力服務。霍露明昨交代資助計劃至今收到逾30宗申請,有近20宗獲批;獲批機構的研究範圍包括推動本地大型語言模型、新材料、合成生物學、醫學大模型等,至今算力設施使用率約八成。
被問未來會否擴充容量,她表示,AI開發過程會先由大模型「訓練」開始,完成後再將算力用於「推理」。她稱現階段AISC的算力較多需求是用於大模型訓練,訓練一般為期6個月至一年、毋須永久持續進行,之後算力需求會轉移集中用於「推理」,所需設備會有所不同,正研究在將來添置相關晶片。
啟用一年 使用率八成
研新技術降溫減耗電
AI運算耗電一直為社會關注,霍露明承認現時AISC用電量的確大,電費佔成本逾一半,現時AISC的電力使用效率(PUE)大約1.6。PUE是指總用電量與供應算力設備電量的比例,理想比率為1.0。霍說,數碼港第五期即將啟用的數據中心的PUE指標將降至1.3,她解釋,電力消耗除算力設備本身,用於冷卻的風冷系統耗電很大,如過熱會損耗晶片效能和壽命。她說,最新技術下晶片可用液冷降溫,料可減對風冷設施需求,降低整體用電量。
理光香港用家之一
稱數據不出境減疑慮
AISC助力不少企業善用AI發展業務,用家之一包括為企業提供AI應用方案的理光(RICOH)香港,據該公司的解決方案售前專家主管梁洛楓介紹,公司產品之一是為各行業提供內部的AI代理,例如協助人力資源部用AI篩選履歷、為員工解答內部保險事宜等;梁說,其公司以往的AI研發中心設於北京,但當服務香港市場時,本地企業不少對數據出境有疑慮,而AISC設立後,可將數據留在本地運算分析,令企業更安心,運算速度現較在北京快逾一倍,數據處理亦更安全。
明報記者 鄭律銘