立法會十九題:人工智能體的規管
***************

  以下是今日(四月二十二日)在立法會會議上鄧銘心議員的提問和創新科技及工業局局長孫東教授的書面答覆:

問題:

  據報近日一款俗稱「龍蝦」的人工智能體在內地掀起熱潮,該智能體在接收指令後能自動完成各種任務,然而內地監管部門於上月發出預警,指出該智能體在不當配置或授權下將存在較高安全風險,容易導致網絡攻擊、惡意接管或信息泄露等安全隱患。就此,政府可否告知本會:

(一)當局會否盡快制訂針對人工智能體應用的安全指引,確保公私營機構在安全可控的範圍內推廣人工智能體應用;如會,詳情為何;如否,原因為何;

(二)鑑於二零二六至二七財政年度的《財政預算案》提出成立AI+與產業發展策略委員會,該委員會在成立後會否盡快制訂全方位的《人工智能發展藍圖》,完善相關規劃、基礎設施和法律治理體系,並加強保障本港的網絡安全和數據安全,以引導AI(特別是人工智能體)的可持續發展;如有,詳情為何;如否,原因為何;

(三)當局會否在現有的創新及科技資助計劃中,撥出專項資源,資助本地機構研發安全可信的人工智能體,並在本港推廣應用;如會,詳情為何;如否,原因為何;及

(四)當局會否增撥資源和參照《政府資訊科技保安政策及指引》,制訂一份適用於政府以外機構及個人用戶的《資訊科技保安指引》,同時加強科普教育和宣傳,以提升社會各界對安全使用AI工具(特別是人工智能體)的認知及防範能力;如會,詳情為何;如否,原因為何?

答覆:

主席:

  就鄧銘心議員的提問,經諮詢律政司後,現回覆如下:

(一)及(四)政府非常重視人工智能應用的治理和風險防範。在治理方面,數字政策辦公室(數字辦)制訂了《人工智能道德框架》、《香港生成式人工智能技術及應用指引》等,為開發及應用AI技術的項目提供指引,以識別和管理有關AI項目的潛在風險及須注意事項(例如系統的安全及穩健性、個人私隱、數據安全和管理),並為技術開發者、服務提供者和服務使用者提供實用指南。舉例來説,《人工智能道德框架》建議項目管理人進行人工智能應用影響評估,按照風險分級等準則考慮AI相關的道德規範、角色和責任,並釐定哪些項目須進行覆核,特別是高風險的應用需設「人在環中」(human-in-the-loop)監督機制,透過人為監督減低使用AI的風險。

  在資訊安全方面,數字辦已制訂一套全面的《政府資訊科技保安政策及指引》,當中包括AI工具的應用場景。相關指引已上載至政府網站,個別機構可因應情況採用合適的資訊科技保安風險管理措施,加強機構資訊保安及防範AI風險的意識及能力。政府會結合實際情況,考慮把該指引的適用範圍擴展至政府以外的機構和個人用戶。

  近年生成式或代理式AI智能體越趨普及,但個別應用可能涉及權限過高、資料外洩、系統入侵等潛在保安隱患。數字辦已提醒各政府部門及市民有關保安風險,並提供相關安全指引,例如各部門不應在連接政府內部網絡的電腦上安裝相關AI智能體;部門安裝不同軟件前須作風險評估,包括使用軟件/產品的需要、產品特性和過往記錄、對部門帶來的保安風險等;以及建議用戶在部署和應用AI智能體時必須採取足夠的安全措施,包括對運行環境進行嚴格隔離,加強憑證管理及持續關注官方發布的安全更新等,以降低相關風險。

  為了加強社會各界對AI應用的安全意識,數字辦支持香港互聯網註冊管理有限公司透過網絡安全員工培訓平台,持續更新有關AI在工作上的安全應用課程,涵蓋職場應用風險提示及守則。此外,二零二六至二七年度《財政預算案》宣布撥款五千萬元,以提升學生、青年及公眾對AI的認知及應用能力,培養AI素養及負責任地使用AI的文化。政府正在與香港科技園公司、數碼港及香港生產力促進局商討,並將邀請三個機構提交建議書,聯同科技企業及院校籌辦貼近目標群組需要、多元及具趣味的課程及比賽等活動。除此以外,我們亦計劃籌辦一系列AI普及課堂,透過專家及業界翹楚以深入淺出的方式,提升公眾對AI安全應用、未來趨勢和機遇的認知,預計有關措施最快於今年第二季起陸續推出。

(二)及(三) 政府一直循《香港創新科技發展藍圖》的策略,以「強化基礎設施、促進應用導向」為重心,透過治理、科研、算力、數據、人才以及資金等領域,積極建設本地AI生態圈,完善上、中、下游的聯動,全力推動香港AI的蓬勃及安全發展。有關工作正在持續進行及深化中。剛成立的香港人工智能研發院將於今年下半年投入運作,引領及協調AI研發、成果轉化及開拓應用場景的工作。在基建方面,現時香港的整體算力已達每秒浮點運算5 000千萬億次(PFLOPS),隨着沙嶺數據園區已經開始動工,預計至二○三二年可提供18萬PFLOPS的算力,相當於目前香港算力的36倍。

  在法律框架方面,為檢視不同政策範疇內的法律是否能配合科技上包括AI的發展,律政司司長已於今年三月六日為成立「檢視支持更廣泛應用AI所需的法律配套」跨部門工作小組召開督導委員會會議。成立一個由不同決策局和政府部門的代表擔任核心成員的工作小組,對於應對AI急速發展及廣泛應用所衍生的議題至關重要。各局/部門會先對現行法律進行全面及深入的檢視,查找漏洞或不足之處,然後按香港的實際環境研究具針對性和可操作的解決方案(包括研究制定專屬法例、實施行政措施等的需要及可行性)。 

  政府會繼續留意AI的最新發展,在推動AI的廣泛應用之餘亦會強調創新與安全並重,適時更新相關指引及治理框架,建立健康有序的AI生態。



2026年4月22日(星期三)
香港時間15時32分