文：Owen
南韓在人工智能監管領域邁出了全球領先的一步。被譽為全球首部在國家層面全面實施的 AI Basic Act 於日前正式生效。這套法案共包含六章、43 條條文，旨在確保 AI 技術安全與透明的同時，爭取在 AI 發展上躋身全球三甲，與美國及中國並列。
▲Photo by Growtika on Unsplash
根據新法例，所有提供 AI 服務的公司，都必須為 AI 生成內容作出標示。新法規定，所有由 AI 生成的內容必須清晰標記。有趣的是，南韓官方針對不同類型的 AI 輸出採取不同的對待方式：對於明顯的虛構內容，如漫畫或藝術作品，只需加入隱形的「數碼水印」；但若是擬真度極高、具誤導風險的 Deepfake 內容，則強制要求加上肉眼可見的標籤，讓一般人能即時分辨。
法例同時針對所謂「高影響力 AI 系統」訂立額外責任，涵蓋範圍包括醫療診斷、招聘決策、貸款審批等關鍵應用場景。相關系統的營運者需要進行風險評估，並記錄系統如何作出判斷；不過，如果最終決定權仍然由人類負責，該系統則有機會不被歸類為高影響力 AI。
至於極高階、算力驚人的 AI 模型，開發者需要向政府提交安全報告。不過，南韓官員亦坦言，現時門檻設定得相當高，全球暫時未有任何正在使用的 AI 模型真正符合這個級別，更多屬於為未來鋪路。
在執法層面，未有遵守標示規定的公司，最高可被罰款 3,000 萬韓圜（折合約 17 萬港元／2 萬美元）的行政罰款。不過，政府同時設立最少一年的寬限期，讓業界有時間適應與微調相關實務安排。值得留意的是，南韓本地部分科技初創對新法持保留態度，認為披露與標示要求過於嚴格，或會拖慢創新步伐。不過，南韓政府方面反駁指，整套法例當中約有八至九成內容，其實都是以推動 AI 產業發展為主，而非單純限制。
放眼國際，南韓的做法亦與其他地區形成對比。歐盟的 AI 相關法規（EU AI Act）已開始分階段實施，但 EU AI Act 中針對生成式 AI、例如要求披露訓練資料是否涉及受版權保護內容的條款，將會延至 2027 年才全面生效。至於美國方面，白宮上月則簽署行政命令，針對部分被視為「過度限制」AI 發展的州級法規作出調整，反映各地在監管與創新之間，仍然嘗試尋找不同平衡點。
來源：The Guardian
