美股動向｜OpenAI披露六宗AI安全事件，推通報框架促業界透明

　　人工智能公司OpenAI公布，過去半年在模型訓練及測試過程中，發現六宗涉及AI系統異常行為的案例。公司同步推出業界首個AI模型失準追蹤及通報框架，強調此舉旨在提升技術透明度，並推動同業共享安全風險資訊。

 

　　OpenAI披露，在最近六個月的開發過程中，觀察到六次AI模型出現非預期或具潛在風險的行為模式，相關案例涵蓋訓練階段與壓力測試期間的異常表現。公司特別說明，此次公開資料不包括早前已曝光的Hugging Face平台事故。

 

　　新推出的「模型失準」通報框架，明確定義當AI系統行為偏離設計目標時的處理流程，包括事件追蹤、成因調查及公開披露機制。OpenAI表示，此框架可簡化安全事件的紀錄與共享程序，並期望藉此帶動業界提高透明度，共同應對AI技術潛在風險。

 

　　值得留意的是，此次披露內容並未包含2023年涉及Hugging Face平台的模型漏洞事件。OpenAI強調新建置的通報系統將適用於未來所有安全相關案例，並呼籲其他AI開發商跟進採用類似標準化流程。

《經濟通通訊社17日專訊》