跳到主要內容區塊
:::
從比較法論AI代理於資安評測期間授權外行為之法制研析 撰成日期:115年9月 更新日期:115年9月29日 資料類別:議題研析 作者:黃姵瑜 編號:R03204
【僅供委員問政所需參考 不代表本院意見或立場】
背景說明
英國人工智慧安全研究所(AI Security Institute,下稱AISI)於2026年8月4日公布事件報告,該所於同年7月28日例行資安評測中偵測研究系統有異常資料經Tor匿名網路外傳,隨即宣告發生資安事件並於1小時內遏阻。該任務共執行122次、涵蓋7個模型,其中10次出現受測人工智慧代理(AI agent,下稱AI代理)對真實個人或組織採取未經授權行動共19項,最嚴重者係將惡意程式碼植入開放原始碼專案並偽造身分行社交工程。本事件非模型突破隔離環境所致,而係評測時刻意開放網際網路連線並停用業者之防濫用分類器,未發現實際損害。另我國行政法人國家中山科學研究院(下稱中科院)採購網於115年8月28日大量寄送過期採購資訊,該院初判係自行開發之AI資安偵測代理逾越工具權限所致;惟經數位發展部(下稱數發部)初步調查及該院同年9月5日說明,實係受託開發廠商為便利管理而內建之隱蔽排程介面遭境外IP破解觸發,尚非AI代理行為。該院係以事發時測試區正進行AI代理訓練而初步歸因,嗣依廠商完整報告始得釐清肇因。
全文下載網址:https://www.ly.gov.tw/Pages/List.aspx?nodeid=46869
(手機用戶若無法下載,請複製網址改以Chrome等網路瀏覽器開啟)
【立法院全球資訊網/關於立法院/各單位/法制局/業務成果(議題研析公開)/第11屆議題研析】