跳到主要內容區塊
:::
字級:
小字級
中字級
大字級
:::

新加坡推出全球首個人工智慧測試框架和工具包—AI Verify

新加坡推出全球首個人工智慧治理測試框架和工具包(AI Governance Testing Framework and Toolkit)——AI Verify,旨在透過結合技術測試和流程檢查,提高公司與其利益相關者之間的透明度。

新加坡於2019年11月發布國家AI戰略,2020年在世界經濟論壇(The World Economic Forum)年會上發布人工智慧治理測試模型(第二版), 2022年則宣布推出由新加坡資訊通信媒體發展局(Info-communications Media Development Authority, IMDA)及新加坡個人資料保護委員會(The Personal Data Protection Commission, PDPC)開發的AI Verify。

AI系統開發人員及擁有者可透過AI Verify的標準化測試(standardized tests)驗證其人工智慧系統的性能。AI Verify將一組開源測試解決方案(open-source testing solutions)納入組合,其中並包含一組流程檢查的工具箱,可用以自評,並為開發人員、管理員和商業夥伴產出測試報告。AI Verify讓AI模型的測試具透明度並涵蓋以下領域:

1.   透明度:使用人工智慧實現既定結果、瞭解人工智慧模型如何做出決策,以及人工智慧預測的決策是否顯示意外偏差。

2.   AI系統的安全性和韌性。

3.   AI系統的可課責性和監督。

前導測試框架及工具包:

(1)允許AI系統開發人員及擁有者進行自我測試,以維護商業需求及提供聲明結果的通用基礎。

(2)不定義倫理標準,針對AI系統開發人員及擁有者主張的AI系統方法、應用及性能提供驗證。

(3)不保證在此前導框架下測試的任何人工智慧系統都不具風險或偏差,或完全安全。

TOP