跳到主要內容區塊
:::
字級:
小字級
中字級
大字級
:::

OpenAI發布整備框架,概述OpenAI追蹤、評估、預測及防範災難性風險之流程

人工智慧聊天機器人ChatGPT開發公司OpenAI日前發布整備框架(Preparedness Framework),詳述其追蹤、評估、預測及防範人工智慧(Artificial Intelligence)災難性風險的流程,旨在主動針對AI災難性風險採取安全措施,確立安全開發與佈署人工智慧之時間點與方式。

Open AI整備框架重點內容如下:

  • 追蹤災難性風險層級並預測風險走向,以確立安全措施之前置時間。
  • 面臨未知災難性風險時,持續辨別、分析及追蹤相關風險。
  • 制定安全基準(safety baseline),並確立準備框架的實施流程。
  • 建立跨部門的安全諮詢小組(Safety Advisory Group, SAG),透過整合各部門之專業,監督風險評估與緊急情況處理流程,協助OpenAI高層與董事會制定安全決策。
  • 由整備團隊(Preparedness Team)推動與維護整備框架,包含進行風險研究、評估、監測及預測等,並定期向SAG提交報告。
TOP