跳到主要內容區塊
:::
字級:
小字級
中字級
大字級
:::

英國政府先端人工智慧工作小組(Frontier AI Taskforce)成立人工智慧安全研究團隊,以評估先端人工智慧開發的風險

英國政府先端人工智慧工作小組(Frontier AI Taskforce)成立人工智慧(Artificial Intelligence, AI)安全研究團隊,以評估先端AI的風險。為解決AI系統提高人類在專業領域能力及相關風險安全措施之問題,工作小組與多家領先技術組織合作,與科技業者Advai、Gryphon Scientific和Faculty AI簽訂新合約。此研究結果將納入2023年11月AI安全峰會上之討論,參與者包括政府代表、民間社會團體、領先的AI公司及研究AI安全領域的專家等。

英國先端人工智慧工作小組與Advai、Gryphon Scientific和Faculty AI合作包括:

  • 與Advai合作研究先端人工智慧系統的漏洞,例如:識別AI中的漏洞和限制,以改進和保護這些系統。
  • 與FacultyAI合作以確定大型語言模型(Large language model, LLMs)可能提升初學不當行為者的能力程度,以及未來系統可能增加的風險。
  • 與Gryphon Scientific合作,以確定LLMs作為推動生命科學快速進展的工具潛力。

先端人工智慧工作小組也於2023年9月7日宣布成立專家顧問小組,並與多個組織建立合作夥伴關係。

TOP