跳到主要內容區塊
:::
字級:
小字級
中字級
大字級
:::

英國內政部(Home Office)與TikTok、Snapchat等在內的科技巨頭簽署協議,以解決生成式AI的兒童性虐待影像問題

英國內政部(Home Office)於2023年10月30日與Tiktok、Snapchat等科技巨頭簽署協議,承諾合作減少生成式人工智慧(Artificial Intelligence, AI)兒童性虐待影像的傳播,並申明人工智慧必須以「保護所有國家兒童免受性虐待的方式」為核心發展。

根據英國網路觀察基金會(Internet Watch Foundation, IWF)的資料顯示,暗網(Dark web)上可以找到數千張兒童性虐待的AI生成式影像,其中近3,000張畫面的逼真程度已違反英國法律,AI虐待影像的主角不乏幼齡化(de-aged)的公眾人物,甚至出現網路上無辜的兒童被AI利用生成幼童裸體影像。IWF警告,這類影像會提高對兒童性暴力正常化的風險,且部分影像變造自真實兒童性虐待的受害人,將二度傷害受虐者。

為改善生成式AI兒童性虐待問題,英國內政部與警方和其他合作夥伴共同開發兒童受虐圖像資料庫(Child Abuse Image Database, CAID),該資料庫將利用AI依據兒童受虐影像的嚴重程度分級,將有助於警方快速搜集大量資料並進行調查。

此外,英國國家打擊犯罪調查局(National Crime Agency, NCA)表示將於2023年11月召開的虛擬全球工作小組(Virtual Global Taskforce, VGT),聚集國際執法和相關產業夥伴共同研擬如何保護弱勢族群免於遭受創傷與二次傷害。

TOP