Generative AI: A New Threat for Online Child Sexual Exploitation and Abuse - September 2024

本報告研究生成式人工智慧如何改變兒童性虐待素材（CSAM）的製作、散布與商業化。其核心結論是：AI並未創造一個與既有兒童性剝削分離的新問題，而是降低犯罪門檻、擴大受害者範圍，並使既有通報、執法與平台治理制度失效。政策因此不能只處罰最終使用者，而須對資料、模型、平台及散布管道進行全生命週期治理。 一、現狀分析 第一，AI生成CSAM不限於虛構圖像。其形式包括讓聊天機器人模擬與兒童進行性對話、生成犯罪指引、以文字產生影像、將普通照片轉為性影像，以及修改既有CSAM。受害者包括照片遭用於訓練或改造的兒童、既有CSAM受害者，以及影像遭「幼齡化」的成年人。報告因此否定「沒有真實兒童出現在生成影像中，就沒有受害者」的看法。