2026審議大會：AI時代的風險評估- AI生成兒少不宜內容
AI 正快速改變我們取得、創作與傳播資訊的方式，也帶來許多新的公共治理挑戰。根據數位發展部於 2026 年 3 月發布的人工智慧影響評估研究，「AI 生成／散佈兒少不宜內容」被列為影響程度與發生可能性都相當高的重要風險議題。 我們希望邀請大家一起思考：當生成式 AI 讓內容產製與散布變得更加容易，我們應如何回應可能對兒少造成傷害的內容？平台、AI 開發者、家長、教育工作者、政府與使用者各自應承擔哪些責任？我們又該如何在兒少保護、隱私保障、創作自由、言論自由與科技創新之間取得平衡？
建立於 2026/8/17 · 5 份素材 · 建立者：Thompson Lin
議題概覽
2026審議大會｜AI時代的風險評估：AI生成兒少不宜內容
議題是什麼？
生成式AI讓製作、修改與散布兒少性化影像的成本大幅下降。風險不只包括虛構影像，也包括將真實兒少的日常照片「裸化」、換臉或性化，反覆改造既有受害影像，以及用於誘騙、性勒索與規避偵查。即使影像未記錄真實性侵，肖像遭挪用的兒少仍可能承受心理創傷、名譽損害與同儕排斥；大量合成內容也可能排擠執法機關辨識、救援真實受害者的資源。
已有共識
多數觀點認為，AI不是創造一個與既有兒少性剝削無關的新問題，而是加速並放大原有危害。單靠使用者自律、服務條款或事後下架不足以因應；模型開發者、託管平台、社群與搜尋平台、應用程式商店、支付服務及政府，都應依其控制能力承擔責任。治理也不能只靠技術封鎖，還須結合法律更新、數位蒐證、跨境合作、快速下架，以及以被害人為中心的社工、心理與教育支持。
需要審議的選擇
第一，法律應管到哪裡？純合成但擬真的兒少性影像是否一律納管；動漫、藝術或非擬真創作如何區分；責任是否應依擬真程度、營利目的、散布規模與實際危害分級。第二，政策資源應優先投入模型上游的資料清理、安全測試與發布限制，還是下游的通報、下架、執法與被害支持。第三，自動偵測與內容攔截要做到多強，才能兼顧兒少安全、隱私、誤判申訴與外部監督。第四，開放模型發布後可被修改或解除限制，開發者與託管平台的責任應延伸到何種程度。
主要立場
「安全設計」取向主張從訓練資料、模型測試到發布維護全程預防；「平台治理」取向重視主動偵測、下架、證據保存與切斷導流營利；「被害人中心」取向強調反污名、可信任的求助關係、快速下架及長期支持。三者並非互斥，真正的抉擇在於責任如何分配、資源如何排序，以及程序保障如何建立。
✅ 背景共識
1. 生成式 AI 擴大既有兒少性剝削風險，而非形成完全獨立的新問題
多數素材認為，生成式 AI 降低了製作、修改與大量散布兒少性剝削內容的技術及成本門檻，使普通兒童照片可被性化、既有受害影像可被反覆改造，也可能被用於誘騙、性勒索、犯罪指引及規避偵查。
AI 因此不是取代既有兒少性剝削，而是加速、放大並改變其運作方式。（素材 1、2、4、5）
2. 沒有拍攝真實性侵，不代表沒有受害者或實質傷害
多數素材不同意「影像是合成的，就沒有受害者」這種看法。即使沒有直接記錄實體性侵，仍可能產生下列傷害：
- 真實兒童的肖像、身分或日常照片遭挪用及性化。
- 既有兒少性虐待影像受害者被再次利用與再度受害。
- 遭裸化或深偽的兒少承受心理創傷、名譽損害、同儕排斥及家庭壓力。
- 大量虛構內容可能降低性化兒童的社會與技術障礙，並排擠執法資源。
（素材 1、2、4、5）
3. 單靠使用者自律、使用條款及事後下架不足以因應風險
多數素材認為，治理不能只在違法內容生成或散布後處理，也不能把責任全部交給個別使用者。資料來源、模型開發、模型發布、服務部署、平台推薦、內容散布、支付與營利管道，都可能影響危害是否發生及擴大。
因此，掌握技術或基礎設施的開發者、託管平台、社群平台、搜尋引擎、應用程式商店及政府，都應依其控制能力承擔相應責任。（素材 1、2、4、5）
4. 治理必須同時包含技術防制、法律制度、執法能力與被害人支持
素材普遍主張跨部門、跨組織處理，而非依靠單一工具。除模型安全、內容偵測、快速下架及法律更新外，也需要：
- 優先辨識並救援可能遭受實際侵害的兒童。
- 保存數位證據並建立跨境合作機制。
- 提供被害人中心、反污名的社工與心理支持。
- 以數位素養、身體自主、情感教育及健康關係取代單純的禁止或責備宣導。
（素材 1、2、3、4、5）
⚔️ 背景爭點
素材中並未出現「完全不應治理」的明確立場。分歧主要集中在治理範圍、政策重心及技術措施的程序保障。
1. 法律應將哪些 AI 生成內容納入禁止或管制範圍？
一種主張認為，法律不應以影像是否對應特定真實兒童作為唯一判準，純合成但擬真的兒少性影像，也應納入製作、持有與散布規範，以免留下執法漏洞，並回應其對需求、社會規範及執法資源造成的影響。（素材 1、4、5）
另一方面，素材也指出以下界線仍不明確：
- 擬真影像與明顯虛構內容如何區分。
- 動漫、藝術或非擬真創作是否及如何納管。
- 兒少保護與創作自由之間如何取得平衡。
- 是否應依營利目的、散布規模、擬真程度及實際危害採取不同責任。
素材 5 特別將「明確分類、可驗證標準與比例原則」列為尚待處理的政策問題。
2. 政策應優先管制 AI 模型上游，還是強化下游通報、下架與支持系統？
素材 1、2、4、5較強調上游預防，包括清理訓練資料、模型紅隊測試、阻擋特定輸入與輸出、發布前評估、模型卡揭露及持續安全更新。其論據是：模型發布後可能被微調、解除限制或離線使用，因此只靠事後刪除無法阻止危害。
素材 3的研究重點則在既有兒少網路性剝削支持系統，主張優先改善：
- 跨部會協作。
- 社工與警政量能。
- 數位證據保存。
- 平台快速下架。
- 被害人長期支持。
兩者並非互相排斥，但對政策資源與制度改革的優先順序不同。尤其素材 3本身並未直接提出生成式 AI 模型治理措施；把模型安全義務納入其架構，屬於後續延伸，而非該研究的原始結論。
3. 技術攔截應做到多強，以及如何避免誤判、偏誤與權利侵害？
多數素材支持使用雜湊比對、分類器、內容安全 API、數位指紋、自動化偵測、來源標記及模型輸入輸出過濾，以減少違法內容的生成與散布。（素材 1、2、5）
但素材 2指出：
- 自動偵測可能出現文化與人口偏誤。
- 系統可能誤判合法內容。
- 資料清理可能降低模型正常能力。
- 下架、通報或停權不宜完全由自動系統決定。
因此主張保留人工審查、申訴及救濟機制。素材 5也指出，強化巡查與攔截時，仍須補充資料庫治理、隱私保護、外部監督，以及監控加密通訊是否符合比例原則等問題。
4. 開放模型及公開模型權重應承擔多大程度的發布責任？
素材 1、2、4認為，開放模型並不應排除於兒少安全義務之外，因為模型權重公開後，使用者可能在本地端移除限制或進行特定微調。因此，即使是開放模型，也應在發布前接受兒少安全測試、風險評估及適當的分階段發布。
但素材並未提出一套一致標準，說明：
- 何種風險應導致延後或限制發布。
- 開發者應對發布後的第三方修改負責到何種程度。
- 如何兼顧技術研究、創新空間與兒少安全。
- 模型託管平台應依開發者自我聲明，或進行獨立、標準化評估。
因此，爭點不是開放模型是否完全免責，而是責任應延伸到何種程度，以及由誰判定模型風險。
🗺️ 立場地圖
立場一：兒童安全與「安全設計」取向
**主要代表素材：**素材 1、2、4；素材 5部分支持。
**主要關切者：**兒童權利組織、AI 開發者、模型與資料託管平台、政策制定者。
在乎的面向：
- 危險資料是否進入訓練資料集。
- 模型發布前是否接受兒少安全測試。
- 模型是否能被解除限制、微調或離線濫用。
- AI 生成內容是否具有可追溯的來源資訊。
- 兒少安全是否被納入模型全生命週期。
主要論據：
危害的起點可能在資料蒐集及模型設計階段。如果等到內容生成、散布或被檢舉後才處理，危害已經發生；模型一旦公開，也可能脫離原開發者的 API 監控。因此，應採取多層次防護，包括資料清理、紅隊測試、提示詞及輸出阻擋、發布前評估、模型卡揭露、浮水印或 C2PA 來源資訊，以及持續更新安全措施。
此立場通常不主張全面禁止生成式 AI，而是要求掌握技術者依其控制能力承擔較多預防責任。
立場二：平台與散布鏈治理取向
**主要代表素材：**素材 1、2、3、5。
**主要關切者：**社群平台、搜尋引擎、應用程式商店、模型託管平台、支付服務、iWIN或其他通報下架單位。
在乎的面向：
- 違法內容能否被迅速偵測及移除。
- 平台推薦機制是否放大兒童帳號或相似違法內容。
- 「裸化」工具及高風險模型是否能在應用程式商店或託管平台流通。
- 帳號、廣告、外部連結及支付服務是否形成營利鏈。
- 被害人是否有穩定的申訴、證據保存及案件追蹤管道。
主要論據：
主流平台不只是被動儲存內容，也可能透過推薦、搜尋排序、應用程式上架、外部連結及支付系統，成為導流與商業化的條件。若平台僅依賴使用者檢舉、自律承諾或個案協商，難以處理大量、跨境且快速複製的內容。
因此，此立場主張平台應負主動偵測、降低可見度、移除、保存證據、限制帳號及切斷營利管道的義務。
立場三：被害人中心與支持系統取向
**主要代表素材：**素材 3；素材 1、4、5亦有部分相同主張。
**主要關切者：**受害兒少、社工、心理專業人員、學校、家長、兒少保護與被害人支持組織。
在乎的面向：
- 受害者能否獲得非羞辱、反污名的支持。
- 影像是否能快速下架，並避免持續流傳造成再度傷害。
- 社工、教師與警察是否了解新型態網路性剝削。
- 兒少是否具有可信任、可求助的現實關係。
- 教育是否處理兒少的情感、認同及親密關係需求。
主要論據：
兒少提供私密影像不一定只是因為缺乏知識，也可能與尋求關心、認同或親密關係有關。只宣導「不要拍、不要傳」，或要求兒少反省自身行為，無法處理其情感需求，也可能增加羞恥感及降低求助意願。
此立場反對將責任轉嫁給受害者或家庭，也不認為全面監控兒少是主要解方，而是主張建立穩定的支持關係、跨部會專責機制、快速下架及長期處遇服務。
立場四：法制更新與執法能力取向
**主要代表素材：**素材 1、4、5；素材 3著重臺灣執法與權責缺口。
**主要關切者：**政府、立法者、警政及司法機關、數位鑑識單位、跨境合作機構。
在乎的面向：
- AI 生成、純合成及擬真內容是否有明確法律定義。
- 開發者、部署者與平台是否具有法定注意義務。
- 是否提供刑事、民事、行政制裁及被害救濟。
- 執法機關能否辨識合成影像並追查來源。
- 大量合成內容是否排擠真實受害兒童的救援。
- 境外平台、匿名網路及加密傳播如何處理。
主要論據：
既有法律多以真實拍攝影像為中心，各國對虛構、擬真及動漫內容的定義不一致，容易造成跨境執法困難。大量合成內容也可能讓執法人員無法迅速辨識哪些影像涉及正在受害、需要立即救援的真實兒童。
因此，此立場主張更新法律定義、建立證據標準、投資合成影像鑑識及來源追蹤、加強國際情資交換，並依行為人的控制能力、營利目的、散布規模及危害程度建立責任制度。
立場五：程序保障、比例原則與創作空間取向
**主要代表素材：**素材 2、5。
**主要關切者：**內容審查與紅隊人員、一般使用者、創作者、受自動化判定影響者，以及負責制度設計的監管機關。
在乎的面向：
- 自動偵測是否造成誤判或文化、人口偏誤。
- 通報、下架及停權是否有人工覆核與申訴。
- 訓練資料清理是否影響正常模型能力。
- 違法內容資料庫如何治理及接受監督。
- 科技巡查與加密通訊監控是否侵害隱私。
- 法律定義是否過度擴張至合法創作。
主要論據：
此立場並不否認兒少保護或技術治理的必要性，而是認為技術措施並非完全可靠。若缺乏人工審查、申訴、資料治理、外部監督及明確分類標準，可能使合法內容遭移除、一般使用者遭錯誤停權，或產生不符合比例原則的監控。
因此，其重點是讓兒少安全措施具備可驗證標準及程序保障，而不是單純反對偵測或管制。
素材呈現出的整體位置
五份素材在基本方向上高度接近：均未主張放任 AI 生成兒少性剝削內容，也不認為責任應只由最終使用者或受害家庭承擔。主要差異在於：
- 有些素材把重點放在模型及資料的上游預防。
- 有些素材優先處理平台下架、執法及跨境追查。
- 有些素材著重被害人支持、反污名及制度協作。
- 少數素材進一步提醒，技術管制仍須處理誤判、偏誤、隱私、申訴及創作自由問題。
其中，素材 3並未直接研究生成式 AI 模型治理；素材 4則屬政策討論用工作文件，其主張不必然代表 UNICEF 的正式政策。
說明頁版本 v2，最後更新 2026/8/17 · 彙整者：Thompson Lin