AI深度偽造危害報告：武器化牟利、性剝削和虛假信息三大威脅加劇
AI事件數據庫報告揭示深度偽造危害快速擴大：武器化詐騙、非自願色情、大規模虛假信息，以及機構的「官方濫用」。
AIID年度報告揭示深度偽造三大威脅：武器化詐騙（假冒名人廣告、CEO假冒造成數十億損失）、非自願色情內容（主要受害者為女性，維權極為困難）、大規模虛假資訊（AI生成假新聞較2024年增長340%）。官方濫用案例包括法官使用ChatGPT起草判決。報告呼籲在檢測工具、立法和AI素養教育方面進行全球協調。
Sources
FAQ
深度伪造最常见的危害是什么？
三大类：假冒名人/医生进行诈骗牟利、生成非自愿色情内容进行性剥削、批量制造虚假新闻和信息。
什么是「官方滥用」？
指可信机构或官员无意中助长AI危害，如法官使用ChatGPT起草判决、政府引用AI生成的虚假数据。
消费者如何保护自己？
警惕来源不明的视频/音频内容，交叉验证信息来源，对AI聊天机器人的建议持审慎态度，尤其在健康和财务领域。