全文共2589字，阅读大约需要6分钟
近日，北京协和医院多位知名专家遭遇AI换脸技术滥用事件引发社会关注。不法商家利用深度伪造技术，将专家形象用于“养生”“瘦身”等虚假宣传，甚至生成假医生账号兜售商品，严重误导消费者。律师指出，AI技术门槛降低与违法成本偏低是此类乱象频发的主因，而溯源追责难则进一步加剧了治理困境。
北京商报记者丨刘洋 程靓
11月17日，相关话题登上微博北京同城榜，截至发稿阅读量已超282万。据调查，北京协和医院内分泌科、营养科等科室专家成为AI换脸重灾区，不法分子通过伪造专家形象，在短视频平台发布“7种水果护肝”“3天瘦10斤”等夸大内容，并引流至付费课程或商品销售页面。
在某社交平台搜索“协和医院于康教授”，仍能发现大量健康科普短视频。以某条“7种水果护肝”视频为例，画面仅显示专家肩颈以上部位，背景为山水画，内容结尾却引导用户添加公众号领取“食疗养生课程”。这种“科普+营销”模式已成为AI换脸诈骗的典型套路。
天使投资人郭涛分析称，AI换脸工具已高度普及，手机小程序和开源软件可实现“一键生成”，单次成本低至几分钱。苹果应用商店中，星绘App、脸猫App等换脸软件下载量达数十万次，电商平台更提供“2小时克隆无水印视频”服务，仅需45元即可定制200字文案的伪造内容。
河南泽槿律师事务所主任付建指出，AI技术成熟导致操作门槛降低，而现行处罚力度难以形成震慑。多数案件仅处以行政拘留或小额罚款，民事赔偿数额有限。北京市海淀区市场监管局负责人补充称，AI视频鉴别成本远高于造假成本，且权利人维权周期长、程序复杂，导致部分受害者放弃追责。
北京市京师律师事务所律师卢鼎亮表示，AI换脸造假手段快速迭代，不法商家通过镜像翻转、画中画遮挡等技术规避检测，而监管技术难以实时跟进。平台监管多采取事后处理模式，用户投诉后下架内容的速度远不及AI造假传播速度。
调查发现，AI换脸内容发布者常通过技术手段规避责任。某“于康教授”视频中，嘴型与配音明显不匹配，下方标注“AI生成，侵权即删”小字。电商平台商家则普遍提出免责声明，声称“素材由AI生成，不涉及侵权”。
付建律师强调，免责声明无法掩盖违法本质。根据《民法典》，未经肖像权人许可使用其形象即属侵权，标注“AI生成”不能抵消违法行为。商家若因客户使用服务导致法律责任，仍需承担连带责任。
为整治AI换脸乱象，政策法规持续完善。中央网信办开展“清朗·整治AI技术滥用”专项行动，国家网信办等部门发布的《人工智能生成合成内容标识办法》于9月1日实施，要求AI内容必须“亮明身份”。北京、上海等地探索AI管理地方立法，形成国家与地方协同治理格局。
网信部门近期处置了“百货超市小店”等1.1万余个仿冒公众人物账号，清理违规信息8700余条。卢鼎亮律师建议，未来需明确平台审查责任，利用技术拦截违规内容，研发更可靠的溯源和水印技术，并加强国际司法协作打击跨境犯罪。
谈及“用AI治AI”模式，卢鼎亮认为，这是一场数字世界的“攻防战”。AI治理技术围绕“侦测、溯源、阻断”展开，具有高效率与自动化特点，但伪造技术也会针对检测弱点优化，导致永恒对抗。他强调，需设定合理阈值、建立人工复核机制，减少误判风险，防止“算法暴政”。未来治理需技术博弈与制度建设双管齐下，确保创新在法治轨道上行稳致远。
编辑丨林琴
图 片丨视觉中国、视频号截图
猜你喜欢
