11月17日，微博话题#医生被AI换脸卖洋葱减肥食谱#登上北京同城热搜榜，截至发稿时阅读量已突破282万次。据调查，北京协和医院多位知名专家遭遇AI换脸技术盗用身份，被用于养生、瘦身等虚假宣传，甚至有不法商家通过生成虚假医生形象，以协和医院名义销售各类商品，严重误导消费者权益。
在某社交平台搜索“协和医院于康教授”发现，仍有大量健康科普视频在传播。例如某条标题为“于康教授：这7种水果对身体好处非常多”的视频，仅显示教授肩颈以上部位，背景为山水画。视频在介绍完对肝脏有益的水果后，开始为某养生讲堂引流，声称添加公众号可免费领取食疗课程。
天使投资人、人工智能专家郭涛指出，AI换脸商用泛滥与技术门槛骤降直接相关。当前手机小程序、开源软件已实现“一键换脸”，单次成本低至几分钱，无需专业背景即可操作。在苹果应用商店，星绘App、脸猫App等AI换脸工具下载量分别达21万、6.9万次，电商平台更存在“2小时克隆数字人”服务，仅需45元即可生成无水印短视频。
河南泽槿律师事务所主任付建表示，由于技术成熟度提升，不法商家违法成本显著偏低。目前多数案件仅处以行政拘留或小额罚款，民事赔偿金额有限，难以形成有效震慑。
北京市海淀区市场监管局负责人补充称，AI深度伪造视频的鉴别成本远高于造假成本，且权利人维权周期长、程序复杂，导致部分受害者放弃追责。
北京市京师律师事务所律师卢鼎亮分析，AI换脸监管面临双重挑战：一方面，造假技术迭代迅速，不法分子通过镜像翻转、画中画遮挡等手段规避检测，监管技术难以实时跟进；另一方面，平台多采取事后处理模式，用户投诉后下架内容的速度远不及造假传播速度。
观察发现，AI换脸内容发布者常通过技术手段“脱身”。例如前述于康教授视频中，嘴型与配音明显不同步，且视频下方标注“AI生成，内容仅供参考”等免责声明。电商平台商家也普遍声称“素材由AI生成不涉及侵权”，甚至要求客户自行承担法律责任。
付建律师强调，此类免责声明无法律效力。根据《民法典》，未经肖像权人许可使用其形象即属违法，标注“AI生成”不能抵消侵权本质。商家行为涉嫌违反肖像权、消费者知情权相关条款。
针对AI换脸乱象，政策层面持续发力。中央网信办开展“清朗·整治AI技术滥用”专项行动，重点打击未经授权克隆生物特征行为；国家网信办等部门发布的《人工智能生成合成内容标识办法》于今年9月1日实施，要求AI内容必须“亮明身份”；北京、上海等地探索AI管理地方立法，形成协同治理格局。
网信部门近期整治行动成效显著，已清理违规信息8700余条，处置仿冒公众人物账号1.1万余个。卢鼎亮律师提出，未来需进一步明确平台审查责任，开发更高效的溯源水印技术，制定可操作的执法指南，并加强国际司法协作打击跨境犯罪。
谈及“用AI治AI”的技术路径，卢鼎亮认为这本质是数字世界的“攻防战”。AI治理技术围绕“侦测、溯源、阻断”展开，具有自动化优势，但伪造技术也在持续进化，形成“猫鼠游戏”式对抗。他强调，需设定合理阈值、建立人工复核机制，防止算法误判导致“算法暴政”。最终治理格局将是技术博弈与制度建设的共同进化，需让创新在法治轨道上运行。
北京商报记者 刘洋 程靓
猜你喜欢
