法治日报记者 张守坤

话题“被AI造黄谣女运动员发声”近日冲上热搜榜，引发广泛关注。

8月30日，台球运动员王思诺公开发布视频，表示自己正深陷恶意AI造“黄谣”风波，有人利用人工智能伪造她的淫秽视频并肆意传播。

目前，王思诺已委托律师开展证据保全工作，并正式启动法律程序维权。同时，警方也已立案，进入取证调查与侦破阶段。

《法治日报》记者梳理公开资料发现，通过“AI换脸”“AI脱衣”等方式造“黄谣”的情况已不是个例。

在王思诺发声后，台球女裁判王钟瑶发布视频力挺王思诺。王钟瑶透露，自己也遭遇过类似的糟心事，境外网站上曾非法传播涉及她的伪造的淫秽视频。

今年3月，模特叶某发视频称，自己被人利用“AI换脸”制作淫秽视频并大量传播，造成严重困扰，已经收集证据并报警。经鉴定，该视频确系拼凑伪造。

记者近日调查发现，网络上有专门的AI软件，为生成“黄图”“造黄谣”提供技术便利。例如，在商家“××AI脱”给记者的报价单中，12元可充值20积分，28元可充值70积分，58元可充值118元积分……积分可用来生成“AI换脸”图片或视频，一张图片一般需要10积分，视频则是1秒需要1积分。如果花268元，可以开通永久卡，免费使用上述商家提供的AI技术。该软件提供的服务主要包括两种：一种是上传正常人物照片后，可以“AI脱衣”；另一种则是“AI换头”，将别人的肖像换到他人的身体上。

除“××AI脱”外，网上还有不少商家提供用于“AI换头”的素材库，其中多是些黄色图片和视频。

传播AI“黄谣”的链条中，各方主体该负哪些责任？

北京航空航天大学法学院副教授吉冠浩介绍，用AI造“黄谣”并传播的自媒体和个人，可能对他人构成民事侵权；符合一定条件的还可能违反治安管理处罚法，对其可处行政拘留及罚款；情节严重的还可能触犯刑法，构成传播淫秽物品罪、侮辱罪或诽谤罪。

他还提到，作为传播载体的平台，如果未及时删除已知侵权内容，需与传播者承担连带责任；纵容传播可能因“未履行信息内容管理义务”被主管部门处罚；算法主动推荐淫秽内容，可能构成帮助信息网络犯罪活动罪。

在北京瀛和律师事务所合伙人王利华看来，目前对制作、传播AI“黄谣”的当事人、自媒体及平台的处罚力度存在不足。部分案件仅以警告、小额罚款、封禁账号为主，未形成足够震慑；对平台的处罚多针对具体事件，缺乏常态化监管和高额罚款，难以倒逼平台落实主体责任。

值得注意的是，现在很多AI“黄谣”不仅在国内平台，在境外平台也大量传播，比如某境外社交平台上设有专门的“换脸视频/图片”专区，一些网站的服务器也在国外。受害者维权时常见证据易灭失（如加密聊天群内容）、境外服务器取证难、无法删除视频等难题。

吉冠浩说，针对证据易灭失、境外服务器取证难的问题，办案机关应与时俱进，运用即时存证技术，构建“区块链+AI”的跨境证据固定系统；根据国际刑事司法协助法等，通过外交等渠道向境外司法机关提交证据调取请求，要求境外网络平台提供服务器日志等电子数据。针对无法删除境外视频的难题，相关监管机关对长期纵容AI违法内容的境外平台，可采取“长臂管辖”措施，如限制其在中国市场的业务合作，或通过反垄断法、数据安全法加以制裁。

王利华建议，出台专门针对AI生成虚假信息的司法解释，尽快明确AI“黄谣”的定义、制作、传播、平台的责任划分，提高罚款金额、刑期等处罚标准。强化技术监管能力，由政府牵头建立“AI黄谣监测预警平台”，整合各平台数据，对全网AI“黄谣”内容进行实时监测、溯源和拦截；同时，鼓励企业研发AI内容识别技术，提升“黄谣”检测准确率。要求互联网平台、AI技术企业签订《AI内容治理承诺书》，建立“黑名单”制度，对多次制作、传播AI“黄谣”的账号、企业进行跨平台联合惩戒。

吉冠浩提出，针对工具源头可设置下列防控方法：首先在硬件上，显卡厂商应植入“伦理协议芯片”，进行二手显卡交易时需验证其用户的真实身份，并承诺禁止用于生成违法内容。其次在软件上，向开源模型注入“伦理污染数据”，针对“脱衣”“换脸”等关键词，植入干扰标签，使模型输出失真。最后在平台上，建立“AI生成内容防火墙”，网络平台应部署多模态检测引擎，结合生成痕迹与语义分析，实现精准拦截。

“可以设立‘AI黄谣维权援助中心’，为受害者提供免费的法律咨询、证据存证、司法协助等服务。同时通过媒体宣传普及维权流程，鼓励受害者主动报案、发声，减少‘沉默效应’。”王利华说。