名医都是AI“克隆人”，画面和声音让我脊背发凉?

近日，多个社交平台上出现了所谓“营养专家”推荐的“独家减肥食谱”。许多买家相信他们并下订单购买。那么，这些表面上的权威真的来自于专家本人吗？这背后到底隐藏着什么秘密？著名的医生出现在著名的科学视频中，但当事人却完全不知道这一点。在一段假的人工智能视频中，专家说得好，说交易者是北京协和医院临床营养科主任于康教授。他是中国营养与健康领域的权威专家。记者在社交平台上发现了多条于康教授的科普视频，介绍和推广减肥食谱。记者随后联系北京协和医院进行调查核实。于康教授澄清，他本人从未参与过此类视频的录制。北京协和医院临床营养科主任于康：我几乎每天都会收到好朋友和各种有联系方式的人发来的信息。有疑问和提醒。经常出现的词是“这是你吗？” “这是于康吗？”当我看到完全是我的形象时，声音的相似度完全超出了我的想象。今天，技术已经可以达到这个水平。一方面，令人难以置信。另一方面，感觉后面就像一个小孩子，有点吓人。在著名的科普视频中，商家不仅歪曲了康教授的形象，还介绍了毫无根据、未经科学证明的营养知识。于康教授更担心视频中的虚假信息会让社区社区的努力变得毫无意义。医院医生因使用人工智能技术生成虚假视频而受到严厉批评。代表奥特注意到，这些短视频来自多个自媒体账号。除了于康教授的形象外，另一个共同的特点是虚拟背景的使用。不仅于康教授有这些问题，北京协和医院临床营养科的马芳教授也遇到了同样的情况。在某平台网店链接中，视频中的“马教授”分享了自己的减肥经历。据北京协和医院介绍，多名知名专家曾被人工智能变脸，用于“养生”、“减肥”等虚假宣传。甚至还有不法商家利用人工智能生成假医生，打着协和医院的旗号销售各种产品，误导消费者。医院和医生深受其害。 AI模仿热门主播、直播间虚假营销 随着AI模仿视频泛滥，司法国家和监管部门已查处多起案件。记者在调查中发现，不少公众人物的图片未经许可被用于商业宣传。今年年初，北京市海淀区市场监管局接到买家和广播公司举报称，一种鱼油产品具有医疗作用。在该账号发布的一段短视频中，出现了中央广播电视台主持人李子萌的形象。记者注意到，发布假主播李子萌短视频的账号名为“广州白云深海鱼油厂”，粉丝数量超过80万。进入直播间后，记者看到，这款鱼油三瓶售价为59.9元，页面显示已售出17.7万单。北京市海淀区市场监管局海淀街道市政监管室科员李新荣局方：最后，当事人承认了短视频中李子萌的形象是他的。我们的员工收集了李子萌在网上报道的新闻片段，通过人工智能技术对未经许可的新闻片段进行编辑处理，最终合成了这段虚构的视频。记者实测：30秒生成一个女医生短视频。记者调查发现，利用人工智能技术进行非法营销的现象越来越多。主要原因是相关工具非常容易获得。而且，如果是换脸或者拟声的话，操作起来也很简单。记者发现，各大手机应用商店里充斥着大量的换脸器或小程序，其中大部分可以免费使用。记者被应用程序随机选中，只需上传几张自己的脸部照片，就可以将目标视频中的知名专家替换为自己的脸部。除了换脸之外除了拟声词之外，一些App还可以提供AI对口型、AI文声视频、AI电商等多种功能。记者体验了“文森视频”功能：在对话框中输入关键词：北京协和医院，女医生，坐在诊室桌前，介绍患者病情，不到30秒就生成了一段女医生形象的短视频。您也可以选择“不添加AI生成的单词”。记者随后进入减肥产品效果文案，选择“主播配音”，生成了一段“北京协和医院女医生宣传减肥产品”的营销视频。目前，人工智能造假相关维权难度很大，在技术鉴定、证据整理、监控追责等方面存在较大阻力。施建英 海淀街道副主任北京市海淀区市场监管局市监管办：深度造假视频识别难度大、成本高肉眼很难识别，需要专业的技术支持。但此类侵权违法行为的造假成本较低。另一方面，电商平台上出现了大量人工智能生成的假视频。权利人本身不知情、不知情，维权周期长、程序复杂。一些权利人选择放弃维权或配合度较低。新监管规定：人工智能内容必须贴标签。 《关于对人工智能生成的合成内容进行标注的建议》于9月1日正式实施，明确要求利用人工智能技术生成合成的文字、图像、音频、视频、虚拟场景等信息必须添加对应的内容。依法查找声明标签。记者调查发现，在一些人工智能合成的视频中，发布者使用了令人惊讶的字体或隐藏在屏幕的角落。一些二级出版商甚至隐藏了他们的徽标。专家表示，各社交平台作为人工智能视频发布的主要渠道，应在平台政策、内容分析等方面进一步完善相关措施。来源：央视新闻 返回搜狐查看更多