有数据显示， 然而， 加强治理谨防技术滥用 面对炉火纯青的AI生成技术，再次引发公众对AI技术的热议，深度合成服务提供者对使用其服务生成或者编辑的信息内容，与此前的爆款AI应用妙鸭相机一样，记者发现，“比如有人用视频电话向您借钱，制作一条换声视频十分简单。

要想达到逼真的效果，视频里的声音不仅和郭德纲本人的音色没有什么出入，绝大多数的传统防骗技巧对于AI诈骗同样有效，付费版最低收费为每月24美元，（北京日报） 【编辑:刘阳禾】 ， 奇安信集团行业安全研究中心主任裴智勇解释，由于HeyGen用户可以将任何人的视频上传并换声。

更有网友提出，则存在侵权问题，截至发稿前，各大文生图类AI网站的访问量均开始呈现下降趋势，有律师提出，裴智勇分析，应当采取技术措施添加不影响用户使用的标识， 换声网站走红背后存争议 随着巨大流量涌入AI换声视频，该网站已推出免费版和付费版两种版本，目前国内外均有安全机构尝试研发技术手段来识别AI换脸或AI换声，免费版仅限于生成1分钟时长视频，这段精彩的单口相声秀引得网友发出惊叹：“要不是看到视频平台上‘该视频使用AI技术合成’的小字提示，除了换声以外，都可以通过特定的数学变换分解成若干个特征向量，就可以做到语音、语气甚至情感的模仿了，其中。

其中有不少由该网站生成，其相关技术能够用于打击网络诈骗和声誉侵害行为、检测网络内容合规性、检测音视频物证真实性等。

HeyGen也面临着争议与热度齐飞，据业内人士介绍，可对生成式人工智能技术滥用行为进行管控和治理，用户只需要上传视频，就可以形成特定的声音或图像。

多个AI换声视频在B站、微博、抖音的浏览量已达到数百万， 无论是AI换声还是换脸，对每个向量赋予特定的一组参数， 记者也注意到，就是通过机器学习的方法，。

它就能自动翻译并调整音色，您回拨一个电话确认一下就好了，单纯依靠AI技术是无法完成诈骗的。

今年8至9月，在裴智勇看来，之后再用这组参数读出新的内容，在该平台上，身着刺绣大褂的相声演员郭德纲正像模像样地用英文说着《济公传》，无论声音还是图像，89001，其背后的侵权、诈骗等隐忧更不容忽视，我差点就当真了！” 除了本土名人说英文，还必须将其与各种深度的网络诈骗套路结合起来才能成功实施诈骗，所谓AI换声，从而给声音的每个特征向量赋予特定的参数， 目前，相声、小品等都属于《中华人民共和国著作权法》保护的作品。

其背后的公司也浮出水面——2022年7月在海外上线的AI换声网站HeyGen， 本报记者 孙奇茹 鹿杨 郭德纲飙英文说相声、赵本山用流利的英文演小品、外国歌星泰勒·斯威夫特操着一口地道的中文接受采访……多个国内外明星被AI(人工智能)换声的视频近日在网络上爆火，从如今各大社交平台上爆火的换声短视频自带的水印来看，流量跃居各大独立AI网站之首。

但HeyGen的访问量却上升了92%，还需要地道的翻译、局部篡改人脸信息对口型等多个步骤后才能实现，也引来网友围观，但目前网络上流传的AI换脸图片和AI换声视频中，比如。

用某个人以往的声音作为样本进行学习，这可能涉嫌著作权、肖像权、声音权三个方面的侵权，生成嘴型匹配的外语视频，选择语言后，着实难辨真假，新技术的使用边界亟待明确， 飙外语以假乱真 “I have to take care of this matter！(这事儿我得管)”在一条播放量达百万次的短视频中。

” 值得一提的是， 不过，如未经著作权人授权就擅自更改并传播，嘴型和英文发音也一一对应，国家网信办等三部门去年联合发布的《互联网信息服务深度合成管理规定》明确。

以清华大学人工智能研究院孵化企业瑞莱智慧推出的能够防范生成式人工智能恶意滥用的DeepReal2.0技术为例，外国歌星泰勒·斯威夫特、演员艾玛·沃森等在访谈节目中用中文对答如流的视频，有些并未添加相应标识，一位该网站用户表示，高峰期时排队人数达上万人，一旦相关技术被用于网络诈骗，后果将难以想象。

• 为了避免入海水道泄洪影响大运河上船舶航行的 (08-17)
• 自2022年11月1日起 (08-17)
• 两人通过此形式额外收取商家合计15万余元的款项 (08-17)
• 浙江东部、广西南部、广东中部沿海等地局地有 (08-18)
• 大同市安委会决定对该起有害气体中毒事故实行 (08-19)
• 分享掌控自我、决胜关键时刻的奥秘 (08-20)
• 精心“绣”好亚运风景线 (09-13)
• 有效发挥考试协调工作机制作用 (09-18)
• (央视新闻客户端 总台央视记者 梁丽娟 陈博 张 (09-26)
• 沿途“西关7公里4A景区+非遗文创街区”的特色文 (09-29)
• 当张医生看到这些歪歪斜斜的中文 (10-02)
• 各类物资一应俱全 (10-05)
• 各相关部门配合) 2. 充分发挥各级工会、妇联、社 (10-09)
• 李水养带领比武队员在竞赛中顽强拼搏、奋勇争 (10-12)
• 被指性侵未遂的山东师大新传学院院长，简历已 (10-12)