“500单土蜂蜜，16块9发两斤。”近日，社交平台上出现利用AI合成的视频，全红婵、全红婵的“爸爸”“哥哥”纷纷“出镜”，边“讲述”边带货，介绍土蜂蜜、骆驼奶粉、土鸡蛋等商品，有人被骗下单。据媒体报道贵丰配资，全红婵父亲称有人用AI伪造一家人声音卖蜂蜜，他们也没有办法，“帮我辟谣一下，我没有卖这东西”。
每一次打量AI的“作案现场”，都让人不禁感慨，“像真的一样”。类似AI仿冒诈骗行为，不仅欺骗了消费者，也侵犯了当事人的肖像权。随着人工智能应用的快速发展，被盯上的，不止于名人及其家人，由此产生的造谣侵权、刑事犯罪、道德伦理等问题也亟待得到有效破解。
全红婵及其家人被盯上，当然与奥运冠军自带流量有关。近年来，多位明星、名人被假冒，成为AI伪造视频的素材。甚至当普通人成为公众人物时，随着流量的上涨，也会被盯上。据央视网报道，曾悬赏千万寻子的谢岳走入公众视野后贵丰配资，一些不良商家利用谢家父子形象用AI生成带货视频。
这些骗子为啥能轻松造假？人工智能技术的发展是基础和前提。当事人肖像自不待言，在“克隆”声音上，AI也益发精密。正如专家所言，随着算法越来越先进，在高性能设备和高精度模型的加持下，AI生成的语音从两年前的“一眼假”已升级到如今的“真假难辨”。
据搜索发现，能AI合成声音的App有数十款，下载量最高超千万次。部分软件生成的名人声音基本能以假乱真，且录入名人声音不需要提供任何授权证明。
人工智能应用市场上的“繁荣”固然有助于激发创新贵丰配资，释放技术红利，但必须及时加以规范，防止技术被肆意滥用。技术无所谓“恶”，但架不住别有用心的人用在了歧路上。
肆无忌惮用AI生成他人形象和声音，并用于直播带货等，绝非仅仅“蹭流量”那么简单，其中涉及经济、法律、伦理等多重复杂的权责关系。个人肖像、声音等属于个人敏感且专属的信息，受个人信息保护法保护，未经权利人许可而擅自使用，当然构成侵权。如果任由真假难辨的“AI人”大行其道，也会产生认知上的困扰。
有鉴于此，整治AI技术滥用，不仅要管住那些别有用心的使用者，也要管住技术提供方，强化人工智能伦理规制，尽量避免人工智能技术应用可能带来的不利影响。
近年来，有关各方一直在努力规范AI生成内容。国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》，将于2025年9月1日起施行，其中明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。这等于是让AI作品“持证上岗”。
中央网信办近日也印发通知，在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。行动第一阶段将强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力；第二阶段则聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容，假冒他人、从事网络水军活动等突出问题。
AI生成内容让人耳目一新贵丰配资，有着革命性的意义。与此同时，相关规制也必须跟上，使之更好地服务社会、服务发展，而非被骗子拿来当“帮手”。唯有明确规范指引，厘清法律边界，AI才能带给人越来越多的惊喜。
牛津配资提示：文章来自网络，不代表本站观点。
沪深京指数
热点资讯
