“国庆期间上网被‘雷军’骂了整整七天”？“雷军”语音包，你是真的火了！据悉，这个假期，短视频平台上涌现了大量“雷军”的发言视频，涉及堵车、调休、游戏等热门话题，不仅言辞犀利，还频频爆粗口。这些视频无一例外都是通过AI配音生成的。目前，相关短视频已被平台陆续下架。
记得之前“Are you ok”火的时候，包括雷军在内，大家都很喜欢这种幽默风趣的作品，但这次的内容不一样了。“雷总，最近你怎么在骂人”“每次都是开屏暴击”，这些询问和讨论也在雷军的社交账号留言区下刷屏，对此，雷军回复了三个愤怒表情。不只是雷军，但凡是正常人，都不愿意和这样的虚假AI配音沾边。
这事直接反映出大家对玩梗的边界感认知，即“过度玩梗”，“低俗梗”，一般的语音内容比如有趣的调侃，科普大家可以喜闻乐见，但是加上“用小米SU7撞人”，“评价某某厂商产品低劣”就是在利用语音本人的身份恶意制作“低俗梗”，“烂梗”，或许部分人觉得没什么，只是在开玩笑而已，新的东西成不了大气候，但是合成的内容中，还不乏具有辱骂和诽谤性质的。这样的内容，即使再可乐再好玩，也改变不了其侵犯当事人肖像权、名誉权等正当权益的本质问题，是赤裸裸的违法行径。
可以创作的内容太过混乱，你要是拿它来朗读有色小说，这要是传到熟人耳朵里，会留下什么印象？找谁说清楚？今天我们调侃雷军，可当我们自己身陷其中，恐怕就笑不出来了。
AI生成的假视频、假录音，可能只需要一个软件，甚至是几秒钟时间，造假成本可谓极低，同时，违法越轨成本也并不高。那在猎奇、流量和利益的驱动下，生成式AI被滥用，便是一个能看到的必然结果。若要扭转这一情况，必须要把生成式AI关进法律的“笼子”里，使其可管控、守规矩，存在于道德伦理可接受的范围内。
前不久，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，明确指出，人工智能生成合成内容标识包括显式标识和隐式标识，且不得恶意删除、篡改、隐匿标识。未对生成合成内容进行标识造成严重后果的，由网信等有关主管部门按照有关法律、行政法规、部门规章的规定予以处罚。
这种AI语音只是一个开始。科幻片中实时AI模仿语音降临时，你还能保护好自己吗？
门外真的是
妈妈的声音吗？