[天地无极] 科普下AI人声

诸葛悯忠 · 发布于 2019-10-30 23:43 · 1158 次阅读

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有帐号?加入月宫

x
禁止发散!!!禁止发散!!!禁止发散!!!(重要的说三遍!!!)

我们要知道VOCALOID,指的是日本乐器制造商雅马哈公司开发的电子音乐制作语音合成软件。在软件中输入音调和歌词,就可以合成出原为人类声音的歌声。

而这种由声优贡献声音出来的虚拟偶像最有名的日本那边当属miku(初音未来),音源数据资料采样于日本声优藤田咲。其他著名的如镜音铃,镜音连等

在中国著名的虚拟歌姬如洛天依(音源山新),言和(音源刘婧荦),心华(音源王文仪),乐正绫(音源祈Inory),乐正龙牙(音源阿杰,也就是经常给电视剧配音的那位),以及小破站鬼畜区最喜闻乐见的葛平老师。

这些音源不经过调教,非常难听,就算调教师非常厉害,也是带有浓郁的电音味儿,基本听不出音源提供者的正常声音。而且音源提供者无一例外的都是配音演员,吃的就是这碗饭的。

而AI就不同了,几乎可以仿真人声,这种目前在法律上一片空白的情况下,是很危险的事情,当你的声音被AI用到不好的地方,会发生什么,不言而喻。他属于是克隆范畴了,从这点来说,是件很恐怖的事。

举个例子,若哪一天你接到一通电话,号码是陌生的,声音是你母亲,电话里你母亲让你到哪儿哪儿,你不疑有他,去了约定地方,发现根本不是你母亲,而是陌生人,这就很危险了。这也是AI的可怕之处,除非有明确法律出台,不然AI毋庸置疑会提供增添新型犯罪的土壤。。。
共收到 67 条回复
琪呀琪呀 · #2 · 2019-10-30 23:46:15  回复
提示: 该帖被管理员或版主屏蔽
佐罗~小兔 · #3 · 2019-10-30 23:47:43  回复
可怕
瓜田月下 · #4 · 2019-10-30 23:48:38  回复
技术是双刃剑
越之山水 · #5 · 2019-10-30 23:49:14  回复
可怕
窈窕淑女 · #6 · 2019-10-30 23:49:17  回复
可怕
荒原美兔倚玉树 · #7 · 2019-10-30 23:49:38  回复
关键AI仿真度有多高?
很逼真的话,那不是可以伪造录音害人了?(我觉得这种应该好鉴定吧??)
我觉得明星可以出V,毕竟调教成功!成就感简直一本满足。
wingmm · #8 · 2019-10-30 23:56:23  回复
可怕,国家应该禁止这种技术
lancer · #9 · 2019-10-30 23:56:42  回复
提示: 作者被禁止或删除 内容自动屏蔽
夜滢小月 · #10 · 2019-10-30 23:59:12  回复
我来帮你帖个图
Screenshot_20191030_235802_com.sina.weibo.jpg

点评

真的很恐怖了,被骗了22万欧元  发表于 2019-10-31 00:01
摸摸兔毛 · #11 · 2019-10-31 00:00:38  回复
如果AI换脸+AI人声,那么是不是可以制造近乎完美的假证据?
以后想害人栽赃或者洗刷犯罪嫌疑,岂不是轻而易举?
太可怕了,思细极恐。

点评

技术都是这样发展的,其实某种程度上可以类比p图。  发表于 2019-10-31 00:24
现在合成技术没有这么成熟,还有专门搞识别是否合成的。  发表于 2019-10-31 00:23
这个技术推广开对社会影响是很大的,犯罪成本都降低了  发表于 2019-10-31 00:03
水若幽蓝 · #12 · 2019-10-31 00:09:09  回复
这种技术应该禁止,太可怕看,如果一种技术百害而无一利,要来何用??
摸摸兔毛 · #13 · 2019-10-31 00:09:09  回复
呼叫楼主解解,9楼折叠一下。
让我们回归AI这个主题。
我很好奇,
此类技术的研发初衷是什么?
如果是克隆是为了克隆器官我能理解,
AI到底图个啥呢?

点评

解放人力  发表于 2019-10-31 07:13
搞定  发表于 2019-10-31 00:18
诸葛悯忠 · #14 · 2019-10-31 00:09:24  回复
我个人对AI表示很慎重,万一我们被不知情的情况下AI了,蛮可怕的,关键是这块基本上是法律上一片空白,AI推广后,我们如何保护自己的脸(支付宝人脸支付),以及声音(声控解锁),这就值得深思了

点评

可以搜搜知乎AI相关问题?保护个人数据隐私的法律欧盟有GDPR  发表于 2019-10-31 02:16
对,我都是输密码的,从不用脸识别,除非必要  发表于 2019-10-31 00:26
所以我的支付宝没有设置人脸支付,我宁可输密码  发表于 2019-10-31 00:25
之前有APP可以换脸,就是把肖像权给网站用了,真的不安全  发表于 2019-10-31 00:13
这样的话脸部声音识别解锁就是摆设。  发表于 2019-10-31 00:11
+1  发表于 2019-10-31 00:11
雨后初晴 · #15 · 2019-10-31 00:10:37  回复
尤其要提醒家里老年人,感觉不对一定要回拨子女电话,多途径确认!
举头望明月 · #16 · 2019-10-31 00:12:07  回复
这种技术双刃剑,但我觉得太可怕了,
行走的吃瓜路 · #17 · 2019-10-31 00:12:35  回复
音源?这个音源是随便的录音还是必须经过专业的设备录音源才能认定为ai人声?
蘑菇小象 · #18 · 2019-10-31 00:13:16  回复
为什么会允许这种技术的存在?嫌诈骗不够多吗

点评

因为技术提高旧的诈骗手段不能用了,但是诈骗集团一直存在吧  发表于 2019-10-31 00:15
秦时明月♡ · #19 · 2019-10-31 00:15:37  回复
其实洛天依和乐正绫的声音我觉得好像,很多虚拟歌姬光听声音我都分不出来……
是白啊白 · #20 · 2019-10-31 00:16:54  回复
现在这种应该需要备案吧,我觉得能做好AI的现在也不是普通人能碰的上的,未来就不知道了,
wcyqf3 · #21 · 2019-10-31 00:17:19  回复
我现在指纹和人脸都没开通支付功能,甚至开机还是密码

点评

+1  发表于 2019-10-31 00:29
mona233 · #22 · 2019-10-31 00:35:32  回复
虽然菜…还是想说目前的技术还需要一个人的大量数据和计算资源才能达到以假乱真的效果。所以普通人还是不太可能遇到这种事的。剪辑的难度比AI合成低…

点评

不是我危言耸听,这种技术只要有市场更新会很快的,普及大众也就几年的时间,像AI换脸现在就是。  发表于 2019-10-31 08:10
做为AI从业人员我表示很方,大家问的有道理哦(科普工作任重道远)幸好客户从不问这些…  发表于 2019-10-31 02:10
紫田蓝夜 · #23 · 2019-10-31 00:37:58  回复
好可怕
兔兔辣么可爱 · #24 · 2019-10-31 01:14:32  回复
我锁屏用的指纹,但是支付什么的还是用的密码,科技越是发达的时候越是觉得傻瓜模式的好
三月雨 · #25 · 2019-10-31 02:04:54  回复
的确是
我是小号别cue我 · #26 · 2019-10-31 06:04:52  回复
高德地图语音导航用的是ai技术吗?
喝可乐吗 · #27 · 2019-10-31 07:14:17  回复
上次看《加油向未来》在研究语音识别,科学总要有相悖论么
八面修罗 · #28 · 2019-10-31 07:38:10  回复
太可怕了这!!!!!!马上去把支付宝人脸支付关了!!!
淡月梅花 · #29 · 2019-10-31 08:16:21  回复
有些导航app里的明星导航版本,这种是不是也是声音合成啊?还有之前有些搜索app里的,都是语音合成,带了ai的这个有什么进步吗

点评

忽然想起来我给天猫精灵授权了声纹支付,这种是不是也在类似范畴…  发表于 2019-10-31 08:18
割割吃饼了 · #30 · 2019-10-31 08:18:04  回复
谢谢科普,还是笨办法吧,矿体可怕了
红眼大兔子 · #31 · 2019-10-31 08:35:47  回复
明明说不散发,但楼主直接说了它很危险。
事实上科技本就是双利剑,看人怎么用
不能以偏概全的全盘否定

点评

关键点是目前使用AI如何保障安全问题,每次一款新兴产业兴起之时,法律层面上不及时跟进,几乎都是事后立法,为什么不防患于未然,同步颁发配套法律条例,让广大群众安心呢?! 双刃剑也好,主要是看人心对吧,如何  详情 回复 发表于 2019-10-31 09:04
作为一个胆小鬼,这种未成熟的技术不喜欢做第一个吃桃子的人,所以我发不了财 o(╥﹏╥)o  发表于 2019-10-31 08:43
现在没有相应的法律不代表以后没有,法律本就是需要完善  发表于 2019-10-31 08:39
细水流年 · #32 · 2019-10-31 08:46:55  回复
细思极恐。。。
诸葛悯忠 · #33 · 2019-10-31 09:04:50  回复
红眼大兔子 发表于 2019-10-31 08:35
明明说不散发,但楼主直接说了它很危险。
事实上科技本就是双利剑,看人怎么用
不能以偏概全的全盘否定 ...

关键点是目前使用AI如何保障安全问题,每次一款新兴产业兴起之时,法律层面上不及时跟进,几乎都是事后立法,为什么不防患于未然,同步颁发配套法律条例,让广大群众安心呢?!

双刃剑也好,主要是看人心对吧,如何保障每个使用AI的人都是好的,而非作恶呢?!前面有兔子贴了个全球首例AI诈骗,足以让人警醒。在各方条件不成熟情况下,贸然推进就是不负责的表现。

点评

所以就是要产生一批小白鼠帮助这个新兴事物做实验,才能让它完善,对吧。人不是程序,程序出bug可以修复,并且人本身危险系数小。所以谁去做第一批小白鼠呢?!   发表于 2019-10-31 09:16
推行后才能逐步完善,成熟啊,不用怎么知道行不行 就像程序用了之后才知道有没有bug,需不需要补丁  发表于 2019-10-31 09:09
伦番表演 · #34 · 2019-10-31 09:24:29  回复
罪犯的滋生床
来自苹果客户端来自苹果客户端
明月松间照N · #35 · 2019-10-31 09:34:13  回复
吓人
扶摇mm · #36 · 2019-10-31 09:34:40  回复
好可怕!!
小新朵朵 · #37 · 2019-10-31 09:46:50  回复
学习了,感觉好可怕
沐浴暖暖兔 · #38 · 2019-10-31 09:55:59  回复
提示: 作者被禁止或删除 内容自动屏蔽
牛奶桃子猹 · #39 · 2019-10-31 10:18:30  回复
阔怕
吃瓜潜水兔 · #40 · 2019-10-31 11:27:14  回复
好可怕
玉兔36 · #41 · 2019-10-31 11:28:01  回复
有点不敢用
jany · #42 · 2019-10-31 12:38:27  回复
未来是AI的天下
jany · #43 · 2019-10-31 12:41:18  回复
但是在法律没完善的情况下,第一批尝试AI的人就是吃螃蟹的人。一旦发生了什么风险或者危害,是没有相关法律维护的。因为还没有法律对AI做管束。
回帖
B Color Image Link Quote Code Smilies
快速回复 返回顶部 返回列表