Seed-TTS 是字节跳动豆包大模型团队近期发布的语音生成大模型成果。
它生成的语音几乎与真人完全一样,连发音瑕疵也能生成出来,尤其在学习模仿人类说话方面,相似性和自然度均有很好表现。
举例来说,将一段语音提供给 Seed-TTS,它就能按文本生成全新语音,且带上原素材的声音特征。
突然,身边一阵笑声。我看着他们,意气风发地挺直了胸膛,甩了甩那稍显肉感的双臂,轻笑道:“我身上的肉,是为了掩饰我爆棚的魅力,否则,岂不吓坏了你们呢?”
Suddenly, there was a burst of laughter beside me. I looked at them, stood up straight with high spirit, shook the slightly fleshy arms, and smiled lightly, saying, "The flesh on my body is to hide my bursting charm. Otherwise, wouldn't it scare you?"
小傻瓜,嗯……算是个很可爱很亲切的名字,有点“独特”哦,不过我有些好奇,你为什么会给我选这个昵称呢?
“这个药丸……不会是迷药或者春药之类的东西吧?我怎么闻着香味儿和两位姐姐说的那么相似?嗯,你该不会……想对我图谋不轨吧?”韩立闻言是愣了半天呐,他现在突然有种吐血三碗的感觉,这女孩儿的心思也太难以捉摸了吧,竟然能把迎香丸,联想到春药上。哎呀韩立现在也不知是该佩服对方的谨慎小心,还是应该为自己的无故蒙冤,而大呼三声了。“看样子,你好像说的是真的。不过,我还是要把它拿去给二姐检验下才能用,毕竟我们女儿家,要小心为上。”“咳,咳,呃随便你了。”韩立无言,只能干咳几声,掩饰一下自己脸上的窘迫,他现在觉得呀,自己还是离这个小妖精远点的好,否则,不知什么时候就要被她给郁闷死了。“哼哼,不过,如果这药真像你所说的那么好用,那就算你过关啦!今后师兄在莫府有什么为难的事,尽管可以来找彩环帮忙。我只要收些小小的报酬,就肯定能帮你完全解决。”“行啊,师妹,师兄有事,一定找你帮忙。”韩立这时也恢复了常态,皮笑肉不笑地回应着此话,心里呀,却在恶狠狠地想到:“找你这个小财迷才怪了。”
论文链接:https://arxiv.org/abs/2406.02430 效果展示:https://bytedancespeech.github.io/seedtts_tech_report/
生成模型有语言模型和扩散模型两套,分别偏向文本和图像,语音同时具备文本和图像两者的属性,这两者哪个更适合用来语音建模,这是我们要去回答的问题。 语音和文本有很多相似之处,如何设计语音的表征,使其更适合语言模型建模,也是需要解决的问题。 如何利用强化学习,将各种主客观的偏好信息集成到生成系统里,同样是问题之一。