今天小編分享的社會經驗：“妙鴨”之後AI聲音克隆網站來了，網友們卻坐不住了，歡迎閱讀。
繼 AI 拍照寫真軟體 " 妙鴨相機 " 一夜爆紅後，一個基于 AI 技術克隆聲音的網站 MyVocal.AI 又火了一把。這款聲稱可免費克隆聲音的網站，不但可以克隆聲音，還可以利用克隆的聲音輸出音樂和流利口播。雖然有不少年輕人玩起來了，但更多的網友表達了擔憂，擔心這會給詐騙分子提供便利。
免費克隆你的聲音，并輸出音樂和流利口播
只需花費 9.9 元，上傳二十幾張照片，就能獲取一套人工智能生成的寫真集。日前，" 妙鴨相機 " 成為我國生成式人工智能領網域的一個爆款應用。刷屏的同時，妙鴨也刷出了用戶隐私保護、消費者權益保護等 " 暗雷 "。
△ MyVocal.AI 網站
人們對于 " 妙鴨相機 " 的大讨論尚未結束，一個基于 AI 技術克隆聲音的網站 MyVocal.AI 又乘着 AI 的東風小火了一把。這個克隆聲音的網站有多 " 神奇 "？可以在這裡克隆你的聲音後生成歌曲、口播語音。此外，讓它得到廣大網友 " 安利 " 的原因還在于，目前這個網站是可以免費使用的。
△ 各種語音模板
8 月 3 日，現代快報記者登錄該網站，進入後顯示有 25 個聲音樣本等待采集，依次點擊聲音樣本，朗讀樣本中的提示語句，将 25 個樣本全部采集完成，就可以進行聲音克隆。在聲音克隆完成後，網友還可以前往各個模塊，生成歌曲和口播語音。方法也很簡單，選擇自己想唱的歌曲，進入後點擊 " 同步我的聲音 "，即可将原歌曲一鍵變為由你演唱的作品。
免費玩家每月可享受 2000 個 TTS（文字轉語音），每個 TTS 要在 500 個字元以内。如果是人民币玩家，則可以享受到更廣範圍的服務。例如每月 10 元的标準玩家，每月可以享受 50000 個 TTS，每個 TTS 可擴大至 1000 個字元。每月 30 元的流行玩家，則每月享受 120000 個 TTS，每個 TTS 可擴大至 1500 個字元。
" 三無 " 網站讓網友質疑：自己的聲音是否被随意采集使用
這個克隆聲音的網站吸引了很多網友 " 嘗鮮 " 使用，但在使用過程中，一些細心的網友注意到，這個克隆聲音的網站，是個名副其實的 " 三無 " 網站。這個網站無備案号、無網絡經營執照、無審核管理方，甚至網站上連運營方的名稱和聯系方式都沒有。網友們紛紛質疑，一個 " 三無 " 網站如何保證聲音采集後的安全性？自己的聲音會不會被不法分子用作詐騙？
今年 5 月，一個名為 "AI 孫燕姿 " 的虛拟歌手在視頻平台上火啦。這個虛拟歌手用孫燕姿的聲音翻唱了周傑倫、趙雷、郭頂等多名歌手的經典歌曲，讓網友們驚嘆不已。随着 AI 模拟人聲技術被廣泛使用，在這個過程中，AI 技術也被有心之人利用，甚至做出違法的事。
今年 6 月，江蘇警方接到一工廠員工報警稱，其同事可能遭遇詐騙。民警趕到現場時，被騙女子情緒激動，不願配合調查。民警一直堅持耐心勸導，終于在女子與騙子通話近 3 個小時後将其攔下。挂斷騙子來電後，女子的哥哥就打來電話詢問是否要向其借錢。民警立刻識破這是一種利用 AI 技術進行詐騙的新方式，騙子通過 AI 合成聲音，甚至影像，向受害人親友借錢。同時在通話過程中，騙子還盜取了女子的身份進行網貸。最終，民警聯系網貸平台中斷放款，成功為女子挽回 5 萬元損失。
律師建議：應盡快出台詳細法律法規，對 AI 拟聲進行監管
人工智能作為近幾年興起的領網域，競争激烈，不少企業前赴後繼，想要在這個領網域搶占先機，分一杯羹，這也導致行業中魚龍混雜，存在着對用戶隐私和消費者權益的潛在隐患。江蘇漫修律師事務所律師衡曉春建議，國家應盡快出台詳細的法律法規，對其進行約束和規範。
" 目前 AI 拟聲在法律層面，尚未出台明确的規定。" 衡曉春表示，2023 年 5 月 23 日，國家互聯網信息辦公室 2023 年第 12 次室務會會議審議通過《生成式人工智能服務管理暫行辦法》（以下簡稱 " 辦法 "），辦法中提到生成式人工智能，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等内容的技術。值得注意的是，辦法中還明确，對于生成式人工智能產品，提供者應當對生成的圖片、視頻等内容進行标識。
" 但是對 AI 拟聲該如何保護，辦法中卻沒有明确提及。" 衡曉春解釋，辦法只是籠統的規定，當發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隐私、商業秘密，或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續。衡曉春建議，" 在未來，還需要對不同主體進行更加明晰的責任認定，最好細化到對于用戶聲音的采集和 AI 拟聲内容生成、發布的每一個階段。"
現代快報 + 記者 季雨
（校對 胡濤）
