最近，“AI孫燕姿”成了B站網紅，B站上流傳的各種“孫燕姿”翻唱其他歌手的視頻，點擊量往往超過了十萬，甚至有些突破百萬。在一個又一個視頻裡，印著孫燕姿頭像的光盤緩緩旋轉，由其聲音翻唱的各種經典或流行歌曲包括周杰倫的《發如雪》《愛在西元前》、劉歡的《好漢歌》等等。

彈幕評論給AI孫燕姿的歌曲視頻增加了更多樂趣。有人說：“這是中了十香軟筋散的好漢唱的吧？”還有人說：“聽到孫燕姿唱這首歌，這輩子值了。”

利用AI模擬人聲、生成歌曲，是AI技術的一大進步，但同時也帶來各種各樣的問題。例如，用AI翻唱歌曲，可能涉及版權問題。

圖源：Pexels

而AI技術的發展，也讓文化娛樂行業的工作者感到了巨大危機——也許有一天，他們的工作將被AI取代。

AI歌手走紅網絡

對於當下的許多年輕人來說，孫燕姿這個名字，已經有些陌生了。

2021年，一名14歲的網友在NGA論壇發帖：“給大家推荐一個冷門華語歌手孫燕姿”，話題立刻登上了微博熱搜，無數80後、90後網友感嘆，在00後的世界裡，孫燕姿竟然也成了“時代的眼淚”。

二十多年前，周杰倫、孫燕姿等歌壇“天王天后”，曾經引領了一代人的青春。如今，那個華語歌壇最璀璨的時代已經過去，流行歌手的唱片、歌迷的彩鈴、卡拉OK里略顯模糊的MV，對很多人來說，成為了久遠的記憶。

但這一次，AI讓孫燕姿翻紅，再次成了名人。

根據許多歌迷鑑定，AI孫燕姿與其本人歌聲相似度非常高，無論是音色、唱腔，還是極具個人特徵的咬字和尾音，都能夠以假亂真。由AI孫燕姿翻唱的《發如雪》等歌曲幾乎難辨真假，而與歌手本人風格迥異的《好漢歌》則因極具反差感，激起了網友玩梗的強烈慾望。

AI孫燕姿引發歌迷和網友瘋狂的同時，也帶動了資本市場的熱度。5月11日，與AIGC相關的華策影視和其他多支影視傳媒股漲停收盤，有券商分析師認為，擁有經紀業務的影視公司掌握大量藝人版權素材，結合AIGC，互動版本的AI藝人將應運而生。

同時，這位分析師也認為，比起上次的元宇宙風口，這次AIGC的風口更加“靠譜”，因為階段性的進展正在發生。

AI孫燕姿的原理，是通過開源的生成式語音訓練模型收集素材，進行訓練。首先，需要把孫燕姿的歌曲去掉伴奏，或截取孫燕姿的訪談、對話視頻，獲取沒有伴奏、混響的原始聲音，然後把素材作為目標音色輸入到模型中進行訓練，得到一個孫燕姿音色的模型，轉換任意的歌聲，最後進行後期處理。

或許，AI歌手在未來有廣闊的前景，除了娛樂性的AI歌手視頻，詞曲作者也可以藉助不同歌手的AI模型生成樣帶，進行試聽之後，為歌曲匹配到風格最合適的演唱者。此外，唱片公司還可以發布旗下歌手的音色模型供用戶有償使用。

對於已故歌星、演員的粉絲來說，AI技術也是一個福音：人們可以通過AI技術生成逝者的聲音模型，重現那些令人念念不忘的聲音。

目前，B站上已經有人發布了已故相聲大師馬三立的單口相聲，通過一個叫“SoVits AI”的開源項目，生成了一段馬三立的虛擬表演節目。在這段節目中，馬三立的頭像與電腦繪製的長衫結合在一起。

在節目開頭，馬三立的聲音說道：“我們這兒其實來說挺新鮮的，都是高科技啊這是，叫什麼人工智能，AI搞出來的，都是假的，沒有真人……您在這聽個味道吧。”

很多網友期待，可以用AI“復活”更多逝世名人的聲音，如張國榮、黃家駒等，在建立聲音模型後，可以為他們撰寫與個人風格匹配的新作品，或者演唱他們所屬樂隊的新歌，讓他們在逝世多年以後，以另一種方式再次為他們的粉絲獻唱。

AI合成聲音被濫用，後果可能很嚴重

儘管AI歌手前景廣闊，“復活”已經去世的知名歌星、演員也令觀眾充滿期待，但它仍然可能涉及侵權問題。另外，AI模擬聲音也可能帶來一系列倫理和法律的風險。

技術更新的速度，已經超過了知識產權法律更新的速度，經過人工智能提取的歌手音色模型，尚未被納入現行知識產權法律保護範圍內，但利用AI歌手翻唱其他歌手的作品，至少已經涉及原唱歌手、詞曲作者的版權。

按照相關法律規定，除非著作權人聲明不得使用，對已經合法錄製為錄音製品的音樂作品進行翻唱、二次創作等可以不經著作權人許可，但應當按照規定支付報酬。

被用作素材的孫燕姿聲音同樣可能涉及“侵權”。律師、學者普遍認為，雖然音色和唱腔不受到著作權法的保護，但按照《商標法》規定，聲音和文字、圖形等一樣，可以作為商標申請註冊。

另外，根據《民法典》規定，對自然人聲音的保護參照適用肖像權保護規定，以防止聲音被混淆、濫用、冒用、不正當使用，損害聲音主體的合法權利。

是否起訴“AI孫燕姿”的製作者，需要孫燕姿自行決定，截止到目前，孫燕姿尚未在其個人微博上做出回應。

AI歌手可能侵犯相關各方的權利，除此之外，用AI生成人聲，可能還會為社會帶來其他更嚴重的法律和倫理問題。

隨著通信技術的進步，電信詐騙成為了各個國家都要面臨的問題。過去的電信詐騙多半是通過文字信息偽裝成熟人，或通過電話偽裝成各個機構的工作人員進行詐騙，但在AI聲音模型技術輔助下，騙子可以很輕易地模仿熟人聲音進行詐騙。

在國外，已經發生了AI語音詐騙的案例。據報導，4月初，加拿大有犯罪分子利用AI技術行騙，他們合成了受害者親人的聲音模型，實施電話詐騙，在3天內騙了8名老年人。受害者表示，騙子使用的聲音和親人一模一樣，難以分辨。

得到語音素材並不難，詐騙者既可以通過黑客手段、非法購買信息等渠道獲得素材，也可以通過不斷撥打騷擾電話，以“廣撒網”的方法獲得語音素材，經過AI訓練和後期處理後，製作成足以亂真的語音信息。

除此之外，AI語音的侵權使用可能還會造成倫理問題。例如，如果有人收集網紅、主播的聲音進行AI訓練，用於提供軟色情服務，既違反法律，也會對當事人的名譽、心理造成傷害。

4月11日，國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法（徵求意見稿）》，有法律學者認為，這是對人工智能進行管理的良好開端，但在未來，仍然需要製定更詳細的規定，對使用人工智能的各個主體進行更加明確的責任認定，對提供模型的服務商、內容生產者和發布者進行責任區分。

文娛產業創作者開始反擊

對人工智能的未來感到擔憂的，不只是法律界學者，還有各類文化工作者——AI在文化領域的應用，可能會讓他們的工作岌岌可危。

前段時間，聊天機器人模型ChatGPT走紅，它的本質是一種大型預訓練語言模型，可以和人類通過人機對話的形式溝通。

在各個社交平台上，網友們紛紛曬出自己與ChatGPT的對話，它可以檢索信息、生成文案，一些網友也表達了對ChatGPT的擔憂：它可以讓寫作效率更高，在未來，這可能導致相當一部分靠“碼字”吃飯的記者、編劇、作家甚至社會科學研究人員失業。

除了文字工作者，插畫師、視頻製作者、教師也擔心自己的“飯碗”被AI搶走。人類剪輯一條視頻、繪製一張畫可能需要幾個小時的時間，但AI只需幾分鐘就可以完成。

目前，ChatGPT可能並不會和人類“搶飯碗”，因為AI的力量還不夠強大。

一位研究歷史、藝術的工作者告訴價值星球，在試用了ChatGPT之後，他“鬆了一口氣”，因為ChatGPT在專業領域獲得的訓練材料還比較少。當他試圖讓ChatGPT寫一段關於崑曲的文字，他發現ChatGPT缺乏基本常識。

另一位用AI生成畫像的網友則發現，在他提供給AI的幾張素材中，只有一張自拍合照被生成了勉強能看出長相的繪畫，“但是人臉閃爍著奇怪的星形光芒，眼鏡框也扭曲了，看起來十分恐怖。”而其他照片生成的圖片則更加詭異，風景變成了扭曲的色塊，人像則全部變成了二次元風格的“紙片人”。

不過，隨著訓練素材的增加，以及人工智能技術的發展，未來AI確實可能對各行各業造成威脅：只要添加的訓練素材足夠多，AI的“學習能力”更強，它就可以生成更加精美、更加準確的作品。

而且，很多文字、藝術工作者創作的作品版權並不屬於自己，而是屬於公司。在公司面前，個人的力量過於渺小，一旦公司把作品用作訓練素材，作者很難採取有效的措施通過法律維護權益。

面對這種可能出現的威脅，美國好萊塢的編劇們已經坐不住了。5月2日，美國編劇協會（WGA）與電影製作、流媒體公司談判破裂後宣布罷工，除了呼籲提高薪資待遇，他們還要求限制人工智能的使用，例如不允許公司將編劇的原創作品提供給AI進行訓練，不承認AI作品的原創定義。此前，在談判中，WGA要求製片公司“確保編劇不被強迫改寫AI創作的劇本”。

WGA的罷工隊伍經過迪士尼、華納、Netflix等大型製片公司和流媒體公司的門口，他們手中的牌子印有“WRITERS GUILD ON STRIKE（編劇協會正在罷工）”的統一標語，以及編劇們手寫的口號。

有人打出“AI沒有靈魂”的標語，有人打出“用AI代替高管”，希望把矛盾轉移到更高薪的其他行業；還有人幽默地吐槽ChatGPT寫作能力較差：“我讓ChatGPT寫一個標語，但它的表現很爛。”

目前，沒人可以預測這次罷工會持續多久。

在這一次罷工之前，美國編劇已經十幾年沒有發生過大罷工了。上一次罷工發生在2007年到2008年之間，持續了100多天，導緻美國電影業損失高達20億美元，2008年電影電視金球獎頒獎典禮被迫取消，隻公布了獲獎名單。

WGA宣布，在達成協議之前，任何WGA成員都放棄收入，並不會再撰寫新的劇本。這意味著，如果無法就編劇報酬和人工智能兩個問題達成協議，好萊塢影視行業目前600部作品或將受到影響，2萬名員工有可能停工、失業，損失高達810億美元。

最近一段時間，谷歌、百度、騰訊、華為等國內外大廠已經開始競相佈局AI，2023年或許成為真正意義上的“人工智能元年”，而各行各業對AI技術的擔憂也越發嚴重，擔心AI成為一個“潘多拉魔盒”，打開它將造成人類無法預測的後果。

許多專家認為，AI並不會真正取代人類的工作，它只是人類工作的輔助者，幫助承擔較為初級的工作，例如屬於簡單重複勞動的校對、生成文字、剪輯視頻、繪畫等，但真正的創意是無法被AI取代的。以編劇行業為例，AI可以寫出通順的文字，但很難通過對社會的深入觀察產生創作靈感，寫出一個有新意或發人深省的故事。

然而，任何領域都遵循“二八定律”，能夠站在成功的巔峰、獲得較高收入的，永遠是少數人，大多數人都在從事重複的勞動。

編劇的常態是為已經設計好的大綱撰寫分場劇本，插畫師的常態是按照甲方的需求畫出他們想要的圖片，教師的常態是講解基礎知識……如果AI足夠強大，並取代大部分基礎工作，仍然會造成相當嚴重的失業。

《未來簡史》作者尤瓦爾·赫拉利在書中提出了“無用階級”這個新概念，他認為，隨著生物工程、人工智能等技術的革新，未來99%的人都將淪為“無用的人”，他們做的工作無法超過計算機和人工智能。

在一次採訪中，赫拉利對大型公司收集用戶數據、發展人工智能的未來表達了擔憂：“（如果）只有少數精英擁有了數據、權利，而大多數人卻沒有，那些擁有了數據的人，可能比你自己更了解你，他可以預測你的行為和決策，操控你的選擇和想法，為你做決定。”

因此，赫拉利呼籲，要讓大多數人能從新技術中獲益，而不只是少數精英。

技術的更新，往往會超過很多人的學習能力。在智能手機的浪潮中，我們已經看到很多老年人不會使用智能手機，淪為“技術難民”，而比起智能手機，AI波及的人群可能更加廣泛，影響也更加深遠。

解決新技術帶來的法律問題，乃至社會和倫理問題，已經迫在眉睫。如果等到AI已侵入每個人的日常生活再做出反應，可能為時過晚。面對這種可能顛覆人類生活的技術，態度無論如何謹慎也不算過分。

參考資料：

[1]《“AI孫燕姿”終於對人工智能下手了，律師說問題很大》，澎湃新聞

[2]《“AI孫燕姿”成頂流，一場法律與倫理大考》，新京報

[3]《直擊罷工中的好萊塢：萬餘編劇拒絕給AI打工，為加薪而戰》，澎湃新聞

來源：價值星球Planet