今天小編分享的科技經驗：“復活”著名音樂人女兒後，小冰公司CEO開始擔憂，歡迎閱讀。
在狂奔了一年後，中國 AGI 突然出現了一種奇怪的二元性，以朱嘯虎為典型的商業化落地派，與以月之暗面創始人楊植麟為代表的技術信仰派，成為 AGI 創業的一體兩面。
但 AI 的快速迭代，所帶來的影響遠不止如此。不僅關乎錢與信仰，也關乎倫理。
不久前，台灣著名音樂人包小柏，用 AI 技術 " 重現 " 了自己因病逝世的 22 歲女兒包容，也激起了大眾對 "AI 復活 " 產業鏈的好奇。
簡單的操作和低成本，就能 " 定制 " 和 " 還原 " 逝去親人的音容笑貌，甚至能夠讓其跟你互動、對話，這樣的 " 誘惑 " 越來越多地出現在廣告宣傳語上。
"AI 包容 " 項目技術合作方正是小冰公司，小冰公司 CEO 李笛坦言已在擔憂，這種 " 技術創新 " 的濫用，會造成不可逆的危害。
和 2023 年 AI 孫燕姿出現時，他的态度一樣，再次強調了不假思索的 " 開源 " 所帶來的潛在危害，并呼籲全行業思考這樣一個問題：" 一切以技術創新為名進行的侵權行為，是不是有點濫用‘技術創新’這個詞了？"
3 月 16 日，喬任梁父親因近日發布的 "AI 復活版喬任梁 " 發聲，他直言不能接受，感到不舒适，希望對方盡快下架，" 他們未征求我們同意，是我侄女刷到視頻發給我的，這是在揭傷疤。"
以下是市界和小冰公司 CEO 李笛的對話：
01、" 我們擔心可能打開了潘多拉魔盒 "
市界：作為技術提供者，你怎麼看待外界對包小柏用 AI 復活女兒這件事的讨論，技術上的難點是什麼？
李笛：我們一直比較擔心的事情确實發生了。之前出于尊重個人隐私的考慮，我們不會主動出來（宣傳）這個技術。
不像有的公司，是自發想 " 復生 " 一個某某人物的數字形象，然後去征求家屬同意。我們不會主動做。
其實，" 復生 " 一個人很容易，但做好，做 " 像 " 很難。現在一個技術特點是，準入門檻在大幅度降低了。一開始定制，需要 2000 句話，200 句話，現在可能只需要 20 句話，甚至更少。
▲（包小柏與女兒包容）
包容（注：包小柏女兒）這個案例，陸陸續續做了一年。之前給到的數據量很小，只給到三句話，還是英文的。就用三句，簡單介紹學校圖書館的語音，要還原出一個有點台灣口音的 ABC，還要讓 " 她 " 不僅可以對話，還能唱歌。
從技術上，并不是那麼難做。只要在預訓練的階段，把這個東西訓練的足夠好，用一個非常稀少的樣本量，就可以把它調用出來。從這個角度說，" 數字包容 " 沒有那麼特别。
▲（經包小柏授權對話截圖）
市界：包小柏在其中的參與程度如何？
李笛：他參與程度非常深。事實上，我們也都特别推薦這種參與方式。親人在這個過程裡得到了很大的慰藉。
當包小柏能很高興地表達出他的女兒是他親手 " 復現 "，這個過程本身，就是這件事情的意義之一。如果這個人是在世的，要把自己 " 創造 " 出來，這個（調試）過程也能夠讓他臨終最後這一段路變得相對平靜很多。
我們不停通過一個一個 Case 的完善和改進，來使整個技術越來越趨向于标準化和成熟。
這些 AI 克隆人的創造者，我們把他們視為一半的工程師或者說一半的產品經理。正是有（包小柏）這些反饋和不斷迭代，幫助不是光迭代這一兩個 " 包容 " 的版本，實際上是在迭代整個小冰技術框架。
市界：你們開發了端口給包小柏去做調試，那這件事是否普通人也能做到，理論上沒有門檻？
李笛：我們不能要求這種事情有門檻。跟 GPT 一樣，這種技術不能只掌握在少數人手中。恰恰相反，就是一定要把它的門檻降下來。
實際上，今天有很多人想利用這個信息差，讓我幫你做，來攫取不正當利益，我們是傾向于讓它變的更透明的。
市界：如果我們把所謂的 " 復活 " 親人當做一個可定制化的個人產品，它是否能夠得到普及？
李笛：要做這件事的倫理門檻很高。但其實跟其他類型的克隆人（比如之前的陪聊 " 半藏森林 "）本質技術上沒有什麼太大區别。現在 X Eva App 上，50 萬粉絲以上的大 V 網紅已經 3000 多人了。一般的克隆人已經快 100 萬個了。
但是它的難點，不在于技術和產品，也不在于定價。而在于我們必須要堅持一個非常高的倫理準則。有很多材料要補充。它不是以 " 便利性 " 為第一要求，而是以 " 倫理原則 " 為第一要求的事。
倫理上，最沒有瑕疵的是本人，自己要求做。其次是直系親屬。親屬也可能出現濫用的問題，那我們要求，必須要滿足三原則：要有社會監督，必須注明是 AI，必須要事項公開。
我們 2017 年就申請這項專利了，2021 年獲批，這些年會有這樣三類人來咨詢：已故人的在世親友、朋友和本人。
有一個自殺去世的著名歌手的朋友就來咨詢過，但我們拒絕了，倫理要求上不符合。我們要求的條件：必須是親屬發起（需求），且親屬意見一致。
我們非常強調說，發起人必須得是親人。因為來自親人的确認（像不像）是最直觀的，且很有可能造成傷害最小的。
一旦涉及到互動，" 像不像 " 這件事情特别取決于互動對象。一般認為家人會掌握更多決定權。
市界：小冰對這個案例的總結是怎樣的，未來能有更多 " 復活 " 案例出現嗎？
李笛：現在來看，這件事引發的熱度已超出我們的想象。
因為技術門檻降低，有很多小機構或者是小團隊（開始入局），未來一年内，很可能會大量地去做這件事情，我們很擔心會造成社會性危害和風險。
一是害怕向公眾兜售焦慮。就像當年有個說法，要讓人們去保存 " 臍帶血 "，以防萬一日後孩子生病用得上，某種程度上是一種兜售焦慮。
實際上，技術越發展，反而不需要那麼多數據。要讓你提前保存數據的項目，可以說，都是騙局。
" 復活 " 親人的念頭，往往是劇烈的、突然產生的，最可能發生在什麼場所呢？臨終關懷相關的場合、特定的紀念日，這就帶來了一定不确定性——很可能就有人打殡儀館主意，就像醫院太平間門口賣花圈的多。
第二件事是侵權。在世的人都可能被侵權，何況往生的人？像最近很熱的 " 點讀機女孩 "，還有去年的 "AI 孫燕姿 "。
理論上來講，"AI 孫燕姿 " 就是對孫燕姿赤裸裸的侵權。無論從它的數據、品牌，還是可能產生的收益分配，孫燕姿整個過程都被排斥在外。這還是孫燕姿本人還在呢，都無力挽回。
所以需要避免類似的情況再發生。因為歷史證明，發生過很多回了。生死問題，始終是人類所面對的最大問題。所以兜售的焦慮中，莫大于生死焦慮。這個是絕對不能這麼做的。
情感代償的價值對于生者是存在的，但并不一定非得以完全的技術復生來實現。AI 技術能使這種代償得到最大化實現，但不能在危害社會前提下。
我們擔心的是，可能打開了一個潘多拉魔盒。會產生劣币驅逐良币的問題。一個機構，提供這個服務，把成本 cover 回來，這是合理的對吧，非營利機構不代表是公益機構。但是追求商業利潤最大化的機構去做，是截然不同的。
現在就是這樣，很容易一個事情就迅速變成了一種賺錢的方法。
02、" 不要給地上扔 AK47"
市界：AI 技術的進步，必然會伴随一系列的問題，比如說我們會更加頻繁地看到一些類似 AI 換臉等新型騙術的出現，怎麼去做防範和避免？或者說，這是否是不可避免的？
李笛：是可以避免的。我們在幾年前就已經呼籲了，但是我們的呼籲毫無聲響。先把不加以深度、仔細考慮就把所有技術開放出來，提供 API 接口調用，甚至是基于開源或者提供這種工具的技術輸入公司，全都先關掉。應該不允許随便地把技術開源出來。
舉個之前的例子，全世界範圍内絕大部分的黑客攻擊都不是黑客幹的，都是沒有黑客技術的普通人。有一些是惡作劇，有一些就是為了利益，也有一些就是玩。
有的人把黑客技術，包裝成傻瓜級的應用，不考慮對方是誰，就把這個東西放出來，也就十塊二十塊，迅速地，基于這個東西就會形成一個產業鏈。
AI 換臉詐騙也是一樣的。有人在沒有很謹慎的情況下，就把 AI 換臉的技術開源放出來了。問題根源在于，最初從根上，當你放出這個技術的時候，完全有能力預判，它會被用來幹這個。
市界：但站在今天這個時間點來看的話，開源這件事情是不是不可逆的？
李笛：很多開源是為了商業價值，是非常自私的，僅僅為了打擊競争對手或展現實力，而絲毫不考慮開源這個東西所產生的社會危害性。
因為人工智能技術相關法律，包括一系列的評判标準，還都不夠呢，就把它放出來，這跟你為了打開當地的武器交易市場，把 AK47 扔在地上有什麼區别呢？
人工智能技術的開源和軟體的開源，完全不是一個概念。軟體的開源是一種開發資源的開源。而人工智能的開源是能力的開源。
軟體資源的開源可以節約時間和成本。但是能力的開源不一樣。能力的開源存在着能力的邊界。任何國家都不允許武器的圖紙可以随便開源出來。
人類是經不起誘惑的。比方說有兩類人，今天有一個開源大模型，這個大模型可以說服人們去買東西或者交流。另外有一波人是在緬北，用這個去打詐騙電話，顯然這批人會傾注更大的熱情，因為會有很大的價值利益回報。
所以當你開放出一種能力出來，而社會的法制、人們的評價沒有達到一個标準的時候，那顯然是作惡的人會更願意去嘗試。
已經無法回避這件事了。今年 2 月，香港有一起最大金額 AI 詐騙案，就用 AI 換臉 CFO 詐騙了一個跨國公司兩億元（港币）。這件事情有辦法阻止嗎？沒辦法了。
今天高興的事情是，畢竟人工智能技術還是沒有像大家認為的那麼智能。
你用它寫一篇論文，還是比較容易看出來它是滿滿的 GPT 味兒，也能用技術手段檢測。但法律法規現在壓力比較大，你只有利用非技術手段去規範這件事情。
因為說實話，識别 AI 論文這件事，要想檢測出的技術的難度是高于用它來生成這個東西的難度。就是盾的難度是高于矛的。
另外就是，我覺得整個行業應該重新去思考一件事，就是一切都以技術創新為名義，是不是有點濫用技術創新了？
去年，AI 孫燕姿火爆出來以後，孫燕姿發了一篇微博，表達自己的無可奈何，但我不阻止。為什麼。因為如果阻止的話，一堆人會說你老土，不夠擁抱 " 創新 "。
市界：更多的一種無奈可能是在于，孫燕姿也無法阻止？
李笛：雖然孫燕姿無法阻止，但 B 站想阻止是很容易的吧？（笑）
大家如果不認為這是問題，或者大家在認為這有可能是問題的時候，會有一個聲音出來說，這是技術創新。這（技術創新）就成了是一個放之四海而皆準的一個擋箭牌，是一個永遠都很好用的說法。
所謂的這個不創新的人會被認為是保守的，那麼他們就會保持沉默。
03、" 中美不存在差距，但大家太習慣踩在别人的肩膀上成功 "
市界：最近業内關于 AGI 的讨論，出現了顯著的分歧，比如朱嘯虎覺得中美差距還是非常大，他的 AGI 信仰聚焦在馬上能變現的。
李笛：坦率講，我不認為中美有差距。很多人講（差距），是有一級市場二級市場的利益在那兒。從我的角度看，中國算力并不短缺，但分配不均。中國有兩百多個大模型，多少算力夠？撒沙子這麼撒都不可能。問題是，為什麼這麼多人要做大模型？美國才有幾個基礎大模型？
我們去年 3 月份就在這麼說，沒有人認同。大家都在卷參數，只要規模足夠大就可以吞噬一切了。
問題是，為什麼這麼說？因為内行在努力嘗試，把一個東西解構出去，讓外行可以理解。很多問題根源就是這個，科技不自信。
都知道，不該卷參數、卷指标，卷榜單。但問題是，你去跟投資人講，聽不懂，只會問你參數規模多大，榜單上排第幾？曾經有一段時間，行業投資人只聽得懂參數規模，你是 100B，它是 130B，那他比你牛。你是 72B，那你不如他。
國外有一個什麼樣的 AI 應用，國内公司恨不得開發出 20 個 AI 應用。（資源）就是浪費在這兒。
為什麼跟着抄？因為真有原生技術創新，别人聽不懂。很容易解釋，好，我是中國的 Open AI，懂了。但我要不對标（美國）呢，說我要做什麼，聽不懂。
市界：這是因為風投行業投資人跟行業的技術理解差距太大？
李笛：投資人，行業都是一樣的。包括普通人都是一樣的，如果有一個東西，西方國家有可以對标的，所以我也有，這件事就很好理解。
如果有一個東西，美國還沒有，我中國有，好像這東西就不好解釋。
市界：這種觀念有錯嗎？
李笛：我們這一代科技領網域，投資領網域，成長于互聯網時代，2000 年前後，包括 Web2.0，人們會有一個肌肉記憶。
你看，搜索引擎起家，百度，那我是中國 Google，很好解釋。中國的價值在于我有一個非常廣闊的市場，只要我做了谷歌做的事情，比它晚兩年，就能把它從中國市場擠掉，吃掉這個市場，就成功。
在那個時代大浪淘沙過程中，這種思維慣性是可以成功。但我不是很認同跟着美國做才是唯一路徑。
市界：" 晚兩年 " 這個技術差距，在當下不存在嗎？像去年 " 百模大戰 "，出了那麼多大模型，但客觀來說還是趕不上 GPT？
李笛：（笑）就是這個，你知道為什麼趕不上，就是因為在卷參數，迅速上馬去衝。
你想做一個大模型，需要的幾個條件，中國有沒有？算力，有，數據，有。技術算法，都是透明公開的，一直在 GPT3.5 前，都是透明的。我們的科研人才，也完全充分。
Exactly，就在大模型浪潮出現之前，有很多在美國的華人工程師回國創業，參與到像達摩院之類的大廠 AI Lab 中。那時候微軟很痛苦，都留不住中國工程師往國内湧。
市界：那為什麼這波浪潮沒有率先發生在中國？
李笛：就是沒有沉穩的心。
原來有這樣一個故事，說在意大利有一個小鎮。小鎮去了一個猶太人，一看這個地方沒有皮鞋店，他就開了一個皮鞋店。後來呢，有其他猶太人也過去了，有的人往前面產業鏈上，做這個皮子，有的人開了跟皮鞋搭配的服裝。這個小鎮就蓬勃起來了。還有另外一個小鎮，有一個中國人過去，開了一個皮鞋店。其他中國人看他賣皮鞋賣得好，每個中國人都開了一個皮鞋店。
我們現在的產業情況就是，不考慮自身的特長，不考慮產業鏈，更多考慮的是，我在這件事上如何能夠更快地，站在别人的肩膀上成功。
什麼叫站在别人肩膀上成功，就是你看我解釋起來容易，我就容易成功。
Open AI 有七年的時間，解釋起來都很難，很難解釋出這個方向是不是正确的。那如果在中國，可能守不住這個陣地，早就換方向了。
很長一段時間，Open AI 在幹苦活，下笨功夫的。如果不是因為後來有好的效果，那會是被嘲笑的。
市界：Open AI 背後也是有微軟來做資金支持，能夠支持長期的研究投入，國内的投資是不是更傾向于快速看到回報？
李笛：這其實是一個比較有意思的問題，這可能跟我們的一級市場，二級市場也有關。我們對于翻倍式增長的要求太高了。我們有時候對于指标的優化太極致了。我個人覺得，這是應試教育所帶來的一種思維定勢。
總有一個排行榜，年級排名。你知道，清華算是有一大波人是應試教育的佼佼者。我有一些同學就是畢業後，還是覺得自己是考試是最強的，就去考各種資格證，考了 20 多個資格證。他不是為了要這個證幹嘛，就是因為你給定一個東西，要得多少分，或者排名到哪，這個他容易做，知道怎麼去優化這個指标。
市界：是不是大家現在想要 " 确定性 " 的心态會更強烈？或者說，容錯率在變低？
李笛：對，所以我們的觀點就是，我們就堅持做自己就行了，就跟去年似的。那時也有人問你們模型參數是多少？那我們模型參數就不要那麼大。當時投資人就說我們，你們憑什麼落後了？那你說就說吧。
但這是有代價的，就是在國内，這種代價很大。你要是在矽谷，這種是被認可的。你要在國内，那就是不合群。
市界：我們之前也有 AI Lab 這樣的技術創新儲備探索，但這幾年陸續都沒落了，原因會是什麼？
李笛：AI Lab 看起來不那麼成功的原因有很多，我個人覺得最主要的原因之一，就是他們在優化一個核心指标。各大 AI Lab，很希望通過對 AI 的投入來建立自己的技術領先，但如何去 " 描述 " 這個技術領先呢？靠論文。
所以迅速變成了一種怪象，（AI Lab）成了論文生產工廠。很長一段時間，咱們國家的人工智能論文數，哎，世界第一。
我們特别害怕，你定好一個指标，就往這個指标上極致卷，中國人真的很擅長這個。
當然也會有一些好效果。比如短視頻平台，那我們就極致地去優化各項指标，讓你去沉迷。
市界：但很多人覺得，這些平台在商業上非常成功。
李笛：問題在于我們不能只有一種生活方式，而這種方式攫取了人們絕大部分的時間。
中國有很多人，白天送外賣，晚上很累躺在床上拿手機刷短視頻。過了三年以後，他還是只能送外賣。為什麼，因為他沒有提高職業技能的機會。這樣的平台把這些人的時間吞噬了。某種程度上，相當于是從這些人的人生裡把時間拿走了，平台換來了廣告。普通人呢？
你要說這是不是一個商業上的成功，是。但是它是不是道德的，它不是。這是一個 business，但不是好的 business。
我記得我小時候，你問這個小朋友，長大了，想做什麼？答案還是挺多元的。現在沒什麼多元的。只以财富作為衡量标準，那就會只朝着這個方向（發展）。
市界：現在大家對 AI 浪潮的擔憂集中在，不一定會讓我的生活先變得更好，可能會先搶奪走我的工作？
李笛：因為這件事情有利益關系。我能賣啊。對于一個未知的東西，什麼比恐懼更有推動力呢？
就是小時候我們常聽到的那句話，千萬不能輸在起跑線上。還有媽媽會說的，等你覺得冷的時候已經來不及了。這個很痛苦，讓你永遠都會有一種恐懼。
市界：這是不是一種匮乏感，大家是在資源較少，差距較大的一個環境中，天然會有的恐懼？
李笛：那恐懼就成了源動力，而不是熱愛。
我見過很多人是這樣。一個外地小孩，從外地考來北京，目的是到北京上學，所以學了一個不喜歡的專業。到北京上學後，學這個專業的目的是拿到北京的戶口，所以進了一個不喜歡的部門。拿到戶口以後，目的是買房。所以一直在做不喜歡的職業，永遠在做的事情，不是他喜歡的事情，永遠都因為另外一個目的而做當下這件事情。
那這對于創新來講，是很可笑的。我們有多少這個所謂的創業者，是為了财富自由，而不是為了創業本身？
有很多人說我要做大模型，背後的真正原因是什麼？我們見到一大票人，是因為擔心像當年錯過 iPhone，錯過移動互聯網一樣，擔憂錯過了。
還有一大票人，是因為現在說，我做大模型，能融到錢。就像那個來北京的小孩，那他總有 " 另一個 " 目的，而做這件事。
那當我們做一個逝者復刻的時候，我們意識到，之所以要做這件事情，是因為這件事對于相關的這些人有特定的，不可替代的安慰和撫慰作用。而不是它是一個好的生意，不是要以盈利指标為驅動力。
你看包容這個 case，我們就會讓 AI 仍然能夠延續她作為一個歌手的夢想。但如果你是為了掙快錢，完全沒必要去做這個事。
市界：但是延續歌手夢想這個是父親的夢想吧？
李笛：是因為人去世以後就已經不存在了。
市界：你個人會是 " 數字永生 " 派嗎？
李笛：我的想法是，人逝如燈滅。你人不在了，别人怎麼利用你都跟你沒關系了。我不想留下點什麼，我沒有想留下點什麼的想法。
作者 | 趙子坤
編輯 | 董雨晴
運營 | 劉 珊
