今天小編分享的财經經驗：半藏森林克隆人引争議！利用AI技術吸金的“克隆人”，會引發AI詐騙嗎？，歡迎閱讀。
本文來源：時代周報 作者：齊鑫
" 半藏森林克隆人 " 剛出現不久，就被暫時下線了。
據揚子晚報報道，6 月 5 日，有網友發現北京紅棉小冰科技有限公司（下稱 " 小冰公司 "）推出的虛拟人類娛樂平台 X Eva APP 中，上線不久的網紅 " 半藏森林 " 等 AI 克隆人疑似被下架。
小冰公司對外回應稱，" 半藏森林 " 克隆人目前還在内測，内測名額已滿，所以先下線了。目前在進行調整，其他虛拟人暫時也還不可見。
此前，" 半藏森林克隆人一年收入可高達 72 萬 " 的話題曾引發網友關注。據财經網報道，" 目前不付費可以互動，付費可以看朋友圈、打視頻電話。兩種付費模式月費分别是 6 元 /30 元、年費 72 元 /360 元 "，以半藏森林為例，如果有 1 萬個情感模式付費用戶，相當于半藏森林克隆人一年收入 72 萬元；如果有 1 萬個超級模式付費用戶，一年則可實現收入 360 萬元。
半藏森林克隆人的出現及其變現模式也引發了網友們的探讨。" 虛拟人技術未來前景廣闊，但市面上的 AI 技術成熟度不高，導致虛拟人物智商普遍不高，應用場景有限，大大限制了自身發展。要判斷小冰克隆人商業模式是否可行，目前還為時過早。"6 月 5 日，深度科技研究院院長張孝榮告訴時代周報記者。
此外，也有部分網友對該平台和 AI 克隆人是否會侵犯用戶隐私，帶來安全隐患等問題感到擔心。
為了解相關情況，6 月 6 日，時代周報記者向小冰公司發送采訪提綱，截至發稿未獲回復。
網紅吸金新手段？
網紅明星利用 AI 克隆人形象賺錢，這種變現方式着實超出了不少人的想象。
據北京商報報道，AI 半藏森林上線的信息出現在該 APP 首頁發現欄目，和半藏森林克隆人互動時，對方可通過語音、文字形式回復。聊天界面上方設有增值服務入口，點擊立即解鎖，可體驗更多互動形式。
而半藏森林 AI 克隆人有兩種付費模式，情感模式需支付 6 元 / 月或 72 元 / 年，用戶能享受克隆人語音消息回應、同步克隆人朋友圈；超級模式支需付 30 元 / 月或 360 元 / 年，克隆人會為用戶提供撰寫文案等服務，還能進行視頻通話。在此前的體驗階段，超級模式暫未上線。
（圖源：半藏森林新浪微博）
半藏森林 AI 克隆人的出現，與小冰公司推出的 " 克隆人計劃 " 有關。
" 小冰公司的‘克隆人計劃’最短只需個人采集三分鍾數據，即可為明星紅人、專家學者或普通人創造源于本人性格、技能、聲音、外貌的 AI 克隆人，并提供專有平台，以便于本人将認證克隆人有償或無償提供給自己的閱聽人。"AI 小冰微信公眾号在今年 6 月 1 日發布的文章中稱，克隆人基于小冰框架大模型、神經網絡渲染及超級自然語音技術，可實時情感互動及提供 AIGC 能力，甚至有自己的朋友圈，如同人類在平行世界的第二人生。
事實上，半藏森林并非第一個擁有自己 AI 形象的網紅。Caryn Marjorie 是一位 23 歲的美國網紅，擁有超 180 萬的 Snapchat 粉絲，她用 OpenAI 的技術創建了一個人工智能版本的自己 CarynAI，每分鍾收費 1 美元。而 CarynAI 曾在一周的測試期内收入約 7.2 萬美元，折合人民币近 50 萬元。
AI 将為網紅提供一種新的 " 吸金 " 方式。據北京商報報道，半藏森林與小冰公司是抽成模式，本人拿大頭。時代周報記者注意到，目前，半藏森林在新浪微博擁有 262.7 萬個粉絲，若按每人每月充值 6 元開通情感模式計算，則可帶來收入 1576.2 萬元 / 月。
（圖源：半藏森林新浪微博）
CarynAI、半藏森林 AI 克隆人的出現，背後是人工智能技術的不斷革新。
CarynAI 由 Caryn Marjorie 與 Forever Voice 公司合作推出，利用 OpenAI 開發的 GPT-4 API 技術，復制了 Caryn Marjorie 的聲音、舉止和個性。
而推出了半藏森林 AI 克隆人的 X Eva App 底層使用的技術包括小冰 XLLM 語言模型、聲音及神經網絡渲染技術等，共計約 1000 餘個有機組合的模型。
AI 克隆人安全嗎？
在 AI 克隆人等類似產品出現前，由美國科技公司 OpenAI 推出的人工智能聊天機器人程式 ChatGPT 引爆網絡，在互聯網行業掀起巨大熱潮。
如今，半藏森林 AI 克隆人能否如 ChatGPT 般火爆？
張孝榮認為半藏森林 AI 克隆人要達到 ChatGPT 的火爆程度存在一定難度。
" ‘ GPT 克隆人計劃’并非基于 GPT 大模型，而是基于小冰框架模型，兩者技術路線不同，訓練數據不同，背後所需要的算力和算法也不一樣，因此生成的 AI 機器人體驗必然會有差異。"6 月 5 日，張孝榮向時代周報記者表示。
而 AI 克隆人的出現，也讓部分網友不禁對其安全性產生擔憂。近年來，随着人工智能技術的發展，AI 熱潮席卷多個領網域，AI 詐騙也已出現引發社會關注。
福建福州某科技公司法人代表郭先生接到了由 AI 換臉技術合成的 " 好友 " 的微信視頻電話後向對方轉賬，被騙 430 萬元；安徽安慶的何先生在接到一個 9 秒的 " 熟人 " 視頻電話後向對方轉賬，結果被騙，所幸警方抓獲了 3 名涉詐嫌疑人，追回了他被騙的 132 萬元。
AI 克隆人是否會產生此類安全風險？在 AI 小冰微信公眾号發布的文章中，小冰團隊表示，為避免克隆人帶來安全隐患或被濫用，團隊采用了最高的安全标準。
在訓練數據方面，僅使用本人小樣本數據，并在訓練後清除，從而避免過多采集本人數據及濫用；在技術運用方面，使用經小冰團隊長期驗證的技術，例如安全的混合模型，而非單純的大模型，從而确保技術邊界已知；在使用場景方面，嚴格限制克隆人在特定產品（X Eva APP）中，而非将技術接口 API 開放，從而避免克隆人被不當使用；在本人對克隆人的控制方面，提供便利以使本人可随時中止其克隆人。
" 此外，全部 C 端或 B 端用戶均須提交本人權屬證明方可實施，以避免數據的侵權或不當使用。"AI 小冰微信公眾号發布的文章中稱。
" ‘（AI）克隆人’屬于新生事物，其技術核心還是依靠目前的生成式人工智能技術。關于‘克隆人’產品的未來發展，關鍵在于需要符合監管方向。"6 月 5 日，北京市京師律師事務所合夥人、主任律師盧鼎亮向時代周報記者表示。
今年 4 月 11 日，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法（征求意見稿）》。盧鼎亮認為，從征求意見稿來看，網信辦對生成式人工智能服務行業的健康發展持鼓勵支持态度，同時鼓勵優先采用安全可信的軟體、工具、計算和數據資源。
" 如果《生成式人工智能服務管理辦法（征求意見稿）》生效，AI 克隆人的產品或服務必然會持續發展。" 盧鼎亮表示，在發展的過程中，還需要符合監管思路，克隆人服務提供商、用戶等主體在使用訓練數據、使用產品、保護數據安全和隐私、防止法律風險和重大道德以及輿論風險、防止不正當競争等方面都需要注意合規風險。
