今天小編分享的科技經驗：妙鴨相機走紅背後：AI的17種危險應用你知道嗎？，歡迎閲讀。
近日，一款名為 "妙鴨相機" 的 AI 拍照小程式在朋友圈刷屏。利用這款小程式，用户只要上傳 21 張包含人臉的照片，就能生成一個專屬的數字分身，并有各種風格的寫真模板可供選擇。很多網友稱，妙鴨相機 " 秒殺 " 了海馬體、天真藍等實體寫真品牌。
妙鴨相機的走紅引發不少争議，在數據合規上，它仍待進一步明晰用户生成數據的存儲和處理規則，激發了公眾不斷讨論 AIGC 的合理邊界。我們應該如何權衡新時代下人工智能帶來的利與弊？
文｜Expert Pane
過去幾年，人工智能成為無數頭條新聞的主題，提高了公眾對其潛力的興趣和擔憂。最近幾周，媒體對 ChatGPT 等生成式人工智能工具的用途和缺點進行了報道。而娛樂業也一直在讨論人工智能發展的利（如新藝術形式的興起）和弊（無論是否得到表演者的許可，都可以復制表演者的臉和 / 或聲音的深度偽造）。
這些故事清楚地表明，雖然人工智能是一種不會消失的強大資源，但各行各業、政府和廣大公眾需要随時了解其發展動态，并認真思考其使用所涉及的道德問題。
福布斯技術委員會的 17 位成員分享了一些令人驚訝和不安的人工智能應用方式，這些方式也許曾經我們不知道，但現在應該知道。
1. 釣魚信息和惡意軟體
人工智能增強了現有威脅并引入了新威脅。聊天機器人可以省去制作網絡釣魚誘餌的繁瑣工作；最終，黑客會将互聯網接入、自動化和人工智能結合起來，讓他們編寫一個腳本説：" 了解目标 X，并不斷向他們發送信息，直到他們點擊為止。" 我們甚至已經看到人工智能被用于編寫多态惡意軟體的證據。我們需要優秀的人工智能來反擊。
2. 身份盜竊
公眾應該知道，人工智能生成的深度假冒不僅針對知名人士。欺詐者正利用它們來竊取個人身份，從而獲得銀行賬户和機密信息。幸運的是，具有多種識别因素的驗證平台可以幫助阻止欺詐以及個人信息和檔案的潛在泄漏。
3. 日益復雜的網絡攻擊
黑客越來越多地利用人工智能進行復雜的網絡攻擊。人工智能可以自動執行和優化任務，包括偵察和漏洞掃描，并經過訓練模仿人類行為，使攻擊者能夠發起令人信服的社交工程攻擊和網絡釣魚電子郵件。這給網絡安全帶來了巨大挑戰，需要不斷适應和先進的人工智能驅動防御。
4. 造謠行為
人工智能生成的文本可用于創建復雜的虛假信息活動。通過模仿有影響力人物的寫作風格，人工智能可以生成看似真實的假新聞文章、社交媒體帖子或博客文章。這引發了人們對虛假信息傳播和網絡内容信任度下降的擔憂。
5. 泄露個人數據
在大型數據集上訓練的人工智能模型可以從文本中捕捉模式和知識，其中可能包括敏感或個人信息。這引發了人們對個人數據隐私和安全的擔憂，因為人工智能生成的文本可能會無意中泄露私人細節或被用于惡意目的，如社交工程攻擊或身份盜竊。
6. 名譽損害
令人不安的是，" 深度偽造 " 技術可能帶來極具破壞性的報復場景。報復者可以通過在親密視頻中換臉，輕易制造出某人出軌的假象；制造受害者説攻擊性話語的假視頻，損害其職業生涯（即使視頻被證實是假的）；或者用深度偽造的視頻敲詐某人，威脅説除非滿足其要求，否則就公開發布該視頻。
7. 冒充受信任的個人
深度假冒行為呈上升趨勢，對消費者和企業都造成了安全威脅。壞人可以利用人工智能冒充銀行職員，甚至通過電話冒充家庭成員。這些網絡釣魚攻擊非常危險 -- 其緊迫性和欺騙性專門針對人類情感，最終目的是竊取個人身份信息和 / 或金錢。
8. 操縱選舉結果
人工智能深度偽造會扭曲民主話語，操縱選舉。深度偽造可以用來傳播關于政治候選人、政黨或問題的錯誤信息、宣傳和假新聞。政治領導人可以被假冒或抹黑，政治活動家或記者也可以被假冒或抹黑。這會影響選民行為，破壞公眾信任，動搖民主制度。人工智能的使用需要加以控制。
9. 自主武器系統
我相信，人工智能驅動的自主武器系統總有一天會發展起來。這些系統有可能在沒有人類直接控制的情況下做出關于目标選擇和交戰的關鍵決策。這将引發嚴重的倫理問題。
10. 影像操縱
大多數人沒有意識到，人工智能可以用來操縱影像。人工智能驅動的影像處理技術可以獲取現有影像并改變其中的元素，如背景、顏色和其他特征。從面部識别到創建逼真的深度偽造，這項技術無所不能。它是一種強大的工具，根據不同的應用，在道德和不道德的情況下都可以使用。
11. 監視
利用人工智能作為監控工具是一種令人不安的方式。人臉識别技術越來越普遍，有些人擔心它會在人們不知情的情況下被用來監視他們。我認為我們需要更加小心，讓使用這種技術的公司承擔責任，這樣人們的權利才不會受到侵犯。
12. 對抗性攻擊
人工智能對抗性攻擊是該技術的一種令人驚訝和擔憂的應用。這些攻擊會巧妙地操縱人工智能輸入，誘發錯誤輸出，誤導包括自動駕駛汽車或面部識别系統在内的系統。這種陌生的威脅可能導致重大的安全風險，因此提高公眾意識和系統復原力至關重要。
13. 更普遍和更具侵略性的廣告
人工智能可用于更具滲透性的廣告。有了人工智能，人們可以分析消費者的情緒狀态，并利用他們在情緒上的弱點，向他們投放高度個性化的廣告。人工智能算法可以區分快樂和悲傷的表情，理解文字情感和語氣，并讀取其他行為模式，從而操縱用户的決策過程，促使他們進行購買。
14. 創建回聲室
對我來説，最令人不安的發展是人工智能只提供人們想看和想知道的東西。你越多地點擊表達某種觀點的網站和網頁，這種觀點就越多地展現在你面前。這導致人們偏袒任何一方，認為那些與自己觀點不同的人是信息錯誤、不聰明或被誤導。實際上，我們每個人都只看到了與我們現有觀點一致的東西。
15. 現實的數字影響者
一些公司正在創造人工智能生成的社交媒體影響者，這些影響者完全由計算機生成，在外觀和行為上都與真人無異。他們可以積累大量粉絲，為產品代言，甚至與其他有影響力的人合作——所有這一切都不需要人類。真實與虛拟個體之間的模糊界限引發了對影響者營銷透明度和真實性的道德擔憂。
16. 創建合成數據
公眾可能不知道的一種利用人工智能的方式是創建合成數據，即模仿影像、文本、音頻或視頻等真實數據。合成數據有幾個有價值的用途，包括訓練機器學習模型、測試軟體和提高隐私性。然而，在質量、有效性、公平性以及保障原始數據所有者和用户的權利方面也存在挑戰。
17. 醫學影像解讀
人工智能解讀 X 光或核磁共振成像等醫學影像的能力令人驚嘆，但也令人不安。雖然它可以幫助早期發現疾病，但如果算法存在缺陷或偏差，就可能導致誤診和不恰當的治療。我們在處理人工智能在醫療保健領網域的應用時，必須對其巨大潛力和嚴格驗證的必要性有一個平衡的認識。
本文作者為福布斯技術委員會，譯自
https://www.forbes.com/sites/forbestechcouncil/2023/08/03/17-surprising-and-sometimes-alarming-uses-for-and-results-of-ai/?sh=7e1e60f05df8
