今天小编分享的科技经验：妙鸭相机走红背后：AI的17种危险应用你知道吗？，欢迎阅读。
近日，一款名为 "妙鸭相机" 的 AI 拍照小程式在朋友圈刷屏。利用这款小程式，用户只要上传 21 张包含人脸的照片，就能生成一个专属的数字分身，并有各种风格的写真模板可供选择。很多网友称，妙鸭相机 " 秒杀 " 了海马体、天真蓝等实体写真品牌。
妙鸭相机的走红引发不少争议，在数据合规上，它仍待进一步明晰用户生成数据的存储和处理规则，激发了公众不断讨论 AIGC 的合理边界。我们应该如何权衡新时代下人工智能带来的利与弊？
文｜Expert Pane
过去几年，人工智能成为无数头条新闻的主题，提高了公众对其潜力的兴趣和担忧。最近几周，媒体对 ChatGPT 等生成式人工智能工具的用途和缺点进行了报道。而娱乐业也一直在讨论人工智能发展的利（如新艺术形式的兴起）和弊（无论是否得到表演者的许可，都可以复制表演者的脸和 / 或声音的深度伪造）。
这些故事清楚地表明，虽然人工智能是一种不会消失的强大资源，但各行各业、政府和广大公众需要随时了解其发展动态，并认真思考其使用所涉及的道德问题。
福布斯技术委员会的 17 位成员分享了一些令人惊讶和不安的人工智能应用方式，这些方式也许曾经我们不知道，但现在应该知道。
1. 钓鱼信息和恶意軟體
人工智能增强了现有威胁并引入了新威胁。聊天机器人可以省去制作网络钓鱼诱饵的繁琐工作；最终，黑客会将互联网接入、自动化和人工智能结合起来，让他们编写一个脚本说：" 了解目标 X，并不断向他们发送信息，直到他们点击为止。" 我们甚至已经看到人工智能被用于编写多态恶意軟體的证据。我们需要优秀的人工智能来反击。
2. 身份盗窃
公众应该知道，人工智能生成的深度假冒不仅针对知名人士。欺诈者正利用它们来窃取个人身份，从而获得银行账户和机密信息。幸运的是，具有多种识别因素的验证平台可以帮助阻止欺诈以及个人信息和檔案的潜在泄漏。
3. 日益复杂的网络攻击
黑客越来越多地利用人工智能进行复杂的网络攻击。人工智能可以自动执行和优化任务，包括侦察和漏洞扫描，并经过训练模仿人类行为，使攻击者能够发起令人信服的社交工程攻击和网络钓鱼电子邮件。这给网络安全带来了巨大挑战，需要不断适应和先进的人工智能驱动防御。
4. 造谣行为
人工智能生成的文本可用于创建复杂的虚假信息活动。通过模仿有影响力人物的写作风格，人工智能可以生成看似真实的假新闻文章、社交媒体帖子或博客文章。这引发了人们对虚假信息传播和网络内容信任度下降的担忧。
5. 泄露个人数据
在大型数据集上训练的人工智能模型可以从文本中捕捉模式和知识，其中可能包括敏感或个人信息。这引发了人们对个人数据隐私和安全的担忧，因为人工智能生成的文本可能会无意中泄露私人细节或被用于恶意目的，如社交工程攻击或身份盗窃。
6. 名誉损害
令人不安的是，" 深度伪造 " 技术可能带来极具破坏性的报复场景。报复者可以通过在亲密视频中换脸，轻易制造出某人出轨的假象；制造受害者说攻击性话语的假视频，损害其职业生涯（即使视频被证实是假的）；或者用深度伪造的视频敲诈某人，威胁说除非满足其要求，否则就公开发布该视频。
7. 冒充受信任的个人
深度假冒行为呈上升趋势，对消费者和企业都造成了安全威胁。坏人可以利用人工智能冒充银行职员，甚至通过电话冒充家庭成员。这些网络钓鱼攻击非常危险 -- 其紧迫性和欺骗性专门针对人类情感，最终目的是窃取个人身份信息和 / 或金钱。
8. 操纵选举结果
人工智能深度伪造会扭曲民主话语，操纵选举。深度伪造可以用来传播关于政治候选人、政党或问题的错误信息、宣传和假新闻。政治领导人可以被假冒或抹黑，政治活动家或记者也可以被假冒或抹黑。这会影响选民行为，破坏公众信任，动摇民主制度。人工智能的使用需要加以控制。
9. 自主武器系统
我相信，人工智能驱动的自主武器系统总有一天会发展起来。这些系统有可能在没有人类直接控制的情况下做出关于目标选择和交战的关键决策。这将引发严重的伦理问题。
10. 影像操纵
大多数人没有意识到，人工智能可以用来操纵影像。人工智能驱动的影像处理技术可以获取现有影像并改变其中的元素，如背景、颜色和其他特征。从面部识别到创建逼真的深度伪造，这项技术无所不能。它是一种强大的工具，根据不同的应用，在道德和不道德的情况下都可以使用。
11. 监视
利用人工智能作为监控工具是一种令人不安的方式。人脸识别技术越来越普遍，有些人担心它会在人们不知情的情况下被用来监视他们。我认为我们需要更加小心，让使用这种技术的公司承担责任，这样人们的权利才不会受到侵犯。
12. 对抗性攻击
人工智能对抗性攻击是该技术的一种令人惊讶和担忧的应用。这些攻击会巧妙地操纵人工智能输入，诱发错误输出，误导包括自动驾驶汽车或面部识别系统在内的系统。这种陌生的威胁可能导致重大的安全风险，因此提高公众意识和系统复原力至关重要。
13. 更普遍和更具侵略性的广告
人工智能可用于更具渗透性的广告。有了人工智能，人们可以分析消费者的情绪状态，并利用他们在情绪上的弱点，向他们投放高度个性化的广告。人工智能算法可以区分快乐和悲伤的表情，理解文字情感和语气，并读取其他行为模式，从而操纵用户的决策过程，促使他们进行购买。
14. 创建回声室
对我来说，最令人不安的发展是人工智能只提供人们想看和想知道的东西。你越多地点击表达某种观点的网站和网页，这种观点就越多地展现在你面前。这导致人们偏袒任何一方，认为那些与自己观点不同的人是信息错误、不聪明或被误导。实际上，我们每个人都只看到了与我们现有观点一致的东西。
15. 现实的数字影响者
一些公司正在创造人工智能生成的社交媒体影响者，这些影响者完全由计算机生成，在外观和行为上都与真人无异。他们可以积累大量粉丝，为产品代言，甚至与其他有影响力的人合作——所有这一切都不需要人类。真实与虚拟个体之间的模糊界限引发了对影响者营销透明度和真实性的道德担忧。
16. 创建合成数据
公众可能不知道的一种利用人工智能的方式是创建合成数据，即模仿影像、文本、音频或视频等真实数据。合成数据有几个有价值的用途，包括训练机器学习模型、测试軟體和提高隐私性。然而，在质量、有效性、公平性以及保障原始数据所有者和用户的权利方面也存在挑战。
17. 医学影像解读
人工智能解读 X 光或核磁共振成像等医学影像的能力令人惊叹，但也令人不安。虽然它可以帮助早期发现疾病，但如果算法存在缺陷或偏差，就可能导致误诊和不恰当的治疗。我们在处理人工智能在医疗保健领網域的应用时，必须对其巨大潜力和严格验证的必要性有一个平衡的认识。
本文作者为福布斯技术委员会，译自
https://www.forbes.com/sites/forbestechcouncil/2023/08/03/17-surprising-and-sometimes-alarming-uses-for-and-results-of-ai/?sh=7e1e60f05df8
