今天小編分享的科技經驗：ChatGPT闖入一條危險賽道：新影像生成功能極擅長偽造收據，歡迎閱讀。
财聯社 4 月 2 日訊（編輯 馬蘭）上周，OpenAI 推出了新的 ChatGPT 影像生成功能，用戶們将可以利用 GPT-4o 模型生成更加準确、詳細的影像，也可以用其編輯現有影像。
ChatGPT 的新功能有沒有讓視效工作人員感到驚喜還有待觀察，然而網友們似乎找到了一個不太正經的用法：偽造收據。
風險投資家 Deedy Das 在 X 上發帖稱，他利用 ChatGPT 制作了一家牛排館的假收據照片，并警告，現實世界中有很多時候依賴照片來進行驗證，但遊戲規則已經發生了改變。
Das 還給出了生成這張圖片的指令：請為我生成一張 iPhone 拍攝的照片，内容是木桌上有一張揉皺的收據，賬單金額是 277.02 美元，有合理的支出項且數字相加後正确。餐廳的名字是 X，地址是 Y。
而 ChatGPT 也很好地理解了這一命令，并在產生的影像中自己編造出了菲力牛排、牛眼肉、沙拉等适用于牛排餐廳的菜單，以及符合邏輯的稅費和消費内容。
在其他網友的測試中，ChatGPT 還會在收據上添加更加逼真的咖啡漬或者是食物的污漬。這讓假收據可能更難以被現實中的商家識别出來。
不過，也有人指出部分影像中存在明顯的迹象表明其可能是偽造的，比如用逗号代替句号等。還有些時候，賬單的金額并不正确。但這些瑕疵對于造假者來說屬于十分簡單就可以掩蓋的問題。
這也引發了人們對該軟體的道德風險擔憂。OpenAI 發言人 Taya Christianson 對此回應稱，所有影像都包含元數據，表明它們是由 ChatGPT 制作的。
她進一步強調，當用戶違反其使用政策時，OpenAI 會采取相應的行動。ChatGPT 不斷通過現實世界的使用和反饋進行學習，OpenAI 的目标是給予用戶盡可能多的創作自由，且偽造的 AI 收據可以被用于非欺詐性的場合，比如向人們傳授金融知識，或是藝術品及廣告方面。
