今天小編分享的科技經驗:世界最強AI公司,邁出毀滅人類的“一小步”?,歡迎閱讀。
他們删除了禁止他們的技術被用于軍事用途的條款。
據美國調查新聞網站 " 攔截者 " 報道,開發了被全世界廣泛使用的人工智能產品 ChatGPT 的美國知名 AI 公司 OpenAI,于近日悄悄幹了一件引人關注的事情:他們删除了一項涉及他們 AI 模型的使用禁令。
" 攔截者 " 網站稱,在今年 1 月 10 日之前,OpenAI 公司在其 AI 模型的使用條款中曾明确表示,禁止将其模型用于很可能會造成人員傷亡的用途上,比如 " 研發武器 " 和 " 軍事與戰争 "。
然而,在 1 月 10 日對其使用條款進行一番大更新後,OpenAI 公司雖然在禁止項中仍然提到禁止将其產品、模型和服務用于會導致人員傷亡的用途上,并提到了 " 武器開發和使用 ",但先前同樣被禁止的軍事用途,如今卻在文本中消失了。
對此,OpenAI 公司的發言人在一封回復給 " 攔截者 " 網站的郵件中表示,1 月 10 日這次對使用條款的大調整,是因為公司的產品和服務已經被全世界廣泛使用,所以需要設立一套更加簡潔和普适的規則,包括讓規則中的文本變得更加清晰,更好被理解、記憶以及應用。
該發言人還強調,新的使用條款中提到的 " 不要去傷害他人 " 本身就是一個很寬泛同時也很好理解的概念,可以适用于很多語境之下,而且條款中還列舉了武器作為一個明顯的例子。
但該發言人并沒有正面回應 " 禁止傷害 " 這個寬泛的表述,是否包括一切軍事用途,僅稱條款禁止其技術被包括軍方的人用于研發和使用武器,傷害他人或摧毀他人财物,或是在未授權的情況下用于破壞任何服務或系統的安全。
有網絡安全專家對 " 攔截者 " 網站表示,OpenAI 删掉使用條款中禁止軍事和戰争用途的内容,是一個很大的變化,說明該公司新版使用條款關注的重點,是在确保法律合規之上提供更多的靈活性,但在很多國家,軍事和戰争都會被披上合法的外衣,所以 OpenAI 公司的這次調整潛在的影響将是巨大的。
其他專家亦對 " 攔截者 " 網站也表示,OpenAI 的新使用條款反映出公司正在悄悄弱化其先前反對軍事應用的立場。有專家還指出,OpenAI 的重要合作夥伴微軟公司就是美國軍方主要的供應商之一。而且美軍對于 AI 技術的需求也越來越強烈。
" 攔截者 " 網站還特别提到,雖然 OpenAI 公司的產品、模型和服務如今還沒有被用于操控武器去殺人,但實際上其技術已經開始被軍方用于編寫代碼、處理武器采購以及情報分析等方面。換言之,盡管沒有被直接用于殺人,該公司的技術都已經在被用于協助這樣的工作了。
" 在人工智能系統正被用于針對加沙地區的平民時,OpenAI 決定将禁止軍事和戰争用途文字從其使用條款中移除,是值得關注的 ",一位專家對 " 攔截者 " 網站這樣說道