7 月21 日消息，據路透社報道，美國政府今日宣布，已獲得多家人工智慧頭部公司的自願承諾，將對人工智慧生成的內容加水印等措施，以幫助提高技術的安全性。
亞馬遜、Anthropic、Google、Inflection、Meta、微軟和OpenAI 這七家公司都同意提高其係統的安全性和透明度，包括允許第三方專家對其模型進行審查。
在針對TechRadar的聲明中，美國政府表示：「正在研發新興技術的公司有責任確保其產品的安全。為了充分發揮人工智慧的潛力，美國政府鼓勵該產業堅持最高標準，以確保創新不會以損害美國人的權利和安全為代價。」
首先，這七家公司承諾在向公眾發布AI 系統之前，對其進行內部和外部安全測試，並與相關行業參與者、政府、學術界和公眾分享訊息，以幫助管理人工智慧風險。
這些公司還將致力於網路安全投資和內部威脅控制，以“保護專有和未發布的模型權重”，這對於驅動生成人工智慧的資料模型的運行至關重要。 他們也同意促進第三方調查並報告系統中的任何安全漏洞。
七家公司也同意採取措施提高公眾對其係統的信任，包括開發一種方法來確保讓人們知道，他們何時看到人工智慧產生的內容，例如浮水印或其他措施。這些公司還將優先研究人工智慧模型帶來的社會風險，包括可能導致的種族歧視和其他形式的偏見，以及「保護隱私」。
不過IT之家從公告中發現，這些承諾都是相關企業自願採取的措施，而且沒有違反的懲罰措施，因此並不能百分百保證嚴格執行。
以上是七大主流AI企業包括OpenAI、Google等聯合承諾：引進水印技術，並允許第三方審核AI內容的詳細內容。更多資訊請關注PHP中文網其他相關文章！
