該校計(jì)算機(jī)科學(xué)教授 Soheil Feizi 面對(duì) AI 生成圖像的水印現(xiàn)狀時(shí)直言不諱：“目前我們沒有任何可靠的水印技術(shù)，我們破解了所有的水印。”

　　在測(cè)試過程中，研究人員可輕松避開現(xiàn)有的水印方法，并發(fā)現(xiàn)在非 AI 生成的圖像上添加“假水印”更為容易。同時(shí)，該團(tuán)隊(duì)還開發(fā)出了一種“幾乎無法”從圖像中去除的水印技術(shù)，且不會(huì)完全損害圖像的知識(shí)產(chǎn)權(quán)。

　　而在加州大學(xué)圣巴巴拉分校和卡內(nèi)基梅隆大學(xué)合作的一項(xiàng)類似研究中，研究人員發(fā)現(xiàn)通過“模擬攻擊”，AI 生成圖像的水印可被輕易去除：通過破壞性的調(diào)整亮度、對(duì)比度或壓縮乃至旋轉(zhuǎn)圖像來去除，或通過建設(shè)性的高斯模糊等技術(shù)來去除。

　　據(jù)報(bào)道，AI 生成數(shù)字水印將成為一場(chǎng)與黑客之間的競(jìng)爭(zhēng)。這種水印盡管肉眼不可見，但可以打擊濫用 AI 生成的內(nèi)容。

　　此前報(bào)道，美國政府曾在 7 月下旬宣布，已獲得多家人工智能頭部公司的自愿承諾，將對(duì)人工智能生成的內(nèi)容加水印等措施，以幫助提高技術(shù)的安全性。

圖片來自網(wǎng)絡(luò)/侵刪

　　亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和 OpenAI 這七家公司都同意提高其系統(tǒng)的安全性和透明度，包括允許第三方專家對(duì)其模型進(jìn)行審查。

　　在發(fā)給 TechRadar 的一份聲明中，美國政府表示：“正在開發(fā)這些新興技術(shù)的公司有責(zé)任確保其產(chǎn)品的安全。為了充分發(fā)揮人工智能的潛力，美國政府鼓勵(lì)該行業(yè)堅(jiān)持最高標(biāo)準(zhǔn)，以確保創(chuàng)新不會(huì)以犧牲美國人的權(quán)利和安全為代價(jià)。”