本週新聞較少，來看看吧！
(1)Anthropic 公開 Claude 文字浮水印原理，換掉挑字的亂數來源(原文點此)
Anthropic公布其AI生成內容將會打上浮水印以符合歐盟AI法規。
編按:
[a]歐盟AI法規訂定自2026年08月02日起，生成式AI廠商必須讓AI生成的文字、圖片、影音等內容帶有可識別的標記，以利判別是否由AI生成。
[b]Anthropic對於AI生成的文字、圖片是採用不同方式的浮水印。 文字是使用Secret Key來影響文字生成的機率(比如說:天氣「很」好，加入Secret Key的影響後變成天氣「真」好)，如果一篇文章中，越多地方符合使用該Secret Key生成的結果，那麼它就會被給一個高的AI生成機率值；壞處是，如果人工撰寫的文章也和AI生成的文章雷同，縱使它不是由AI生成，也會被給一個高的AI生成機率值。 圖片則是會在生成的圖片中，加入肉眼看不見的浮水印資訊。
[c]Anthropic這套系統未來的運作方式可能是使用者將文章、圖片交給Anthropic，由它給出一個AI生成機率值。
短評:
[a]歐盟AI法規規定AI生成的內容需被識別，是以協助使用者判定資訊真假為出發點，這實在是有點本末倒置，因為內容不管是不是AI生成，都有可能是假資訊；舉個例子來說，如果有個薪資報表，一個是由人工撰寫，另一個是由薪資報表軟體生成，使用者會因為是人工撰寫就認為它的正確度比較高嗎? 我倒是認為，若要協助使用者識別資訊真假，把目前社群媒體防範假消息的那套機制移植過來，也許還比較會有幫助。
[b]不過AI浮水印的好處倒是可以讓AI廠商能將AI生成的資料從訓練(Training)資料庫中移除，以降低模型訓練時崩潰的可能性(AI生成資料佔訓練資料的比率越高，模型訓練時就越可能崩潰)。
留言
張貼留言