我們擅長商業(yè)策略與用戶體驗(yàn)的完美結(jié)合。
歡迎瀏覽我們的案例。
社交媒體 X 計(jì)劃利用 AI 撰寫社區(qū)注釋(community notes)，其目的是提高事實(shí)核查效率，但官方也承認(rèn)存在明顯風(fēng)險(xiǎn)。
該計(jì)劃可能破壞用戶對事實(shí)核查系統(tǒng)的信任，因?yàn)?AI 撰寫的注釋可能不準(zhǔn)確且具有誤導(dǎo)性。專家警告，AI 注釋可能導(dǎo)致錯誤信息擴(kuò)散，并可能加劇審查負(fù)擔(dān)。
在最新研究論文中，X 平臺將這一計(jì)劃描述為一次“升級”，同時(shí)解釋了 AI 撰寫社區(qū)注釋可能出現(xiàn)的所有問題。
在理想情況下，X 平臺描述了 AI 能夠加速和增加錯誤帖子上的社區(qū)注釋數(shù)量，從而提高平臺范圍內(nèi)的事實(shí)核查力度。
每個(gè) AI 撰寫的注釋將由人工審查員評分，為 AI 提供反饋，以改善其寫作能力。隨著 AI 寫作能力提升，人工審查員可以專注于 AI 無法快速處理的更細(xì)微的事實(shí)核查任務(wù)，例如需要特定專業(yè)知識或社會意識的帖子。
如果一切順利，人類和 AI 審查員將共同轉(zhuǎn)變 X 的事實(shí)核查方式，甚至探索形成“公共知識生產(chǎn)中人類與 AI 合作的新形式”。
IT之家援引論文觀點(diǎn)，然而，仍然存在一個(gè)關(guān)鍵問題：X 平臺不確定 AI 撰寫的注釋是否能夠像人類撰寫的注釋一樣準(zhǔn)確。
進(jìn)一步復(fù)雜化的是，AI 可能會生成“有說服力但錯誤”的注釋，人類評分員可能會因?yàn)?AI 在撰寫有說服力、情感共鳴且看似中立的注釋方面“異常擅長”而給予好評。這可能會破壞反饋循環(huán)，削弱社區(qū)注釋的可信度，并隨著時(shí)間的推移，讓整個(gè)系統(tǒng)變得不那么可靠。
X 平臺預(yù)測，如果無法解決這一難題，最重要的注釋的影響可能會被稀釋。一種可能的解決方案是取消人工審查流程，將 AI 撰寫的注釋應(yīng)用于“類似上下文”的帖子，但最大的潛在問題是顯而易見的：自動匹配人們認(rèn)為不需要注釋的帖子可能會顯著削弱系統(tǒng)信任度。
