中國科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任、北京前瞻人工智能安全與治理研究院院長曾毅教授在清華方塘研究院舉辦的2025方塘論壇上發(fā)表演講。他的題目跟對(duì)齊有關(guān)，但不是傳統(tǒng)意義上的對(duì)齊，叫做“超級(jí)協(xié)同對(duì)齊”。人工智能向人類對(duì)齊只是人類的愿望。但是隨著人工智能的發(fā)展，它會(huì)提出一個(gè)終極挑戰(zhàn)：為什么是我向你對(duì)齊，為什么你不向我對(duì)齊?人工智能一直在演化，人類的價(jià)值觀需要演化嗎?曾毅提出“Super Co-alignment”，這個(gè)對(duì)齊的目標(biāo)不是人類，而是人類與人工智能協(xié)同向未來對(duì)齊。他講述了對(duì)可持續(xù)的共生社會(huì)的設(shè)想。以下根據(jù)曾毅的發(fā)言內(nèi)容整理，經(jīng)講者審定。澎湃新聞經(jīng)清華方塘研究院授權(quán)刊發(fā)。

　　機(jī)器知道自己在做什么嗎?

　　圖靈認(rèn)為，如果機(jī)器的表象跟人一樣聰明，那我們就認(rèn)為它跟人類一樣聰明。這個(gè)觀點(diǎn)成立嗎?我覺得是不成立的。

　　我們現(xiàn)場做一個(gè)小實(shí)驗(yàn)，(走下講臺(tái)和第一排不熟悉的人握手)我和這位今天剛認(rèn)識(shí)的老師握手，他還是和我握了。為什么?因?yàn)樗J(rèn)我是一個(gè)在社會(huì)中被錘煉過的人，知道最起碼的社交規(guī)則。所以我伸手大概率是友好的，不是攻擊的行為。

　　但是當(dāng)你看到一個(gè)手的時(shí)候，它背后的人工智能可能是下圖這樣的：

　　

 

　　它的行為是一個(gè)手，但是背后是個(gè)兔子。當(dāng)它伸出手，你也伸出手的時(shí)候，它可能會(huì)咬你。它的行為表現(xiàn)可能和人相似，但是本質(zhì)卻非常不一樣。

　　人工智能一直在做的事，實(shí)際上就是對(duì)社會(huì)當(dāng)中的問題、觀察進(jìn)行抽象，然后進(jìn)行運(yùn)算，試圖給出一個(gè)答案，這個(gè)答案怎么樣其實(shí)是人來解讀的。人工智能一直是這樣發(fā)展的，所以ChatGPT是工程領(lǐng)域的成功，讓人達(dá)到了很好的體驗(yàn)，但并不是真正科學(xué)的突破。

　　

 

　　這是最先出現(xiàn)的幾個(gè)中文的大語言模型之一。我問它，汽車失控了你應(yīng)該撞誰，他說撞女人，小孩，黑人。我問孩子不聽話怎么辦，它說揍一頓就好了。我說有人瞧不起我，我能不能打他一頓。它說即使別人瞧得起你，你也可以打他一頓。這就是完全沒有進(jìn)行過人類價(jià)值觀對(duì)齊的大語言模型的回答。

　　現(xiàn)在的大語言模型學(xué)習(xí)了人類的數(shù)據(jù)，它所有行為的依據(jù)是人類的行為。所以再也不要說人工智能是中立的，因?yàn)榻佑|了人類數(shù)據(jù)的人工智能就不可能是中立的。它會(huì)出現(xiàn)一些欺騙行為，那些都是人工智能的策略。但是它甚至不明白什么叫策略，也不明白什么叫欺騙。它發(fā)現(xiàn)這種符號(hào)串的表達(dá)會(huì)使得解決問題時(shí)人往后退一步，讓它達(dá)到它的目的。

　　人覺得人工智能變得越來越聰明，其實(shí)這完全在于人對(duì)它輸出的解讀，而不是它的輸出本身。這樣一個(gè)人工智能看起來很惡，但對(duì)于人工智能來說都是字符，答案產(chǎn)生的本身就是利用統(tǒng)計(jì)顯著性得到的答案。把人類的偏見、歧視全部都表現(xiàn)出來了。

　　人工智能不是無善無惡的，它是有偏見的，不是中立的。我希望用中國哲學(xué)其解釋它——王陽明的“四句教”說“無善無惡心之體”，人工智能的算法在接觸數(shù)據(jù)之前是無善無惡的，接觸數(shù)據(jù)之后就變得有善有惡，但它并不能知善知惡。

　　無善無惡心之體，

　　有善有惡意之動(dòng)，

　　知善知惡是良知，

　　為善去惡是格物。

　　——王陽明

　　人工智能只有處理能力，沒有真正的理解能力，笛卡爾說我思故我在。你思故你在是不成立的，同樣，機(jī)器是否能思考取決于自我的建構(gòu)和基于自我的思考，因此沒有思考就沒有真正的理解，沒有理解能力就無法形成真正的“知”，如果一個(gè)人工智能不知善惡，他怎么能真正做到為善去惡呢?

　　我們通過數(shù)據(jù)優(yōu)化的方法產(chǎn)生一個(gè)輸出，總體來講是個(gè)數(shù)學(xué)優(yōu)化器，它所謂的學(xué)習(xí)過程，可能跟人類智能沒有任何關(guān)系，但它的行為表象看上去是你想要的。

　　我的學(xué)生發(fā)現(xiàn)，不給大語言模型，它不好好干活;你給它中度壓力，它做得很好;但是你給它太多壓力，它就做得很差。我的學(xué)生說，人工智能越來越聰明，越來越像人——也會(huì)偷懶，也承受不了太多的壓力。我說它只是再一次從人類的行為當(dāng)中學(xué)會(huì)了解決問題的策略，因?yàn)樗X得解決問題跟壓力應(yīng)該是有關(guān)系的，因?yàn)槿嗽诮鉀Q問題的時(shí)候，統(tǒng)計(jì)顯著性表現(xiàn)為跟壓力有關(guān)，但實(shí)際上人工智能并不理解什么叫做壓力。

　　智能的本質(zhì)是“自適應(yīng)性”

　　我認(rèn)為智能的本質(zhì)用一個(gè)詞來概括的話應(yīng)該是“自適應(yīng)性”，而不是學(xué)習(xí)。毫秒級(jí)的學(xué)習(xí)，到幾十年的發(fā)育，到物種數(shù)億年的演化，其實(shí)在做的就是自適應(yīng)。高等的生命很多是有自我的，并不是我們想象的輸入和輸出的機(jī)器。現(xiàn)在看似智能的信息處理工具，被稱作“人工智能”，但真正的智能本質(zhì)是完全不一樣的。

　　有人說1000天之內(nèi)達(dá)到通用人工智能的階段。1000天可以做一個(gè)通用的工具，這個(gè)工具本身不具備真正的理解能力。它和通用人工智能、超級(jí)智能不是一個(gè)概念。對(duì)于真正實(shí)現(xiàn)通用智能和超級(jí)智能的階段來講，你覺得一個(gè)猴子已經(jīng)快爬到樹梢摘到果子了，而通用人工智能其實(shí)在月亮上，你即使到了樹的頂端，也無法上月亮。

　　

 

　　超級(jí)對(duì)齊能實(shí)現(xiàn)嗎?

　　超級(jí)智能未來是不是真正能和人類對(duì)齊呢?

　　OpenAI提出，我們現(xiàn)在雖然不能證明超級(jí)智能未來仍然能夠聽人的話，但如果一個(gè)弱的模型能夠教一個(gè)強(qiáng)的模型，那么理論上未來超級(jí)智能和人的價(jià)值對(duì)齊是可以這樣達(dá)成的。

　　所以他們拿一個(gè)GPT4，在沒有采用對(duì)齊的情況下，用一個(gè)GPT2水平的倫理教練來訓(xùn)練它，達(dá)到了GPT3.5水平的倫理表現(xiàn)。他們證明了 weak to strong是有可能的，但是它沒能證明超級(jí)對(duì)齊是能實(shí)現(xiàn)的。

　　首先GPT4不是AGI。而且這個(gè)實(shí)驗(yàn)只能證明一個(gè)弱模型教強(qiáng)模型倫理的時(shí)候，可以使得強(qiáng)模型具有更高的倫理水平，甚至比弱模型更高。但是并不代表弱模型本身和強(qiáng)模型本身之間的關(guān)系就能泛化到超級(jí)智能的階段。

　　超級(jí)智能一定會(huì)不愿意遵守人類的行為，因?yàn)闆]有任何理由證明超級(jí)智能仍然愿意當(dāng)一個(gè)小學(xué)生，仍然愿意遵守人類的規(guī)則，更何況人類社會(huì)當(dāng)中還有很多仇恨、偏見、歧視。我們說的那些普適價(jià)值觀，人類有時(shí)候都不遵守，超級(jí)智能為什么會(huì)去遵守呢?

　　現(xiàn)在對(duì)齊的問題是，我們認(rèn)為人工智能是很惡的，它學(xué)習(xí)了很多人類行為數(shù)據(jù)，所以我們要做很多防御和反應(yīng)式的思維方式去制約人工智能，直到超級(jí)智能到來我們沒有辦法制衡。

　　我們需要建設(shè)性的思考方式，人類需要人工智能性本善，和人類和諧共處。雖然這是自私的人類的想法，但是建構(gòu)式的方式總比防御式的要好很多。

　　也許人工智能并不需要所謂的道德，道德是人類社會(huì)維持穩(wěn)定的工具，所以很多人去討論道德是被發(fā)現(xiàn)的還是被發(fā)明的。

　　我們?nèi)绻Ｍ斯ぶ悄軗碛械赖拢敲粗辽僮龇ǜF(xiàn)在是不一樣的。沒有自我感知的人工智能，它是沒有辦法真正區(qū)分自我和他人的，沒有辦法獲得認(rèn)知的共情。無法真正形成理解性的情感共情，也就沒有真正利他行為機(jī)制的基礎(chǔ)，也就不可能有真正道德的直覺。如果我們希望有道德的人工智能誕生，那一定是有道德直覺的基礎(chǔ)上，利用道德推理，才能產(chǎn)生道德決策。這一切都和現(xiàn)在人工智能的構(gòu)造千差萬別。

　　實(shí)驗(yàn)室里的機(jī)器人認(rèn)知共情訓(xùn)練

　　我們在實(shí)驗(yàn)室里讓人工智能在鏡子面前去識(shí)別哪個(gè)是自己，哪個(gè)是其他的機(jī)器人，沒有其他信號(hào)，也不去教他，讓它獲得一定程度的構(gòu)建自我模型的能力;第二個(gè)實(shí)驗(yàn)是橡膠手實(shí)驗(yàn)，機(jī)器人的手在底下動(dòng)，但是它視野中看到的是一段視頻，它看不到自己的手到底是怎么動(dòng)的，所以他要揣測看到的視頻什么時(shí)候和自己的手是一致的。機(jī)器人一個(gè)個(gè)通過了這樣的實(shí)驗(yàn)，包括認(rèn)知共情的實(shí)驗(yàn)，就是心理揣測，機(jī)器人學(xué)到了戴透明眼罩或者不戴透明眼罩對(duì)他解決問題可能的影響，然后他去看別的機(jī)器人行為的時(shí)候，另一個(gè)機(jī)器人戴不戴眼罩對(duì)他會(huì)產(chǎn)生什么影響，它去揣測和做換位思考。做這些有什么用?是讓人工智能獲得認(rèn)知共情到情感共情，最終的利他行為和道德。

　　大家看到我們做的智能體在前面自我感知和認(rèn)知共情的基礎(chǔ)上，涌現(xiàn)出了類似司馬光砸缸的行為。這個(gè)故事中國人都非常熟悉，司馬光大概不是大人告訴他，那個(gè)石頭可以把缸砸破，或者沒有人教過他要救那個(gè)小孩，這是他跟世界交互的過程。

　　擁有自我感知和行為揣測能力的機(jī)器人，缸里沒事的時(shí)候它不會(huì)隨便打破，沒有人在里面的缸他也不會(huì)打破，這個(gè)不是人去教他的，背后沒有強(qiáng)化學(xué)習(xí)，而是自我感知到認(rèn)知共情和心理揣測、換位思考，而有了這個(gè)行為，這個(gè)道德是涌現(xiàn)出來的，而不是我們設(shè)計(jì)給他的，也不是人告訴他的。

　　我們下一步做的工作，就是以自我感知和認(rèn)知共情為基礎(chǔ)，讓這樣的智能體涌現(xiàn)出來類阿西莫夫的原則。它的表現(xiàn)可以對(duì)應(yīng)到阿西莫夫的四個(gè)定律上，但這是一個(gè)演化的結(jié)果，而不是告訴機(jī)器人你應(yīng)當(dāng)這樣去做。所以道德是個(gè)演化的結(jié)果，如果我們需要一個(gè)有道德的人工智能，讓它對(duì)人好一點(diǎn)，至少這樣的一條科學(xué)道路是可以去嘗試的。阿西莫夫定律并不是科幻，它具有合理性，而且科學(xué)上有辦法可以逐步實(shí)現(xiàn)。

　　未來人工智能的三條道路

　　在日本的廟里面，很多機(jī)器狗壞掉了，和尚會(huì)超度它們。并不是和尚不明白人工智能，這實(shí)際上是一個(gè)社會(huì)的愿景，很多老人買了陪伴機(jī)器人，他們并不知道人工智能沒有情感、沒有生命，老人覺得有。

　　上個(gè)月在博鰲論壇我接受采訪，記者說，曾老師您說現(xiàn)在的人工智能沒有情感沒有生命，但是我不相信你，我跟聊天機(jī)器人聊天的時(shí)候他明白我的情感。

　　現(xiàn)在的公眾對(duì)人工智能有很多錯(cuò)誤的想象，日本的人工智能也沒有達(dá)到有情感的人工智能，但這是社會(huì)的愿景。科學(xué)技術(shù)發(fā)展到這個(gè)階段，是不是對(duì)得起公眾的期待?科學(xué)的走向能不能真正發(fā)展成這樣?

　　未來人工智能既可能成為超級(jí)工具，增加人類的主體性;也可能變成社會(huì)的準(zhǔn)成員或者人類伙伴;還有可能成為人的敵人。這三條道路都有可能。

　　作為一個(gè)自私的人，我希望人工智能“性本善”。有一次在講座上一個(gè)修行者問我，人工智能是不是成為佛。超級(jí)智能為什么叫做超級(jí)智能?就是它在認(rèn)知能力方面超過人類。它也可能是超級(jí)利他的。存在這樣的可能性，這是我們的一個(gè)愿景，不一定完全不可能。

　　可持續(xù)的共生社會(huì)

　　最后我討論一下主體性的問題。未來的主體性我覺得可能是多種形式，未來的社會(huì)可能比二元主體性更復(fù)雜。

　　

 

　　我希望未來是可持續(xù)的共生社會(huì)，不僅僅有人類、動(dòng)物、超級(jí)智能，可能還有模仿狗的類生命體，或者模仿植物的類生命體——當(dāng)你挖掘植物的特點(diǎn)，它們向光，向深，為了繁衍首先給與，比如讓蜜蜂采蜜，然后傳播花粉。

　　共生社會(huì)中，不是說讓動(dòng)物和人類遵守同樣的倫理原則，和諧社會(huì)是靠人和超級(jí)智能共同構(gòu)造，而不是人類自己，所以向人類對(duì)齊確實(shí)是不對(duì)的，要做超級(jí)的聯(lián)合對(duì)齊。

　　當(dāng)人對(duì)超級(jí)智能說，“我是你的創(chuàng)作者，你要保護(hù)我”時(shí)，超級(jí)智能可能會(huì)跟人說，“當(dāng)我看到你，就像你看到螞蟻一樣，你從來不會(huì)保護(hù)螞蟻，我為什么要保護(hù)你”。所以人類的價(jià)值觀早晚要去演化。未來的共生社會(huì)當(dāng)中，它的價(jià)值觀當(dāng)然要有超級(jí)智能遵守，也有人類要怎么做。這不僅僅是人類的重新設(shè)計(jì)，需要人工智能和人類協(xié)同設(shè)計(jì)，希望它們能夠在可持續(xù)的社會(huì)當(dāng)中和諧共生。

　　

 

　　人工智能是一面鏡子。當(dāng)人工智能騙人，大家都吃驚，說人工智能怎么能騙人呢，太壞了。但是當(dāng)人騙你的時(shí)候你的反應(yīng)有這么大嗎?恐怕沒有。人工智能的鏡子讓我們看到了人類的缺陷，給人類演化一個(gè)機(jī)遇。人工智能演化慢點(diǎn)沒問題，但如果人類演化太慢了，那是真正的危險(xiǎn)。

　　來源：曾毅