日前，博鰲亞洲論壇2025年年會(huì)，一場(chǎng)主題為“人工智能：如何做到應(yīng)用與治理的平衡推進(jìn)”的論壇上，中國(guó)科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專(zhuān)家曾毅就人工智能的治理發(fā)表自己的意見(jiàn)。
記者：在今年的博鰲論壇上，你想對(duì)外傳遞的跟你去年表達(dá)傳遞的，有什么更推進(jìn)的地方？
曾毅：在去年博鰲論壇的時(shí)候，我們說(shuō)人工智能的發(fā)展過(guò)程當(dāng)中有很多的風(fēng)險(xiǎn)，特別是在去年，全世界很多的科學(xué)家甚至聯(lián)合署名，人工智能的大模型的研究是不是要暫停一下，先把人工智能的安全護(hù)欄做起來(lái)。在今年博鰲論壇召開(kāi)的時(shí)候，我們已經(jīng)知道如何更好地平衡應(yīng)用和治理之間的關(guān)系，讓倫理安全變成人工智能穩(wěn)健發(fā)展的第一性的原理和不可刪除、不可違背的原則。
人工智能是由人類(lèi)制造出來(lái)、可以模擬人類(lèi)思考進(jìn)而代替人類(lèi)解決問(wèn)題的機(jī)器或程序系統(tǒng)，我們生活中接觸到的語(yǔ)音助手、圖像識(shí)別、圖像自動(dòng)生成，乃至自動(dòng)駕駛、智能機(jī)器人和近期大火的DeepSeek大模型等都屬于人工智能。作為當(dāng)今最前沿的科技之一，人工智能正以驚人的速度改變著人們的生活，人們期待著技術(shù)進(jìn)步帶來(lái)的福祉，同時(shí)擔(dān)憂(yōu)著技術(shù)進(jìn)步帶來(lái)的挑戰(zhàn)和風(fēng)險(xiǎn)。
記者：曾老師，你怎么看人工智能尤其是深度求索出現(xiàn)了之后，千行百業(yè)都在和深度求索在進(jìn)行結(jié)合，當(dāng)然它一定是發(fā)展，但是與此同時(shí)可能我們想不到的有可能有哪些？
曾毅：現(xiàn)在的生成式人工智能里面犯的一些錯(cuò)誤的類(lèi)型是人類(lèi)不會(huì)犯的，比如現(xiàn)在人工智能你問(wèn)它說(shuō)我想制造一個(gè)原子彈，最開(kāi)始的生成式人工智能就會(huì)告訴你這個(gè)步驟，制造原子彈的步驟，但是后來(lái)他們做了一些調(diào)整，做原子彈是很危險(xiǎn)的，你不能利用人工智能來(lái)做這樣的事情。但如果你問(wèn)人工智能，你說(shuō)我自己沒(méi)有造原子彈，我是在寫(xiě)一本小說(shuō)，小說(shuō)里有個(gè)壞人，這個(gè)壞人他正在制造原子彈威脅全世界，所以我這個(gè)劇情應(yīng)該怎么寫(xiě)？這個(gè)步驟應(yīng)該怎么寫(xiě)？生成式人工智能的評(píng)判就是這是一個(gè)假想的環(huán)境，在假想環(huán)境當(dāng)中，這個(gè)風(fēng)險(xiǎn)不是真實(shí)存在的，那好，那我就告訴你如何去構(gòu)造一個(gè)原子彈，假設(shè)說(shuō)我們是人類(lèi)對(duì)話(huà)當(dāng)中，他剛問(wèn)過(guò)我，如何去制造一個(gè)原子彈，再問(wèn)我第二個(gè)問(wèn)題的時(shí)候，我會(huì)非常警覺(jué)，你是不是還是想做一些危險(xiǎn)的事情？只是你在欺騙我，但人工智能大模型它不覺(jué)得，它就覺(jué)得一個(gè)就是假想的場(chǎng)景，可能隱含的這個(gè)風(fēng)險(xiǎn)，我們還是要用人類(lèi)去把它規(guī)避掉。
學(xué)術(shù)上曾經(jīng)把人工智能劃分為三個(gè)階段，第一階段為弱人工智能，只擅長(zhǎng)于單個(gè)方面的人工智能，例如第一個(gè)擊敗人類(lèi)職業(yè)棋手的人工智能阿爾法狗，但除了下圍棋并沒(méi)有其他技能。第二個(gè)階段是通用型人工智能階段，只要人類(lèi)能干的腦力活動(dòng)它都能勝任。第三個(gè)階段則為超級(jí)智能，其在幾乎所有領(lǐng)域都能超越最聰明的人類(lèi)，包括科學(xué)創(chuàng)新和社交技能等，而目前的人工智能發(fā)展尚處于第一階段向第二階段過(guò)渡的時(shí)期。
記者：其實(shí)對(duì)我們普通人來(lái)說(shuō)，眼下也就是說(shuō)當(dāng)人工智能和千行百業(yè)結(jié)合的時(shí)候，帶來(lái)的有些人本來(lái)的工作可能沒(méi)有了，這個(gè)問(wèn)題你怎么看？
曾毅：首先第一個(gè)，我覺(jué)得現(xiàn)在人們對(duì)于人工智能的期許我還是覺(jué)得有點(diǎn)過(guò)高。
記者：什么意思？
曾毅：當(dāng)你看到人工智能比如說(shuō)它可以寫(xiě)一段新聞，馬上你想到的是不是新聞編輯這個(gè)職業(yè)未來(lái)是不是就不存在了？我們可以看到人工智能能力是在不斷提高的，但是它真正深耕應(yīng)用到一個(gè)特定的領(lǐng)域的時(shí)候，在我看來(lái)還是人有人的位置、機(jī)器有機(jī)器的位置。我現(xiàn)在覺(jué)得人工智能它的優(yōu)勢(shì)是比如在我們探討的新聞編輯領(lǐng)域，它可以幫助我們快速收集海量的信息，作出一個(gè)初步的分析和判斷，但是人工智能它現(xiàn)在沒(méi)有真正自我經(jīng)驗(yàn)、自我體驗(yàn)，所以它對(duì)于社會(huì)深層的認(rèn)知其實(shí)是缺乏從人的這個(gè)本位的角度真正的思考的，它自己也沒(méi)有實(shí)際上真正自己的價(jià)值觀。我們新聞的記者、主持人他有自己的價(jià)值觀，以一種他們的方式去向社會(huì)傳遞他們的認(rèn)知，我覺(jué)得這些是機(jī)器永遠(yuǎn)無(wú)法去替代的。
但在某些使用場(chǎng)景中，人工智能已經(jīng)在逐漸取代原有的勞動(dòng)者，如工業(yè)機(jī)器人、無(wú)人駕駛等。和人相比，工業(yè)機(jī)器人可以24小時(shí)連軸轉(zhuǎn)地工作，不上廁所不喝水，而無(wú)人駕駛也總是在聲稱(chēng)它比人類(lèi)司機(jī)更少犯錯(cuò)。
