8月22日，在2024世界機(jī)器人大會(huì)期間，北京具身智能機(jī)器人創(chuàng)新中心首發(fā)了具身智能服務(wù)機(jī)器人“天軼”。值得關(guān)注的是，“天軼”搭載了具身智能情感大模型，其中的情感模型源于北京大學(xué)計(jì)算機(jī)學(xué)院情感與認(rèn)知智能機(jī)器人實(shí)驗(yàn)室主任王韜研究員帶隊(duì)研發(fā)的情感與認(rèn)知技術(shù)，也就是說(shuō)，“天軼”可以對(duì)人類情感進(jìn)行反應(yīng)。
據(jù)了解，人形機(jī)器人是具身智能機(jī)器人的一種。未來(lái)是否能將情感模塊賦予更多人形機(jī)器人？一旦人形機(jī)器人擁有了與人類相似的情感，是否需要探討其倫理邊界？針對(duì)這些問(wèn)題，新京報(bào)記者對(duì)王韜進(jìn)行了專訪。
北京大學(xué)計(jì)算機(jī)學(xué)院情感與認(rèn)知智能機(jī)器人實(shí)驗(yàn)室主任王韜。受訪者供圖
通過(guò)建模驅(qū)動(dòng)機(jī)器人“學(xué)習(xí)”情感
新京報(bào)：“天軼”機(jī)器人搭載了具身智能情感大模型，這讓機(jī)器人實(shí)現(xiàn)了什么功能？
王韜：北京大學(xué)計(jì)算機(jī)學(xué)院情感與認(rèn)知智能實(shí)驗(yàn)室成立于2017年，一直研究如何讓機(jī)器人更具有情感能力、交互能力，讓它通過(guò)認(rèn)知環(huán)境，更重要的是認(rèn)知人，成為跟人打交道的機(jī)器人。以后的人形機(jī)器人不僅是在工廠“上班”，更多的應(yīng)該是和人打交道。
因此，這種類型的機(jī)器人一定要能讀懂人的心理或者心情，讀懂人的喜怒哀樂(lè)，還要能感知人們更加細(xì)微和豐富的情感與認(rèn)知狀態(tài)。這是我們實(shí)驗(yàn)室一直在研究的方向，我們稱其為情感計(jì)算，我們也陸續(xù)在一些國(guó)際優(yōu)秀會(huì)議和期刊上發(fā)表了相關(guān)文章，在智能機(jī)器人上實(shí)現(xiàn)了許多實(shí)際相關(guān)應(yīng)用，也取得了國(guó)際上的一些關(guān)注與認(rèn)可。
機(jī)器人的情感計(jì)算有很多重要應(yīng)用場(chǎng)景。例如，搭載了情感計(jì)算模型的機(jī)器人如果陪伴我們?nèi)ナ袌?chǎng)買菜，它可以捕捉到我們的表情和注意目標(biāo)，分析出我們更喜歡哪種蔬菜；它也可以在家陪伴老人，如果發(fā)現(xiàn)老人悶悶不樂(lè)，它會(huì)做出一些正確的應(yīng)對(duì)反應(yīng)，排解老人不快的情緒。此外，還可以監(jiān)控人的心率變化等生理指標(biāo)，可以用作某些特殊情景的判定，甚至還可以用作健康監(jiān)控。
今年6月起，我們與北京具身智能機(jī)器人創(chuàng)新中心合作，成立情感智能應(yīng)用聯(lián)合實(shí)驗(yàn)室，已使“天軼”具有情感交互能力，讓它能更好地服務(wù)人。
現(xiàn)在我們看到的大多是冷冰冰的機(jī)器人，未來(lái)我們希望不僅有“天軼”，還有更多的情感機(jī)器人，它們會(huì)像人一樣擁有比較細(xì)膩的情感識(shí)別與反應(yīng)能力。
新京報(bào)：工業(yè)機(jī)器人需要不斷學(xué)習(xí)掌握各種工作技能，讓機(jī)器人擁有情感也需要學(xué)習(xí)嗎？
王韜：機(jī)器人一定要學(xué)習(xí)，但是這種學(xué)習(xí)跟我們現(xiàn)在看到的機(jī)器人學(xué)習(xí)抓取物品不太一樣，它需要特殊的學(xué)習(xí)方法，我們需要在機(jī)器人的“大腦”里建模，不能僅僅對(duì)機(jī)器人進(jìn)行數(shù)據(jù)驅(qū)動(dòng)，更好地建模，使其能夠更好地理解和學(xué)習(xí)是必要的。
機(jī)器人的情感訓(xùn)練在這方面的問(wèn)題更加突出，因?yàn)槿说那楦蟹浅?fù)雜，也不存在大規(guī)模的具有全面情感標(biāo)注的數(shù)據(jù)集，所以我們才要不斷推進(jìn)這一領(lǐng)域的研究。
對(duì)情感機(jī)器人來(lái)說(shuō)，設(shè)計(jì)者的倫理道德十分重要
新京報(bào)：如果將人形機(jī)器人賦予情感功能的話，是否需要探討其倫理邊界？
王韜：首先，我們要明確情感分成三個(gè)方面，第一個(gè)是例如那些長(zhǎng)得非常像人的機(jī)器人，它們是能夠表達(dá)情感的機(jī)器人，現(xiàn)在很多機(jī)器人在這方面做得很好；第二個(gè)是機(jī)器人對(duì)人的情感識(shí)別，它能知道“眼前”的人是什么情感，比如悲傷、生氣、高興、沮喪等；第三個(gè)是機(jī)器人的“情商”，比如說(shuō)它識(shí)別出來(lái)這個(gè)人心情不好，那么它應(yīng)該怎么應(yīng)對(duì)才能讓這個(gè)人心情變好。
在上述三個(gè)方面中，機(jī)器人的情感識(shí)別和“情商”非常難，但是我們一直在研究這一領(lǐng)域，希望在今年年底或者明年年初能夠有所突破。
其次我們討論倫理邊界。當(dāng)機(jī)器人能夠識(shí)別人類情感的時(shí)候，它可以做出自己的反應(yīng)，比如發(fā)現(xiàn)一個(gè)人心情不好時(shí)，機(jī)器人是表現(xiàn)出關(guān)懷還是說(shuō)教，或者其他的方式，這就涉及機(jī)器人設(shè)計(jì)者的倫理。
我一直認(rèn)為，機(jī)器人的倫理不是機(jī)器人本身的倫理，而是設(shè)計(jì)者、數(shù)據(jù)工程師、設(shè)計(jì)架構(gòu)人員等人的倫理。這跟我們教育孩子是一樣的，家長(zhǎng)的思想、倫理影響孩子的成長(zhǎng)。
對(duì)機(jī)器人來(lái)講，即使到了通用人工智能階段，設(shè)計(jì)者的倫理也很重要，對(duì)于情感機(jī)器人尤其重要，這體現(xiàn)了設(shè)計(jì)者的水平，也體現(xiàn)了設(shè)計(jì)者的倫理道德。
新京報(bào)：人類對(duì)于情感機(jī)器人是不是同樣需要倫理邊界？
王韜：這是相互的影響。情感機(jī)器人對(duì)人類的情感產(chǎn)生反應(yīng)，這個(gè)時(shí)候我們就需要注意了，盡管情感機(jī)器人能夠讀懂人的情感并用情商進(jìn)行反應(yīng)，但就目前而言，機(jī)器人還不存在像人類一樣的“內(nèi)心情感”。
所以我們需要關(guān)注一個(gè)問(wèn)題——機(jī)器人的情感模型，尤其是神經(jīng)網(wǎng)絡(luò)模型，往往并不完全清楚模型內(nèi)部發(fā)生了什么，而更多是看到普通情況下模型對(duì)外的表現(xiàn)形式，那么機(jī)器人有沒(méi)有可能在模型內(nèi)部產(chǎn)生一種不好的反應(yīng)呢？這是需要我們特別關(guān)注的問(wèn)題。這又回到了剛才的話題，也就是設(shè)計(jì)者的倫理和技術(shù)水平。所以至少?gòu)哪壳皝?lái)看，設(shè)計(jì)者是非常重要的。
新京報(bào)：人形機(jī)器人對(duì)人工智能倫理會(huì)帶來(lái)哪些挑戰(zhàn)？如何應(yīng)對(duì)？
王韜：人形機(jī)器人是人工智能的一個(gè)載體，人工智能的挑戰(zhàn)和倫理就是人形機(jī)器人的挑戰(zhàn)和倫理。當(dāng)然，如果有一天人形機(jī)器人的外形真的與真人外形無(wú)限接近，甚至產(chǎn)生了混淆的時(shí)候，那么將會(huì)產(chǎn)生一些新的倫理挑戰(zhàn)。
若有志于機(jī)器人全面擬人化，研發(fā)人員仍需探索
新京報(bào)：在這次機(jī)器人大會(huì)上，我們看到很多以真人為原型的機(jī)器人。人形機(jī)器人需要逼真的擬人化嗎？
王韜：機(jī)器人可以分成兩類，第一類是不怎么和人打交道的機(jī)器人，例如工業(yè)機(jī)器人。從科技發(fā)展角度來(lái)講，工業(yè)機(jī)器人不一定都是人形機(jī)器人。第二類是與人打交道的機(jī)器人，我認(rèn)為最好還是人形。
這其中有兩個(gè)原因，一方面是人類天然地對(duì)人形的產(chǎn)物溝通效率更高，另一方面，機(jī)器人要跟人一起生活或服務(wù)于人，并且要在人的環(huán)境中進(jìn)行交互，如果它不太像人的話，可能很難適應(yīng)這個(gè)環(huán)境。
對(duì)于是否需要逼真擬人化，人形機(jī)器人設(shè)計(jì)成什么樣的外貌，說(shuō)到底還是設(shè)計(jì)者的問(wèn)題。有位科學(xué)家提出了恐怖谷效應(yīng)，提出機(jī)器人長(zhǎng)到與人接近的時(shí)候，是很恐怖的，但是如果一旦突破了邊界，機(jī)器人將不再恐怖。從現(xiàn)階段以真人為原型的人形機(jī)器人的外觀來(lái)看，還沒(méi)有突破恐怖谷效應(yīng)，所以有志于機(jī)器人全面擬人化的研發(fā)人員還需要不斷探索。就我個(gè)人而言，我還是喜歡長(zhǎng)得像科幻電影或者動(dòng)畫(huà)片里那些可愛(ài)機(jī)器人的樣子，事實(shí)上“天軼”機(jī)器人就沒(méi)有逼真擬人化。
新京報(bào)記者 吳婷婷
編輯 白爽 校對(duì) 楊許麗
