我們?nèi)绾沃勒f(shuō)話和閱讀?這些基本問(wèn)題導(dǎo)致了麻省理工學(xué)院的新研究, 該研究使用AI模型來(lái)研究我們大腦如何以及為何理解語(yǔ)言。他們發(fā)現(xiàn),人的大腦可能就像智能手機(jī)自動(dòng)更正功能一樣工作。
發(fā)表在《美國(guó)國(guó)家科學(xué)院院刊》上的這項(xiàng)新研究顯示,這些人工智能語(yǔ)言模型的功能與人腦中的語(yǔ)言處理方法相似,表明人腦可能使用下一個(gè)詞的預(yù)測(cè)來(lái)驅(qū)動(dòng)語(yǔ)言處理。最近一代的人工智能語(yǔ)言模型被設(shè)計(jì)為預(yù)測(cè)文本中的下一個(gè)詞,就像iMessage上的自動(dòng)更正功能一樣,然而這一技術(shù)的觀察者們卻注意到了一些新的東西。這些模型似乎也在學(xué)習(xí)關(guān)于文本含義的東西,顯示出理解能力。
模型在預(yù)測(cè)下一個(gè)單詞方面做得越好,它就越符合人腦的情況。令人驚訝的是,這些模型如此契合,它非常間接地表明,也許人類的語(yǔ)言系統(tǒng)正在做的是預(yù)測(cè)接下來(lái)會(huì)發(fā)生什么。這個(gè)新的人工智能下一個(gè)單詞預(yù)測(cè)模型是深度神經(jīng)網(wǎng)絡(luò)的一部分,深度神經(jīng)網(wǎng)絡(luò)是人工智能模型的一個(gè)類別。在過(guò)去十年中,這些模型被用來(lái)重現(xiàn)大腦功能,即物體識(shí)別。神經(jīng)網(wǎng)絡(luò)的功能與人腦相似,因?yàn)樗撬缮⒌胤抡沾竽X的模式。它們由成千上萬(wàn)的處理節(jié)點(diǎn)組成,這些節(jié)點(diǎn)緊密相連,相互傳遞信息。
在這項(xiàng)新的研究中,麻省理工學(xué)院的一個(gè)研究小組分析了43種不同的語(yǔ)言模型,其中許多是為下一個(gè)單詞預(yù)測(cè)而優(yōu)化的。這些模型包括GPT-3(Generative Pre-trained Transformer 3),它可以在得到提示時(shí)生成真實(shí)的文本,或者其他旨在提供填空功能的模型。研究人員向每個(gè)模型展示了一串單詞,以測(cè)量其神經(jīng)結(jié)點(diǎn)的活動(dòng)。然后他們將這些模式與人腦的活動(dòng)進(jìn)行了比較。
該研究顯示,表現(xiàn)最好的下一個(gè)單詞預(yù)測(cè)模型的活動(dòng)模式與人腦的活動(dòng)模式最為相似。此外,這些模型的活動(dòng)也與人類的行為措施相關(guān),例如人們閱讀文本的速度。研究人員發(fā)現(xiàn)能夠很好地預(yù)測(cè)神經(jīng)反應(yīng)的模型也傾向于最好地預(yù)測(cè)人類行為反應(yīng)以及閱讀的形式。
網(wǎng)站首頁(yè) |網(wǎng)站簡(jiǎn)介 | 關(guān)于我們 | 廣告業(yè)務(wù) | 投稿信箱
Copyright © 2000-2020 www.sgycos.com All Rights Reserved.
中國(guó)網(wǎng)絡(luò)消費(fèi)網(wǎng) 版權(quán)所有 未經(jīng)書面授權(quán) 不得復(fù)制或建立鏡像
聯(lián)系郵箱:920 891 263@qq.com