AI(人工智能)近年發展非常迅速,當中,NLP(Natural Language Processing,自然語言處理)水平越來越高,是AI進步的其中一個要素。最近Google宣布,旗下Google Brain團隊在AI的NLP取得突破,讓AI的NLP超越人類!究竟他們取得什麼突破?拾捌堂立即帶讀者大開眼界!
Google Brain研究科學家Thang Luong早前於Twitter上表示,成功利用基於Google的機器學習模型Transformer,建立了新的語言辨析模型BERT(Bidirectional Encoder Representation from Transformers,雙向編碼器)。而採用了BERT的Google AI,更在機器閱讀理解頂級水平測試SQuAD1.1中,所有衡量指標皆超越人類平均,並且在另外10種不同的NLP測試中,全部打破原來的記錄!
在代表精確匹配的EM分數上,BERT達到了87.433分;在代表精準度的F1項目上,BERT更取得高達96.16的高分!相比之下,人類在以上兩項指標的得分,分別是82.304,以及91.221。而BERT亦在其餘十個NLP測試,包括GLUE(General Language Understanding Evaluation)、MNLI(Multi-GenreNLICorpus)、QQP、QNLI、SST-2、CoLA、STS-B、MRPC、RTE、WNLI全部超越原來記錄。其中,BERT亦將GLUE benchmark的基準提高了7.6%至80.4 %;而BERT在MNLI測試的準確度亦提高了5.6%,準確度達86.7%!
BERT可通過根據前後單詞的意思來閱讀和分析句子,能理解文章的前文後意,豐富了AI系統內的語言模型。在NLP模型中達成雙向的上下文檢索的語義表達並不容易,但BERT使用了兩個不同的非監督預測任務(Unsupervised forecasting task),兩者能夠互相檢索,產生互通,因此就能解決這個難題,全面理解用字相似,但又有不同意思的字詞,在整片文章之間的關係。
NLP的用途廣泛,ChatBox就是其中一種最常見的NLP應用。想知NLP適用於什麼行業?立即按這裡了解如何使用NLP吧!
三大編輯精選:
Chatbot 如何替品牌解決客戶服務問題? 3分鐘讓你看明白!