Facebook將其Blender聊天機器人作為開源項目發布
由於Facebook今天早上發布了一個令人驚訝的栩栩如生的聊天機器人,它被稱為Blender,作為人工智能研究的開源資源,Facebook很快就會變得更加靈活。幾年來,Facebook一直在為其自然語言處理技術傾注資金和資源,這些努力似乎得到了回報。
該公司聲稱,Blender是迄今為止創建的最大的單一開源聊天機器人。它已經在高達94億個參數上進行了訓練,幾乎是谷歌的Meena的4倍,是之前互聯網上最大的OS聊天機器人的10倍以上。
Facebook該團隊設計出一種方法,將正在訓練的神經網絡各方面進行孤島化,並在多個設備上並行工作,同時保持網絡的整體效率,並且專注於三種特定行為,同理心、個性和知識的表現能力,以進一步使Blender的反應更加人性化。但與其說Blender能產生這三種行為,不如說它能隨著對話的進行在這三種行為之間無縫切換,這要歸功於它獨特的Blended Skill Talk功能。
Facebook該團隊第一次真正表明,可以將所有這些方面的對話無縫融合在一起,同時在這些漂亮的對話技能數據集上進行微調的模型比沒有微調的模型更有吸引力,並且更人性化,更有生命力。這意味著,Blender在情感上足夠聰明,如果你告訴它你剛在工作中升職,它就會向你表示祝賀,而當你透露你的狗剛剛去世時,它也會表示慰問,在被問及某一個特定的話題時,它能給出更多的粗略的回答。例如,如果你問谷歌助手關於Led Zeppelin樂隊,它通常會從樂隊的維基百科頁面上讀出前兩句。所以,Facebook該團隊設計了一個數據集,打算超越這種表面上的閒聊,更深入地去了解一個主題,並在這些模型中植入更多關於世界的知識。
研究團隊首先使用維基百科嚮導系統對Blender進行了預訓練,向聊天機器人傳授了廣泛的通用知識庫,然後用數據對其進行了微調,特別是通過讓兩個人類就某一特定主題進行對話來收集數據,有助於將機器人的語音模式規範化,使其聽起來更像一個自然的回答,而不是機器人對著你讀百科全書條目。