圖:布羅克曼稱OpenAI正測試高版本GPT-4。\網絡圖片
據《金融時報》報道:火爆全球的ChatGPT開發商OpenAI日前發布升級版GPT-4,該公司總裁又披露,正在測試一個「記憶力」比現版本GPT-4強5倍的升級版本。
據TechCrunch網站15日報道,OpenAI總裁布羅克曼表示,公司正在測試GPT-4的升級版本,它的儲存能力是普通版本GPT-4的5倍。由於升級版GPT-4上下文窗口(context window)將大大擴展,它可以「記住」大約50頁的內容,所能容納的信息量是普通版本GPT-4的5倍,是前作GPT-3的8倍。
上下文窗口指的是模型在生成額外文本之前可以考慮的文本。普通版本GPT-4雖然能通過對數十億文本示例進行訓練來「學習」寫作,但它們一次只能考慮到文本其中的一小部分,這可能會讓模型「忘記」最近的對話內容,導致他們給出的回答偏離主題。有了更大的「記憶力」後,GPT-4將能夠相對連貫地交談數小時甚至數天,而不是只有幾分鐘,並且對話不會偏離最初的主題。
布羅克曼認為,擴展的上下文窗口會帶來以前從未探索過的用例。他設想了一款為公司打造的AI聊天機器人,它可以利用各部門員工的背景和知識,以一種內行且具有對話性的方式回答問題。