微軟Bing Chat開放後GPU增速追不上用戶增長
早些時候,微軟放出“爆炸性消息”,宣布基於聲稱是人工智能的BingChat,將免費向所有用戶開放,無需任何資格申請。近日,有用戶反饋,BingChat出現了響應等待時間過長的問題,目前微軟廣告和網絡服務負責人米哈伊爾·帕拉欣已經就此做出回應。
根據帕拉欣的回應,BingChat的響應延遲問題,是由於目前團隊增加GPU的速度,已經追不上用戶增加的速度,導致模型存在一定的算力不足問題。
同時,官方承諾,將盡快解決這一問題。
目前,微軟並未公佈BingChat的正常運行需要多少GPU,但根據調研機構TrendForce的報告,以NVIDIA A100的算力為標準的話,運行它將需要至少30000塊GPU。