OpenAI 今天為開發者推出了批量處理API，開發者可以一次將大量內容提交過去然後在24 小時內獲得結果。推出這種非同步任務對OpenAI 來說也有好處，那就是可以在非高峰期時處理這些請求，這樣可以平衡伺服器資源節省成本，所以OpenAI 給這些非同步任務API 提供了半價優惠，開發者只需要支付50 % 的費用即可。

舉個例子，當存在大量的文本、摘要、翻譯或圖像需要進行分類整理時，就可以使用非同步任務，這些內容的分類整理對及時性要求並不高，開發者可以提交後等待OpenAI 給出結果再處理就好。

這樣對OpenAI 和開發者來說是雙贏，按照OpenAI API 文件的說明，除了開發者可以獲得半價折扣外，還可以獲得更高的速率，也就是可以在每分鐘內提交更多請求。

唯一要求是開發者需要透過JSONL 檔案格式進行傳輸，即將需要處理的所有請求放到一個JSONL 檔案裡，然後將這個檔案使用batch 參數上傳到伺服器即可。

OpenAI 已經在API 文件中羅列了詳細使用方法，包括建立批次、請求正文、檢索等，有需要的開發者可以前往OpenAI 查看呼叫範例：https://platform.openai.com/docs/api-reference /batch