/v1/responses) mengeliminasi kebutuhan mengirim ulang seluruh riwayat pesan percakapan di setiap putaran interaksi. Dengan mengaktifkan store=True pada OpenAI SDK, Neosantara menyimpan state percakapan di gateway dan memungkinkan kelanjutan instan melalui previous_response_id.
Alur Percakapan Multi-Turn
Kirimkan pesan pertama dengan parameterstore=True. Pada putaran berikutnya, sertakan previous_response_id yang merujuk ke ID respons sebelumnya. Gateway akan menggabungkan konteks secara otomatis.
Inspeksi State Percakapan
Anda dapat memverifikasi atau mengambil kembali metadata dan rincian penggunaan token dari respons yang tersimpan kapan saja menggunakanclient.responses.retrieve.
Keuntungan State Server-Side
- Hemat Bandwidth Jaringan: Klien tidak perlu mengirim balik ribuan token riwayat pesan chat yang terus bertambah.
- Konsistensi Konteks: Gateway mengelola rantai percakapan secara aman pada lapisan cache berkecepatan tinggi.
- Ringan untuk Klien: Sangat ideal untuk aplikasi mobile, bot Telegram/WhatsApp, dan asisten suara yang sensitif terhadap ukuran payload request.