Skip to main content
Responses API (/v1/responses) mengeliminasi kebutuhan mengirim ulang seluruh riwayat pesan percakapan di setiap putaran interaksi. Dengan mengaktifkan store=True pada OpenAI SDK, Neosantara menyimpan state percakapan di gateway dan memungkinkan kelanjutan instan melalui previous_response_id.

Alur Percakapan Multi-Turn

Kirimkan pesan pertama dengan parameter store=True. Pada putaran berikutnya, sertakan previous_response_id yang merujuk ke ID respons sebelumnya. Gateway akan menggabungkan konteks secara otomatis.

Inspeksi State Percakapan

Anda dapat memverifikasi atau mengambil kembali metadata dan rincian penggunaan token dari respons yang tersimpan kapan saja menggunakan client.responses.retrieve.

Keuntungan State Server-Side

  • Hemat Bandwidth Jaringan: Klien tidak perlu mengirim balik ribuan token riwayat pesan chat yang terus bertambah.
  • Konsistensi Konteks: Gateway mengelola rantai percakapan secara aman pada lapisan cache berkecepatan tinggi.
  • Ringan untuk Klien: Sangat ideal untuk aplikasi mobile, bot Telegram/WhatsApp, dan asisten suara yang sensitif terhadap ukuran payload request.

Langkah Selanjutnya