/v1/responses) menyediakan eksekusi asinkron bawaan untuk komputasi berat, analisis dokumen tebal, atau tugas agentic yang memakan waktu lama menggunakan antarmuka resmi OpenAI SDK.
Inisialisasi Tugas Latar Belakang
Jalankan inferensi asinkron dengan menyetelbackground=True pada client.responses.create. Gateway akan langsung mengembalikan objek respons dengan status queued beserta id tugas tanpa memblokir koneksi HTTP.
Polling Status dan Pengambilan Hasil
Gunakanclient.responses.retrieve untuk memantau status eksekusi hingga mencapai kondisi terminal (completed, failed, atau cancelled).
Membatalkan Tugas yang Sedang Berjalan
Tugas yang masih berstatusqueued atau in_progress dapat dibatalkan sewaktu-waktu menggunakan client.responses.cancel.
Mendaftarkan Callback Webhook
Agar tidak perlu melakukan polling manual, daftarkan URL webhook melalui parameterwebhook di dalam extra_body. Neosantara akan mengirimkan HTTP POST otomatis saat tugas selesai.
Siklus Status Tugas Background
Payload Notifikasi Webhook
Ketika tugas mencapai kondisi terminal (completed atau failed), Neosantara mengirimkan request POST HTTP ke URL webhook: