DSPy

DSPy (Declarative Self-improving Python) adalah framework pemrograman model bahasa yang menggantikan rekayasa prompt manual dengan modul deklaratif dan optimizer algoritmik. Anda mendefinisikan Signature input/output terstruktur dan merangkai alur kerja menggunakan modul seperti Predict, ChainOfThought, atau ReAct. DSPy mengoptimalkan demonstrasi few-shot dan instruksi prompt secara otomatis berdasarkan metrik evaluasi.

Pengaturan

Instal library DSPy:

pip install -U dspy

export NEOSANTARA_API_KEY="nsk_your_api_key_here"

NEOSANTARA_API_KEY=nsk_your_api_key_here

$env:NEOSANTARA_API_KEY="nsk_your_api_key_here"

Konfigurasi Client

Inisialisasi model bahasa menggunakan kelas dspy.LM dengan prefix neosantara/<model>.

import os
import dspy

lm = dspy.LM(
    "neosantara/deepseek-v4.1-flash",
    api_key=os.environ["NEOSANTARA_API_KEY"]
)

dspy.configure(lm=lm)

Modul Dasar: Predict dan ChainOfThought

import os
import dspy

lm = dspy.LM(
    "neosantara/gemini-3.8-flash",
    api_key=os.environ["NEOSANTARA_API_KEY"]
)
dspy.configure(lm=lm)

class BasicQA(dspy.Signature):
    """Jawab pertanyaan teknis secara ringkas."""
    question = dspy.InputField(desc="Pertanyaan pengguna")
    answer = dspy.OutputField(desc="Jawaban ringkas dalam 1-2 kalimat")

qa = dspy.Predict(BasicQA)
response = qa(question="Apa perbedaan utama antara token input dan token output pada LLM gateway?")

print(response.answer)

import os
import dspy

lm = dspy.LM(
    "neosantara/deepseek-v4.1-flash",
    api_key=os.environ["NEOSANTARA_API_KEY"]
)
dspy.configure(lm=lm)

class MathProblem(dspy.Signature):
    """Pecahkan soal matematika dengan langkah terstruktur."""
    problem = dspy.InputField()
    solution = dspy.OutputField()

cot = dspy.ChainOfThought(MathProblem)
result = cot(problem="Sebuah server memproses 120 request per detik. Tiap request membutuhkan 400 token input. Berapa token input per menit yang diterima server?")

print(result.solution)

ReAct Agent dengan Tools

Gunakan dspy.ReAct untuk membuat agent yang dapat memanggil tool Python eksternal sebelum memberikan jawaban akhir.

import os
import dspy

lm = dspy.LM(
    "openai/deepseek-v4.1-flash",
    api_key=os.environ["NEOSANTARA_API_KEY"],
    api_base="https://api.neosantara.xyz/v1"
)
dspy.configure(lm=lm)

def kalkulator_pajak(penghasilan_tahunan: float) -> str:
    """Hitung perkiraan PPh 21 sederhana untuk penghasilan tahunan."""
    if penghasilan_tahunan <= 60_000_000:
        pajak = penghasilan_tahunan * 0.05
    else:
        pajak = 3_000_000 + (penghasilan_tahunan - 60_000_000) * 0.15
    return f"Rp {pajak:,.0f}"

react = dspy.ReAct(
    "pertanyaan: str -> jawaban: str",
    tools=[kalkulator_pajak]
)

pred = react(pertanyaan="Berapa perkiraan pajak tahunan untuk penghasilan Rp 100.000.000?")
print(pred.jawaban)

Langkah Berikutnya

Topik terkait

Chat Completions Katalog Model CrewAI Ringkasan Integrasi

⌘I

Framework

Alat & Widget

Pengaturan

Konfigurasi Client

Modul Dasar: Predict dan ChainOfThought

ReAct Agent dengan Tools

Langkah Berikutnya

​Pengaturan

​Konfigurasi Client

​Modul Dasar: Predict dan ChainOfThought

​ReAct Agent dengan Tools

​Langkah Berikutnya

Pengaturan

Konfigurasi Client

Modul Dasar: Predict dan ChainOfThought

ReAct Agent dengan Tools

Langkah Berikutnya