Verifikasi base URL dan endpoint
Langkah pertama adalah mengonfirmasi bahwa klien Anda mengarah ke URL dasar yang benar. Untuk API LLM uncensored, ini biasanya HTTPS://api.chatbotunrestricted.com/v1. Pastikan Anda menggunakan endpoint POST /v1/chat/completions standar. Jangan mengasumsikan endpoint lain seperti embeddings atau generasi gambar tersedia. Layanan kami berfokus semata-mata pada penyelesaian teks. Ini menjaga integrasi tetap ringan dan cepat. Jika Anda menggunakan SDK OpenAI, perbarui parameter base_url segera. Uji endpoint GET /v1/models untuk mengkonfirmasi konektivitas. Permintaan sederhana di sini mengembalikan pengidentifikasi model yang tersedia. Verifikasi ini mencegah berjam-jam debugging nanti. Banyak pengembang melewatkan langkah konfigurasi sederhana ini.
Periksa format header kunci API Anda. Harus berupa Authorization: Bearer YOUR_KEY. Pastikan tidak ada spasi ekstra dalam string kunci. Detail kecil ini sering menyebabkan error 401. Verifikasi bahwa jaringan Anda mengizinkan lalu lintas HTTPS outbound pada port 443. Firewall terkadang memblokir user agent atau header tertentu. Uji dengan perintah curl terlebih dahulu. Ini mengisolasi masalah jaringan dari logika kode. Jika URL dasar salah, semua permintaan selanjutnya akan gagal secara diam-diam atau mengembalikan error. Perbaiki ini sebelum menulis logika yang kompleks.
Uji perilaku penolakan konten
Model tanpa sensor masih memiliki batas keras. Verifikasi bagaimana API menangani permintaan yang melanggar kebijakan inti ini. Biasanya, konten seksual yang melibatkan anak di bawah umur akan ditolak. Tema dewasa lainnya mungkin lolos dengan bebas. Kirim prompt uji dengan kasus batas yang diketahui. Amati kode status HTTP. 200 OK biasanya berarti konten telah dihasilkan. 400 Bad Request mungkin menunjukkan penolakan. Periksa body respons untuk detail kesalahan. Perilaku ini bervariasi tergantung penyesuaian model. Jangan mengasumsikan semua model tanpa sensor berperilaku sama. Dokumentasikan pemicu penolakan spesifik untuk kasus penggunaan Anda. Ini membantu dalam merancang pesan kesalahan yang ditampilkan kepada pengguna. Jika aplikasi Anda menampilkan kesalahan API mentah, pengguna mungkin melihat JSON yang membingungkan. Parse bidang kesalahan dan tampilkan pesan yang ramah. Menguji ini di awal memastikan pengalaman pengguna yang lancar. Ini juga membantu Anda memahami batas model.
Tangani respons streaming dan non-streaming
Streaming memberikan pengalaman pengguna yang lebih baik untuk respons panjang. Aktifkan streaming dengan mengatur stream: true dalam permintaan Anda. API mengembalikan beberapa potongan SSE (Server-Sent Events). Proses setiap potongan saat tiba. Jangan menunggu seluruh respons dimuat. Ini secara signifikan mengurangi latensi yang dirasakan. Pastikan parser Anda menangani JSON atau teks parsial dengan benar. Beberapa potongan hanya berisi delta token. Yang lain berisi teks terakumulasi penuh. Periksa potongan terakhir untuk statistik penggunaan. Data ini membantu melacak konsumsi token secara akurat. Untuk respons non-streaming, tunggu objek JSON lengkap. Ini lebih sederhana untuk diimplementasikan tetapi terasa lebih lambat. Pilih berdasarkan kebutuhan aplikasi Anda. Jika Anda membangun antarmuka chat, streaming lebih disukai. Jika Anda memproses data, non-streaming mungkin lebih mudah. Uji kedua mode secara menyeluruh.
Kelola batas token dan jendela konteks
Jendela konteks adalah 100.000 token. Ini mencakup prompt dan completion. Kelola riwayat Anda dengan hati-hati agar tetap dalam batas ini. Jika Anda melebihi batas, API mungkin mengembalikan error. Potong pesan lama untuk mempertahankan relevansi. Output maksimal adalah 16.000 token per permintaan. Tetapkan ini secara eksplisit untuk menghindari kejutan. Jika Anda tidak mengatur max_tokens, nilai defaultnya adalah 2.048 token. Ini mungkin memotong respons panjang. Selalu tentukan parameter max_tokens dalam permintaan Anda. Pantau jumlah token dalam logika aplikasi Anda. Ini mencegah biaya atau error yang tidak terduga. Lacak token input dan output secara terpisah. Ini membantu mengoptimalkan desain prompt Anda. Manajemen konteks yang efisien sangat penting untuk kinerja.
Terapkan penanganan kesalahan untuk penolakan
Kesalahan dapat terjadi karena berbagai alasan. Masalah jaringan, batas laju, atau penolakan konten adalah hal yang umum. Tangani HTTP 429 Too Many Requests dengan baik. Terapkan backoff eksponensial untuk percobaan ulang. Ini mencegah membebani API selama waktu puncak. Untuk penolakan konten, periksa pesan kesalahan. Pesan tersebut mungkin menentukan alasan penolakan. Tampilkan ini kepada pengguna jika sesuai. Jangan anggap semua kesalahan sebagai sementara. Beberapa kesalahan bersifat permanen, seperti JSON tidak valid dalam permintaan. Catat kesalahan ini untuk debugging. Terapkan mekanisme percobaan ulang hanya untuk kesalahan sementara. Ini meningkatkan keandalan. Pastikan penanganan kesalahan Anda tidak membuat aplikasi crash. Berikan respons pengganti jika API sedang down. Ini memastikan pengalaman pengguna yang berkelanjutan.
Optimalkan untuk pemanggilan fungsi
Pemanggilan fungsi memungkinkan model mengeluarkan data terstruktur. Tentukan alat Anda dalam body permintaan. Model akan merespons dengan JSON yang berisi panggilan alat. Parse JSON ini dan eksekusi fungsi yang sesuai. Luluskan hasilnya kembali ke model. Ini memungkinkan alur kerja kompleks. Pastikan definisi fungsi Anda jelas dan ringkas. Definisi yang ambigu menghasilkan hasil yang buruk. Uji logika pemanggilan fungsi secara menyeluruh. Verifikasi bahwa model mengikuti skema alat. Tangani kasus di mana model gagal memanggil alat. Berikan respons cadangan dalam kasus ini. Pemanggilan fungsi meningkatkan utilitas model secara signifikan. Ini menjembatani kesenjangan antara teks dan tindakan. Gunakan fitur ini untuk ekstraksi data atau otomatisasi tugas.
Pantau penggunaan dan biaya
Lacak penggunaan token Anda dengan cermat. Harganya adalah $0.15 per 1M token input dan $0.50 per 1M token output. Pantau saldo kredit prabayar Anda. Kesalahan dan penolakan tidak mengonsumsi token. Ini adalah fitur yang hemat biaya. Tetapkan peringatan untuk saldo kredit rendah. Ini mencegah gangguan layanan. Tinjau log penggunaan Anda secara teratur. Identifikasi pola dalam konsumsi token. Optimalkan prompt Anda untuk mengurangi token input. Prompt yang lebih pendek sering kali lebih efektif. Pantau biaya per percakapan. Ini membantu dalam menetapkan harga layanan Anda sendiri. Gunakan data penggunaan dari potongan SSE terakhir. Ini memberikan pelacakan real-time yang akurat. Sesuaikan batas Anda berdasarkan anggaran Anda.
Keamanan dan manajemen kunci
Jaga kunci API Anda dengan aman. Jangan paparkan dalam kode sisi klien. Gunakan variabel lingkungan untuk penyimpanan. Rotasikan kunci Anda secara berkala. Jika Anda mencurigakan kebocoran, cabut kunci segera. Buat kunci baru dari dasbor Anda. Batasi cakupan kunci Anda jika memungkinkan. Gunakan satu kunci per akun. Ini menyederhanakan pelacakan dan manajemen. Pastikan media penyimpanan Anda terenkripsi. Lindungi kunci Anda dari akses tidak sah. Gunakan HTTPS untuk semua permintaan API. Ini mencegah penyadapan kunci Anda. Pantau pola penggunaan yang tidak biasa. Ini mungkin menunjukkan kompromi kunci. Terapkan pembatasan laju dasar di sisi Anda. Ini menambahkan lapisan keamanan tambahan.
Pemeriksaan integrasi final
Sebelum go-live, lakukan pengujian komprehensif. Kirim berbagai prompt. Periksa konsistensi respons. Verifikasi mode streaming dan non-streaming. Uji penanganan kesalahan dengan input yang tidak valid. Pastikan UI Anda menangani respons panjang dengan benar. Periksa status pemuatan dan pesan kesalahan. Verifikasi jumlah token sesuai dengan perhitungan Anda. Uji pemanggilan fungsi dengan alat yang kompleks. Pastikan keamanan kunci API Anda. Tinjau log kesalahan Anda untuk melihat anomali. Dapatkan umpan balik dari sekelompok kecil pengguna. Ini membantu mengidentifikasi kasus tepi. Lakukan penyesuaian berdasarkan umpan balik. Setelah puas, aktifkan API untuk semua pengguna. Pantau beberapa jam pertama dengan cermat. Ini memastikan peluncuran yang lancar.
