Temel URL ve uç noktaları doğrulayın
İlk adım, istemcinizin doğru temel URL'yi işaret ettiğini onaylamaktır. Bir uncensored LLM API'si için bu genellikle HTTPS://api.chatbotunrestricted.com/v1'dir. Standart POST /v1/chat/completions uç noktasını kullandığınızdan emin olun. Gömme (embeddings) veya görüntü oluşturma gibi diğer uç noktaların mevcut olduğunu varsaymayın. Hizmetimiz yalnızca metin tamamlamaya odaklanır. Bu, entegrasyonu hafif ve hızlı tutar. OpenAI SDK'sını kullanıyorsanız, base_url parametresini hemen güncelleyin. Bağlantıyı doğrulamak için GET /v1/models uç noktasını test edin. Bu basit istek mevcut model tanımlayıcılarını döndürür. Bu doğrulama, saatlerce hata ayıklamayı önler. Çoğu geliştirici bu basit yapılandırma adımını kaçırır.
API anahtarınızın başlık formatını kontrol edin. Authorization: Bearer YOUR_KEY olmalıdır. Anahtar dizgisinde ekstra boşluk olmadığından emin olun. Bu küçük ayrıntı genellikle 401 hatalarına neden olur. Ağınızın 443 portunda dışa yönelik HTTPS trafiğine izin verdiğinden emin olun. Güvenlik duvarları bazen belirli kullanıcı ajanlarını veya başlıkları engeller. Önce bir curl komutuyla test edin. Bu, ağ sorunlarını kod mantığından izole eder. Temel URL yanlışsa, tüm sonraki istekler sessizce başarısız olabilir veya hata döndürebilir. Karmaşık mantık yazmadan önce bunu düzeltin.
İçerik reddetme davranışını test edin
Uncensored modellerler hala katı sınırlamalara sahiptir. API'nin bu temel politikaları ihlal eden istekleri nasıl işlediğini doğrulayın. Tipik olarak, küçük yaşlılarla ilgili cinsel içerik reddedilir. Diğer olgun temalar serbestçe geçebilir. Bilinen bir sınır durumu içeren bir test prompt'u gönderin. HTTP durum kodunu gözlemleyin. 200 OK genellikle içeriğin oluşturulduğunu gösterir. 400 Bad Request bir reddetme gösterebilir. Yanıt gövdesindeki hata ayrıntılarını kontrol edin. Bu davranış model ayarlamasına göre değişir. Tüm uncensored modellerlerin aynı şekilde davrandığını varsaymayın. Kullanım durumunuz için spesifik reddetme tetikleyicilerini belgeleyin. Bu, kullanıcı arayüzü hata mesajları tasarlamaya yardımcı olur. Uygulamanız ham API hatalarını gösteriyorsa, kullanıcılar kafa karıştırıcı JSON görebilir. Hata alanını ayrıştırın ve dostça bir mesaj görüntüleyin. Bunu erken test etmek, sorunsuz bir kullanıcı deneyimi sağlar. Ayrıca modelin sınırlarını anlamanıza da yardımcı olur.
Akışlı ve akışsız yanıtları yönetin
Akış, uzun yanıtlar için daha iyi bir kullanıcı deneyimi sağlar. Akışı etkinleştirmek için isteğinizde stream: true ayarını yapın. API, birden fazla SSE (Sunucu Tarafı Olayları) parçası döndürür. Her parçayı geldiği gibi işleyin. Yanıtın tamamının yüklenmesini beklemeyin. Bu, algılanan gecikmeyi önemli ölçüde azaltır. Ayrıştırıcınızın kısmi JSON veya metni doğru şekilde işlediğinden emin olun. Bazı parçalar yalnızca belirteç farkları içerir. Diğerleri birikmiş tam metni içerir. Kullanım istatistikleri için son parçayı kontrol edin. Bu veri, belirteç tüketimini doğru bir şekilde izlemenize yardımcı olur. Akış olmayan yanıtlar için tam JSON nesnesini bekleyin. Bu, uygulamak daha basittir ancak daha yavaş görünür. Uygulamanızın ihtiyaçlarına göre seçin. Bir sohbet arayüzü oluşturuyorsanız akış tercih edilir. Veri işliyorsanız, akış olmayan daha kolay olabilir. Her iki modu da kapsamlı bir şekilde test edin.
Token sınırlarını ve bağlam pencerelerini yönetin
Bağlam penceresi 100.000 token'dır. Bu, hem prompt hem de completion'u içerir. Geçmişinizi bu sınırı aşmayacak şekilde dikkatlice yönetin. Sınırı aşarsanız API hata döndürebilir. İlginliği korumak için eski mesajları kısaltın. Maksimum çıktı, istek başına 16.000 token'dır. Sürprizleri önlemek için bunu açıkça ayarlayın. max_tokens'ı ayarlamazsanız varsayılan 2.048 token'dır. Bu, uzun yanıtları kesintiye uğratabilir. İsteklerinizde her zaman max_tokens parametresini tanımlayın. Uygulama mantığınızda token sayısını izleyin. Bu, beklenmedik maliyetleri veya hataları önler. Girdi ve çıktı tokenlarını ayrı ayrı takip edin. Bu, prompt tasarımınızı optimize etmeye yardımcı olur. Verimli bağlam yönetimi performans için kritiktir.
Reddler için hata yönetimi uygulayın
Hatalar çeşitli nedenlerle oluşabilir. Ağ sorunları, hız sınırları veya içerik reddi yaygundur. HTTP 429 Too Many Requests'ı zarifçe ele alın. Yeniden denemeler için üstel geri çekilme uygulayın. Bu, yoğun zamanlarda API'yi aşırı yüklemeyi önler. İçerik reddi için hata mesajını kontrol edin. Red nedeni belirtiyor olabilir. Uygunsa bunu kullanıcıya gösterin. Tüm hatalı geçici olarak ele almayın. Bazı hatalar kalıcıdır, örneğin istekteki geçersiz JSON. Hata ayıklama için bu hataları günlüğe kaydedin. Yalnızca geçici hatalar için bir yeniden deneme mekanizması uygulayın. Bu güvenilirliği artırır. Hata işlemenizin uygulamayı çökertmediğinden emin olun. API kapalıysa yedek yanıtlar sağlayın. Bu, kesintisiz bir kullanıcı deneyimi sağlar.
İşlev çağrısı için optimize edin
Fonksiyon çağırma, modelin yapılandırılmış veri çıkarmasına olanak tanır. Araçlarınızı istek gövdesinde tanımlayın. Model, araç çağrıları içeren JSON ile yanıt verecektir. Bu JSON'u ayrıştırın ve ilgili fonksiyonları yürütün. Sonuçları modele geri iletin. Bu, karmaşık iş akışlarını mümkün kılar. Fonksiyon tanımlarınızın açık ve öz olduğundan emin olun. Belirsiz tanımlar kötü sonuçlara yol açar. Fonksiyon çağırma mantığını kapsamlı şekilde test edin. Modelin araç şemasına uyduğunu doğrulayın. Modelin bir aracı çağıramadığı durumları işleyin. Bu durumlarda bir yedek yanıt sağlayın. Fonksiyon çağırma, modelin kullanım değerini önemli ölçüde artırır. Metin ile eylem arasındaki boşluğu doldurur. Bu özelliği veri çıkarma veya görev otomasyonu için kullanın.
Kullanım ve maliyetleri izleyin
Token kullanımunu yakından takip edin. Fiyatlandırma girdi tokenları başına 1M başına $0.15 ve çıktı tokenları başına 1M başına $0.50'dir. Ön ödemeli kredi bakiyenizi izleyin. Hatalar ve reddedilenler token tüketmez. Bu maliyet-etkin bir özelliktir. Düşük kredi bakiyeleri için uyarı kurun. Bu, hizmet kesintilerini önler. Kullanım günlüklerinizi düzenli olarak gözden geçirin. Token tüketimindeki kalıpları belirleyin. Girdi tokenlarını azaltmak için ipuçlarınızı optimize edin. Kısa ipuçları genellikle daha etkilidir. Sohbet başına maliyeti izleyin. Bu, kendi hizmetlerinizin fiyatlandırılmasına yardımcı olur. Son SSE parçasından gelen kullanım verilerini kullanın. Bu, doğru gerçek zamanlı takibi sağlar. Limitlerinizi bütçenize göre ayarlayın.
Güvenlik ve anahtar yönetimi
API anahtarınızı güvende tutun. İstemci tarafı kodunda açığa çıkarmayın. Saklama için ortam değişkenleri kullanın. Anahtarınızı periyodik olarak yenileyin. Sızıntıdan şüphelenirseniz anahtarı hemen iptal edin. Anahtarınızı panonuzdan yeni bir anahtar oluşturun. Mümkünse anahtarınızın kapsamını sınırlayın. Hesap başına tek bir anahtar kullanın. Bu, izlemeyi ve yönetmeyi kolaylaştırır. Saklama ortamınızın şifreli olduğundan emin olun. Anahtarınızı yetkisiz erişime karşı koruyun. Tüm API istekleri için HTTPS kullanın. Bu, anahtarınızın yakalanmasını önler. Olağandışı kullanım desenlerini izleyin. Bu, anahtarın ele geçirildiğini gösterebilir. Tarafınızda temel hız sınırlaması uygulayın. Bu, ek bir güvenlik katmanı sağlar.
Son entegrasyon kontrolleri
Canlıya geçmeden önce kapsamlı bir test yapın. Çeşitli istemler gönderin. Yanıtlardaki tutarlılığı kontrol edin. Akış ve akış olmayan modları doğrulayın. Geçersiz girdilerle hata işlemeyi test edin. Arayüzünüzün uzun yanıtları doğru şekilde işlediğinden emin olun. Yükleme durumlarını ve hata mesajlarını kontrol edin. Token sayısının hesaplamalarınızla eşleştiğini doğrulayın. Karmaşık araçlarla fonksiyon çağırma testlerini yapın. API anahtarınızın güvenliğini sağlayın. Anomaliler için hata günlüklerinizi gözden geçirin. Küçük bir kullanıcı grubundan geri bildirim alın. Bu, kenar durumları belirlemeye yardımcı olur. Geri bildirimlere göre ayarlamalar yapın. Memnun kaldığınızda API'yi tüm kullanıcılar için etkinleştirin. İlk birkaç saati yakından izleyin. Bu, sorunsuz bir lansman sağlar.
