OpenAI entegrasyonunu henüz etkinleştirmediyseniz, önce ana talimatlardaki 1-3 adımları tamamlayın.
Assistant, OpenAI teknolojilerine dayalı özelleştirilebilen bir yapay zeka ajanıdır. Yazışma bağlamını dikkate alır ve etkinleştirilen araçlara bağlı olarak, önceden yüklenmiş verilerde bilgi arar. Bu, hem kullanım senaryolarının sayısını artırır hem de OpenAI yanıtlarının kalitesini yükseltir.
İçerik
Nasıl çalışır?
OpenAI Asistanı'nın nasıl çalıştığını "X" servisi örneği üzerinden inceleyelim.
Dahili veriler: asistanı yapılandırırken "X Servisi" hakkında genel bilgileri (belgeler, bilgi tabanı makaleleri, teknik dokümanlar ve diğer materyaller) sisteme yüklersiniz. Bu bilgiler, servis hakkında standart soruları yanıtlamak için kullanılır ve nadiren değişir veya güncellenir.
Örnek: asistan, eğer ilgili bilgiler yüklenmişse, "X" servisine nasıl kayıt olunacağını açıklayabilir, temel özellikleri anlatabilir ya da sıkça sorulan sorulara yanıt verebilir.
Harici bağlam: bir müşteri destek talebinde bulunduğunda, asistan yalnızca yüklenen dahili verileri kullanmakla kalmaz, aynı zamanda müşterinin iletilerini de analiz eder. Bu sayede daha doğru ve alakalı yanıtlar oluşturulur.
Örnek: müşteri, oturum açma sırasında problem yaşadığını bildirir. Asistan gelen iletiyi analiz eder, e-posta adresinde bir yazım hatası olduğunu tespit eder ve yanıtını hem dahili verileri (önceden yüklenen materyaller) hem de harici bağlamı (müşterinin iletisi) kullanarak oluşturur.
Temel fark:
Dahili veriler — asistanı yapılandırma sırasında yüklenen bilgiler (belgeler, bilgi tabanı makaleleri, teknik dokümanlar ve diğer materyaller).
Harici bağlam — asistanın çalışma süreci sırasında aldığı bilgiler, örneğin sohbetteki müşteri soruları.
Harici bağlamın kullanımı, asistanın yanıtlarını belirli duruma göre uyarlamasını sağlar; dahili veriler ise temel bilgi ve genel arka planı sağlar.
Asistanın nasıl çalıştığına dair örnek
Telegram kanalı üzerinden alınan tüm yeni destek taplerinde çalışan gelen destek talepleri için türünden bir kurak oluşturduk. Bu kural, belirtilen asistana [case_description] içerikli metin bazlı isteği gönderiyor ve asistandan gelen yanıtı doğrudan müşteriye iletiyor.
Kuralın nasıl çalıştığına dair örnek:
OpenAI hesabınızda asistanın oluşturulması, yapılandırılması ve işleyişinin optimize edilmesi tarafınızca yapılmalıdır. Deskie destek ekibi bu konularda danışmanlık hizmeti sunmaz.
Ekibinizde gerekli uzmanlar yoksa veya bu sürecin çok zaman alacağını düşünüyorsanız, aşağıdaki hizmetleri içeren ücretli anahtar teslim asistan kurulumu paketini talep edebilirsiniz:
— OpenAI hesabınızda birinci destek hattı personeli rolünü üstlenecek özel bir asistanın oluşturulması;
— Dahili verilerin (belgeler, bilgi tabanı makaleleri, teknik dokümanlar ve diğer materyaller) yüklenmesi, bunların vektör gösterimine dönüştürülmesi ve asistan veri tabanının hazırlanması;
— Asistan veri tabanının üç kez ücretsiz güncellenmesi (önceden talep edilmesi ve ayda bir defayı geçmemesi koşuluyla);
— Asistanın algoritmada gösterildiği şekilde çalışması için Deskie hesabınızda kuralların tek seferlik kurulumu.
Paket ücreti: 1000 Euro + KDV. Anahtar teslim asistan kurulumu siparişi vermek için lütfen bizimle iletişime geçin.
Etkinleştirme
Deskie'deki mevcut bir OpenAI entegrasyonuna Assistant işlevselliğini eklemek için, Deskie yönetici hesabınızda şu adımları takip edin: "Ayarlar" → "Entegrasyonlar". OpenAI ile entegrasyonu düzenlemeye açın ve Assistant ID değerini belirtin.
"Entegrasyon adı" alanında, otomasyon kurallarını yapılandırırken kolayca tanıyabileceğiniz bir ad belirtin.
OpenAI entegrasyonunu henüz etkinleştirmediyseniz, önce ana talimatlardaki 1-3 adımları tamamlayın.
Assistant ID değeri nasıl alınır?
OpenAI hesabınızda Dashboard → Assistants yolunu izleyin ve Deskie'de kullanmayı planladığınız asistanın adının altındaki değeri kopyalayın.
⚠️ Assistant ID'nin başarıyla doğrulanabilmesi için, Deskie'deki OpenAI entegrasyonunda belirtilen API anahtarın ve asistanın aynı organizasyon ve proje içinde yer aldığından emin olun.
Entegrasyon ayarları
Varsayılan model
Asistan yanıtlarını oluştururken, entegrasyon ayarlarında belirtilen model kullanılacaktır.
Bu model, asistan oluşturulurken seçilen modelden veya OpenAI Playground ortamında test edilen modelden farklıysa, yanıtların kalitesi olumsuz etkilenebilir.
Örnek: asistanınız, GPT-4o modelini kullanacak düşüncesi ile Assistant API'de oluşturulduysa, ancak Deskie'deki entegrasyon ayarlarında GPT-3.5-turbo seçildiyse, talimatlar daha güçlü bir model düşünülerek yazıldığı için, asistanın işleyiş mantığında hatalar oluşabilir.
OpenAI Playground ortamında model anlık olarak değiştirilebilir. Deskie'de OpenAI Playground ortamındaki deneyimi birebir yakalamak istiyorsanız, "Varsayılan model" alanında testlerde en iyi performans gösteren modeli belirtin
💰 Model seçimi yaparken, her model için istek maliyetinin farklı olacağını göz önünde bulundurun.
⚠️ Fine tuning yardımı ile eğitilmiş özel modeller Assistants API ile uyumlu olmadıkları için, desteklenmemektedir.
Bağlam
"İçeriği dikkate al — destek talebindeki yazışmayı..." onay kutusu, asistanın yanıt oluştururken önceki yazışma bağlamını dikkate alıp almayacağını belirlemenizi sağlar.
💰 Bu ayar etkinleştirildiğinde, OpenAI yanıtlarının kalitesi yükselir, ancak aynı zamanda daha fazla token harcanacağı için isteklerin maliyeti de artar.
OpenAI 'deki ücretlendirme, istek ve yanıt metninin hacmine bağlıdır. Hesaplama token (jeton) bazında gerçekleştirilir; her token boşluklar ve noktalama işaretleri dahil olmak üzere yaklaşık 4 latin alfabesi karakterine karşılık gelir. Örneğin, "ChatGPT" kelimesi iki token tüketir.
Eğer onay kutusu işaretli değilse, asistana gönderilen ileti temel alınarak önceki yazışma bağlamı dikkate alınmadan yeni bir thread oluşturulur;
Eğer onay kutusu işaretliyse, iki durum mümkündür:
a) belirli bir destek talebi kapsamında OpenAI asistanı ile etkileşim henüz gerçekleşmedi → asistana gönderilen ileti temel alınarak yeni bir thread oluşturulur;
b) belirli bir destek talebi kapsamında OpenAI asistanı ile etkileşim zaten gerçekleşti → asistana gönderilen yeni ileti, daha önce oluşturulmuş thread'a eklenir ve önceki yazışma bağlamı dikkate alınır.
Bu onay kutusu, Code Interpreter aracının kullanımıyla ilişkili olarak OpenAI tarafından uygulanan ücretlendirmeyi de etkiler.
OpenAI asistanıyla etkileşim bağlamında, thread, müşteri ve asistan arasındaki diyaloğu temsil eden bir nesnedir. Tüm iletiler (müşteri soruları ve bunlara verilen asistan yanıtları) tek bir thread içinde saklanır ve bu da yazışma bağlamının korunmasını sağlar.
Deskie, gelen tüm müşteri iletilerini "user" rolünden thread'a eklerken kurallar aracılığıyla otomatik olarak gönderilen asistan yanıtlarını ve temsilci yanıtlarını "assistant" rolünden ekler.
Deskie otomasyon kuralları aracılığı ile gönderilen otomatik yanıtlar thread'a dahil edilmez — "İçeriği dikkate al — destek talebindeki yazışmayı..." onay kutusu işaretliyse, asistan bu iletileri görmez ve dikkate almaz.
Destek talebindeki diğer asistanlar tarafından verilen yanıtlar da thread'e eklenmez.
Açıklama: "Alınan yanıtı — müşteriye gönder" alt eylemi aracılığı ile bir destek talebine eklenen yanıtlar da teknik olarak otomatik yanıtlardır. Bu nedenle, birden fazla asistan aynı destek talebi üzerinde çalışıyorsa, birbirlerinin mesajlarını "görmezler" ve bunları kendi thread'lerinde değerlendirmezler.
Thread'in bir bağlam penceresi limiti vardır ve bu limit, kullanılan modele göre değişir. Örneğin, GPT-4-turbo için bu limit 128.000 token'dir (≈ 250 sayfa Türkçe metin); GPT-3.5-turbo için limit 16.385 token'dir — bu da yaklaşık olarak 12 punto Times New Roman ile yazılmış 30 A4 sayfasına denk gelir.
Bu limit aşıldığında, eski veya daha az önemli iletiler bağlam penceresi dışında bırakılır — bu filtreleme işlemi OpenAI tarafından otomatik olarak yapılır.
Thread'in silinmesi
Yüklenen dosyalar veya bunlara dayalı olarak otomatik olarak oluşturulan vektör gösterimleriyle depolama alanının (storage) dolması, Assistants API ile çalışırken hatalara yol açabilir. Bunu önlemek için tarafımızca aşağıdaki önlemler uygulanmaktadır:
asistanın yanıtı alındıktan hemen sonra, oluşturulan vektör deposu (untitled vector store) ve içindeki dosyaların vektör gösterimleri (vector store files) otomatik olarak silinir;
destek talebinde "kapalı" durumunun ayarlanmasından 7 gün sonra, thread'a aktarılan dosyalar ve thread'in kendisi silinir.
Assistants OpenAI ile etkileşim
OpenAI asistanına istek gönderme otomasyon kuralları aracılığıyla yapılandırılır. Gönderim, "— AI ile entegrasyon" kategorisindeki "AI Assistant'a metin bazlı istek gönder" eylemi yardımı ile gerçekleştirilir.
💰 İsteklerin tekrarlanmasını ve bunun sonucunda gereksiz yere token'lerin harcanmasını önlemek için, söz konusu eylem bir kural kapsamında yalnızca bir kez belirtilebilir.
Bu eylem, Deskie tarafındaki OpenAI ile olan entegrasyon ayarlarında Assistant ID değeri belirtildiğinde kullanılabilir hale gelir. Tüm kural türlerinde mevcuttur ve müşteri veya temsilci iletisini eylemde belirtilen asistana işlenmek üzere gönderir.
İlgili ileti değişkenler aracılığıyla belirtilir:
[case_description] — destek talebindeki ilk ileti;
[last_message] — destek talebindeki son ileti.
Önemli hususlar:
Değişken, imza ve/veya alıntı dahil olmak üzere ileti metninin tamamını asistana gönderir;
İletinin bir eki varsa, bu da asistana gönderilir. Asistan ayarlarında File search ve/veya Code interpreter araçları etkinleştirilmiş vaziyette ve ekteki dosya biçimi OpenAI tarafında destekleniyor ise, ek asistan tarafından işlenir. Araçlar devre dışı vaziyette veya biçim desteklenmiyor ise, ek göz ardı edilir.
OpenAI asistanından alınan yanıt, Deskie tarafından yalnızca kuralın yürütülmesi süresince [ai_response_by_text_request] değişkeninde geçici olarak tutulur. Bu değişkeni kullanarak OpenAI asistanın yanıtını kural aracılığıyla şu alt eylemlerde değerlendirebilirsiniz:
müşteriye gönder;
not olarak ekle;
"metin alanı" veya "çok satırlı metin" tipindeki destek talebi alanına yaz.
Assistants API konfigürasyonu
OpenAI asistanlarının davranışlarını belirleyen ayarlara / araçlara ve bunların "AI Assistant'a metin bazlı istek gönder" eylemi çalıştırıldığında Deskie tarafında nasıl dikkate alındıklarına bakalım.
Assistants API ile ilgili resmi dokümantasyona buradan ulaşabilirsiniz.
1. System instructions — asistanın alınan isteğe yanıtı hazırlarken nasıl davranacağını tanımlar. Bu yönergeleri kullanarak şunları yapabilirsiniz:
asistanın rolünü belirleme — yazışmada kim olarak görev üstlenir: danışman, teknik uzman vb.;
fonksiyonel yeteneklerini tanımlama— asistanın hangi görevleri yapması gerektiği ve hangilerini yapmaması gerektiği;
iletişim tarzını yapılandırma — resmi veya gayri resmi ton, doğruluk veya yaratıcılığa odaklanma.
💰 Talimatların hacmi arttıkça yanıt oluşturmak için harcanan token sayısı da artar.
Assistants OpenAI ile etkileşim kurmaya olanak tanıyan kuralları ele aldığımız materyallerde bu tür talimatlara örnekler (yalnızca açıklık sağlamak amacıyla) veriyoruz.
Asistana gönderilen istekler, OpenAI hesabınızdaki asistan ayarlarında belirtilen talimatlara uygun olarak işlenir.
2. Model — asistanın çalışması sırasında kullanıldığı OpenAI dil modeli.
İstekler, Deskie tarafındaki entegrasyon ayarlarında belirtilen model kullanılarak işlenir.
3. File Search — asistanın, yapılandırma sırasında yüklenen bilgilerden (belgeler, bilgi tabanı makaleleri, teknik dokümanlar ve diğer materyaller) bilgi almasına imkan tanır.
💰 Kullanım maliyeti (isteklerde kullanılan token ücretine ek olarak):
günde 1 GB — ücretsiz;
sonrasında her ek 1 GB — $0,10;
⚠️ Araç, GPT-4 modeliyle uyumlu değildir. Bu, OpenAI platformunun kendisinin bir sınırlamasıdır.
Ayar, Deskie'deki entegrasyon tarafından dikkate alınır.
4. Code interpreter — asistanın hesaplamalar yapmasına ve verileri analiz etmesine olanak tanır.
💰 Kullanım maliyeti: saatlik oturum başına 0,03 $.
Ayar, Deskie'deki entegrasyon tarafından dikkate alınır.
OpenAI tarafındaki ücretlendirme, diğer faktörlerin yanı sıra, "İçeriği dikkate al — destek talebindeki yazışmayı..." onay kutusunun işaretli olup olmadığına bağlıdır..
"İçeriği dikkate al — destek talebindeki yazışmayı..." onay kutusu işaretli değilse, asistana gönderilen ileti temelinde yeni bir thread oluşturulur ve Code Interpreter aracı için ayrı ücretlendirilen yeni bir oturum başlatılır;
"İçeriği dikkate al — destek talebindeki yazışmayı..." onay kutusu işaretli ise, iki durum mümkündür:
a) belirli bir destek talebi kapsamında OpenAI asistanı ile etkileşim henüz gerçekleşmedi → Code Interpreter aracı için ayrı olarak ödenen 1 saatlik bir oturum başlatılır;
b) belirli bir destek talebi kapsamında OpenAI asistanı ile etkileşim zaten gerçekleşti → Code Interpreter, son etkileşimden 1 saat sonra ayrı olarak ödenen yeni 1 saatlik oturum otomatik olarak başlatılır.
5. Functions — asistanın, web'de arama yapmak veya dosyaları düzenlemek gibi metin bazlı etkileşiminin ötesinde görevleri yerine getirmek için harici fonksiyonları çağırmasına olanak tanır.
Ayar, Deskie'deki entegrasyon tarafından dikkate alınmaz.
6. Model configurations — yanıt üretimi sırasında rastgelelik derecesini / varyasyon seçimini yapılandırmanıza ve asistanın döndüreceği yanıtların biçimini belirtmenize olanak tanır.
Temperature — yanıtların üretilmesindeki rastgelelik derecesini belirleyen, 0,01 ile 2 arasında değer aralığına sahip parametre. Ayar, Deskie'deki entegrasyon tarafından dikkate alınır.
Top P — yalnızca toplam olasılığı belirli bir yüzdeye (P) dahil olanları dikkate alarak yanıt seçeneklerinin seçimini sınırlayan, 0,01 ile 1 arasında değer aralığına sahip parametre. Ayar, Deskie'deki entegrasyon tarafından dikkate alınır.
Response format — asistanın yanıtının hangi formatta üretileceğini belirler. OpenAI Playground ortamında "text", "Markdown" veya "JSON" formatları arasında seçim yapabilirsiniz. Deskie, OpenAI'ye gönderilen isteklerde kod düzeyinde "text" parametresini yazdırır; OpenAI arayüzündeki asistan ayarlarında belirtilen değer göz ardı edilir.
7. [Annotations] — asistanın yanıt üretiminde kullandığı vektör deposundaki (Vector Store) kaynak dosyaların bağlantılarıdır.
Asistan yanıtları, Deskie arayüzünde kaynak belirtilmeden görüntülenir.
______
* Bu makaledeki tüm fiyatlar, yalnızca entegrasyon çalışmasıyla ilgili bilgilerin eksiksiz olması amacıyla makalenin yayınlandığı tarih itibarıyla belirtilmiştir. Deskie, üçüncü taraf hizmetlerin fiyatlandırma politikalarından sorumlu değildir ve bu fiyatlardaki değişiklikleri izlememektedir. Güncel fiyatlar için lütfen doğrudan OpenAI ile iletişime geçin.
İstatistiklerde asistan yanıtları
Deskie'de kurallar aracılığıyla gönderilen otomatik yanıtlar, istatistik göstergelerinin hesaplanmasında dikkate alınmaz. Bu nedenle, tamamen asistan tarafından işlenen destek talepleri için hız göstergeleri hesaplanmaz.
HSA ayarları grup bazlıdır. AI asistanı tarafından işlenen destek taleplerini barındıran gruplar için hizmet seviyesi parametrelerini belirtmemenizi öneririz.
Bir destek talebinin bir temsilciye devredildiği durumda (ister müşteri insan desteği talep etmiş olsun, ister asistan müşteri sorularını yanıtlayamamış olsun), sistem, destek talebinde daha önce hiç yanıt verilmemiş gibi hız göstergelerinin ölçümünü sıfırdan başlatır.
Bu tür destek taleplerinin temsilci istatistiklerini (performans ve hız ile ilgili istatistiksel göstergeler) olumsuz etkilememesi için birkaç çözüm yolu vardır:
1) Destek talebi bir temsilciye devredildiğinde özel etiketler eklemek: "asistan yanıtlayamadı", "insan desteği talebi", "AI hatası" vb. Söz konusu etiketleri kullanarak, istatistikleri analiz ederken bu tür destek taleplerini filtreleyebilir ve temsilcilerin bağımsız olarak işlediği destek taleplerinden ayrı olarak değerlendirebilirsiniz;
2) "Yalnızca müşterinin temsilci yanıtı beklediği zamanı hesaba kat" ayarını etkinleştirmek: böylece destek taleplerinin "beklemede" durumunda geçirdikleri zaman sürelerinin istatistiklere yansıtılmamasını sağlamış olursunuz.