Modell konfigurációk

Hogyan működnek a modellkonfigurációk

A modellkonfigurációk határozzák meg a szervezet alapértelmezett AI-modellbeállítását. Az ügynökök ezt a konfigurációt használják, hacsak nem állít be ügynökszintű modellfelülírásokat az ügynök beállításaiban.

A modellek konfigurálásához nyissa meg a Models elemet az IntraCord Dashboardon:

• Hosztolt: https://app.IntraCord.com/model-configurations
• Saját szolgáltató: http://localhost:3010/model-configurations
• Helyi fejlesztés: http://localhost:3000/model-configurations

A Modellek oldalon három felső szintű rész található:

szakasz	Mikor kell használni
Beszédről beszédre	Használjon valós idejű beszéd-beszéd modellt az élő beszélgetéshez. Továbbra is beállíthat mellette egy LLM-et a változók kinyeréséhez és a minőségbiztosításhoz.
IntraCord	Használjon IntraCord által kezelt LLM-, Voice- és Transcriber modelleket egyetlen IntraCord szolgáltatáskulcs mögött.
BYOK	Hozd magaddal saját szolgáltatói kulcsaidat, és külön konfiguráld az LLM, Voice, Transcriber és Embedding modelleket.

i

A modellbeállítások szervezeti hatókörűek. Ha nincs beállítva ügynökszintű felülírás, a szervezet minden ügynöke a mentett globális konfigurációt használja.

Beszéd beszédre

Használja a Speech to Speech funkciót, ha azt szeretné, hogy egy valós idejű modell közvetlenül kezelje az élő beszélt beszélgetést. Ebben a módban a valós idejű modell kezeli a beszédbevitelt és a beszédkimenetet, így nem kell külön Voice és Transcriber szolgáltatást konfigurálni.

A Speech to Speech szakasz beágyazott lapokat tartalmaz:

Tab	Mit kell beállítani
Valós idejű modell	A beszéd-beszéd szolgáltató, modell, hang és API-kulcs.
LLM	Szabványos LLM, amelyet nem valós idejű feladatokhoz használnak, mint például a változók kinyerése és a minőségbiztosítási elemzés.
Beágyazás	Beágyazási modell, amelyet olyan funkciók használnak, amelyek beágyazást igényelnek, például a tudásbázis-tartalomból való visszakeresés.

!

A Speech to Speech használatakor továbbra is szükség van LLM-re. A valós idejű modell kezeli az élő hangos beszélgetést, de az IntraCord az LLM-et használja az élő hangfolyamon kívüli elemzési feladatokhoz.

IntraCord

Használja a IntraCord-ot, ha azt szeretné, hogy az IntraCord kezelje helyette a modellszolgáltatókat. Ez az útvonal egy IntraCord szolgáltatáskulcsot használ az IntraCord által felügyelt modellekhez az LLM, a Voice és a Transcriber külön szolgáltatói kulcsai helyett.

Konfigurálás:

Mező	Mit szabályoz
Hang	A Dogra által kezelt hang.
Sebesség	A hang lejátszási sebessége.
Nyelv	A nyelv viselkedése, beleértve a többnyelvű automatikus felismerést, ha elérhető.
API-kulcs	Az Ön IntraCord szolgáltatási kulcsa. Hozzon létre szolgáltatáskulcsokat a Developers webhelyről.

A szolgáltatási kulcsok létrehozásával és használatával kapcsolatos részletekért lásd: API-kulcsok és szolgáltatási kulcsok.

BYOK

Használja a BYOK-t, ha saját szolgáltatói fiókokat és API-kulcsokat szeretne vinni. Ezzel külön vezérelheti az egyes modellkategóriákat.

!

Ha BYOK-ot vagy külső modellszolgáltatókat használ, az IntraCord csak a kiválasztott szolgáltatás működéséhez szükséges adatokat küldi el. A szolgáltatótól és a szolgáltatás típusától függően ez tartalmazhat promptokat, beszélgetési előzményeket, átiratokat, hangot, generált szöveget, Tool Definitions / Function Definitions elemeket, Tool-bemeneteket vagy -eredményeket, valamint kérések metaadatait.

A szolgáltató adatkezelése változó. Az érzékeny adatok használata előtt tekintse át az egyes szolgáltatók adatfeldolgozási, megőrzési, modellképzési és regionális tárhelyszolgáltatási irányelveit.

A BYOK szakasz beágyazott lapokat tartalmaz:

Tab	Mit kell beállítani
LLM	A csevegési vagy érvelési modell szolgáltatója, modellje, opcionális alap URL-je és API-kulcsa.
Hang	A szövegfelolvasó szolgáltató, hang, modell, sebesség, opcionális alap URL és API-kulcs.
Transcriber	A speech-to-text szolgáltató, modell, nyelv és API-kulcs.
Beágyazás	A beágyazás szolgáltatója, modellje és API-kulcsa.

A szolgáltatóspecifikus mezők csak akkor jelennek meg, ha alkalmazzák őket. Például az OpenAI-kompatibilis LLM-szolgáltatók megjeleníthetnek egy Base URL mezőt, az ElevenLabs Voice modelljei egy voice ID-t, a Transcriberek pedig nyelvi beállításokat.

Ügynökszintű modell felülbírálása

Felülbírálhatja az egyes ügynökök szervezeti modelljének konfigurációját. Ez akkor hasznos, ha a különböző ügynököknek különböző modellekre, Voice-okra, Transcriberekre vagy szolgáltatókra van szükségük.

Felülbírálás konfigurálása:

1. Nyissa meg az ügynököt.
2. Lépjen a Beállítások elemre.
3. Nyissa meg a Modellfelülírások lehetőséget.
4. Engedélyezze a felülbírálást a testreszabni kívánt szolgáltatáshoz.
5. Konfigurálja a szolgáltatót, a modellt és a kulcsokat a szolgáltatáshoz.
6. Mentse el az ügynök beállításait.

Az ügynökszintű felülírások szelektívek. Például egy ügynök esetében csak a Voice szolgáltatást bírálhatja felül, miközben az továbbra is a szervezeti szintű LLM és Transcriber konfigurációt használja.