AI Manager Impostazioni (dialogo) |
Top Previous Next |
|
Questo dialogo serve a impostare il funzioamento della AI all'iinterno di Sargon.
Servono due chiavi API (API_KEY), una necessariamente di OpenAI l'altra di altro provider tra OpenAI, Google-Gemini, Anthropic-Claude o Ollama. La prima chiave serve solo per l'embedding, ovvero per la trasformazoine delle domande in formato vettoriale. Ciò deve essere fatto con lo stesso sistema con il quale è stata gestita la corposa documentazione, ed è utilizzato solo per domande RAG, ovvero domande che usino la documentazione (nella sotto-cartella \KB), per trovare meglio la risposta (comando Chiedi RAG). Dato che tale passaggio è stato fatto usando OpenAI, l'utente deve avere una chiave API OpenAi. Il costo dello embedding è trascurabile, e quindi basterà un account con soli 10$ per andare avanti mesi e mesi.
La seconda chiave serve invece proprio per le risposte alle domande, e quindi per tutti i comandi AI. Il motore AI può essere uno qualsiasi a scelta dell'utente tra i seguenti: •OpenAi (ChatGPT) •Google (Gemini) •Anthropic (Claude) •Ollama I costi nello utilizzo della AI, molto bassi, sono comunque dovuti a questa seconda scelta, la prima serve solo per lo embedding e comporta, come detto, costi molto bassi. Una volta scelto il provider è anche possibile scegliere il modello di AI da usare per le domande. Modelli più sofisticati hanno migliori prestazioni ma costano di più. La scelta del modello ha quindi una discreta importanza nell'uso della AI. Si consiglia di fare delle prove per ottimizzare il funzionamento in bbase alle proprie esigenze.
Una delle possibilità che si hanno è di dettare il testo della domanda a voce. In questo caso sarà usato il motore corrispondente alla seconda chiave, per la traduzione Speech to Text. Dato che i provider Anthropic Claude e Ollama non forniscono questo servizio con API-KEY, se si usano loro si hanno due possibilità: 1.O si sceglie di usare la API-KEY di OpenAi anche per il Speech to Text (e in questo caso va messo il segno di spunta su "Usa OpenAI per la dettatura se il motore non trascrive". 2.O si rinuncia alla dettatura.
Se si usa OpenAI o Google, il problema non sussiste. Anche la conversione da voce a testo ha dei costi molto bassi. Si tenga presente che nel caso in cui si usi il servizio di dettatura (Speech to Text) l'audio esce dal PC e viene mandato al provider che fornisce il servizio.
|
Guida di Sargon — Castalia s.r.l.
Software FEM per il calcolo strutturale. Pagina di Sargon · Demo · Ordini · Contatti