Big-AGI suportă peste 20 de furnizori de modele — comerciali (OpenAI, Anthropic, Google, Groq, Mistral etc.) și locali (Ollama, LM Studio, LocalAI). Iată cum îi conectezi.
1. Deschide setările de modele
În interfață, mergi la secțiunea de Models / Settings și alege să adaugi un furnizor („source”).
2. Furnizor comercial
Selectează furnizorul (de exemplu OpenAI), introdu cheia API și încarcă lista de modele. Alege modelele pe care vrei să le folosești.
3. Model local (Ollama)
Alege Ollama ca furnizor și indică adresa serverului (de exemplu http://host.docker.internal:11434 dacă Big-AGI rulează în Docker). Big-AGI va prelua modelele descărcate. Astfel folosești modele locale, cu datele păstrate pe serverul tău.
4. Mai mulți furnizori simultan
Poți adăuga mai mulți furnizori în paralel. Acest lucru este esențial pentru funcția Beam care compară răspunsuri de la modele diferite.
5. Unde se păstrează cheile
Dacă introduci cheile în interfață ele sunt păstrate în browser-ul tău. Dacă le setezi prin variabile de mediu pe server, se aplică la nivelul întregii instanțe — util pentru o instanță de echipă, dar necesită protejarea accesului.
Sfat: Pentru o instanță partajată, gândește-te unde pui cheile: la nivel de server (comod dar trebuie protejat accesul) sau lăsând fiecare utilizator să-și introducă propria cheie în browser.
