• Roberto

    (@zebraxy)


    Davvero un ottimo chatbot, semplice da usare e ultra personalizzabile, ho solo una piccola annotazione da fare, se si usano modelli piccoli e gratis del tipo Gemma 27B…LLama 14B ecc… tendono a seguire di meno il system prompt o comunque lo devi ultra ottimizzare, usando modelli grandi anche gratis invece lo seguono con maggiore precisione, personalmente sto usando GPT OSS 120B e devo dire che mi ci trovo bene, costa pochissimo, pensa che in un mese ho speso meno di 50 cent avendo un discreto uso del chatbot.

Viewing 1 replies (of 1 total)
  • Plugin Author NewCodeByte

    (@newcodebyte)

    Innanzitutto grazie della recensione, il tuo discorso non fa una grinza, i modelli piccoli e gratis sono i meno precisi, specialmente a seguire il system prompt, soprattutto se è complesso e articolato con tante regole da seguire, la scelta dipende dal sito che hai e della qualità che vuoi ottenere, fortunatamente con lo stesso account puoi scegliere praticamente tutti gli LLM esistenti.

Viewing 1 replies (of 1 total)

The topic ‘Ottimo chatbot, semplice e molto personalizzabile’ is closed to new replies.