1. Come inizia un progetto con SeekySense?

Ogni progetto parte da una fase di prototipazione MVP, con dati reali, configurazione del Secret Manager e verifica delle funzioni core. Segue una fase di fine tuning degli algoritmi di similarità e DeepSearch.

2. Serve una GPU per farlo girare?

Sì, ma basta anche una scheda da 16GByte di Vram per inziare. L’architettura è pensata per funzionare anche senza GPU, in tale modalità fornisce risposte tramite il fulltext. Le operazioni asincrone e i fallback garantiscono continuità del servizio con risorse limitate, in locale o edge.

3. Come avviene l’integrazione con i miei sistemi?

• Basta esporre le fonti dati (documenti, API, DB) in modo accessibile da SeekySense. Ogni dato può essere arricchito da un template Razor e da una validazione opzionale per l’uso live.

• E' poi necessario predisporre processi di ingestione e aggiornamento dei dati, che possono essere schedulati o attivati da eventi esterni.

4. È compatibile con i miei chatbot esistenti?

Sì. SeekySense espone un endpoint REST che restituisce elementi già elaborati, con fulltext, contenuti live e azioni pronte all’esecuzione. Il chatbot non deve costruire prompt complessi.

Se il contesto di sicurezza lo permette, si possono anche esporre i servizi in MCP (multi context protocol).

5. Che tipo di ricerca posso fare?

Supporta tre livelli: Ricerca fulltext classica (senza GPU), Ricerca semantica via embedding, DeepSearch iterativa con riepilogo per ogni risultato + nuova ricerca su base semantica e live

6. Quanto controllo ho su privacy e costi?

Totale. Tutto gira nel tuo perimetro: stack open source, motori vettoriali locali e nessun invio di dati a terzi. Ideale per ambienti regolamentati o sensibili. E' possibile implementare il progetto Seekysense su datacenter locali, acquistando risorse GPU su hosting provider specializzati oppure usando modelli forniti da cloud provider in modalità privata

7. E' possibili specializzare il motore in un preciso ambito?

Seekysense può usare diversi motori LLM di emebdding anche istruiti ad hoc. E' quindi necessario un processo di addestramento specifico, detto fine tuning, che può essere fatto su un LLM emebdding open source e che rimane proprietario di chi lo ha così istruito. L'addestramento richiede un dataset abbastanza importante su cui fare addestramento (per capirci di almeno qualche migliaio di elementi) contenente sia testi correlati fra loro che non correlati. In questo modo il motore può essere specializzato su un dominio specifico, ad esempio può comprendere relazioni esistenti fra componenti di meccanica di precisione, o fra elementi di un sistema di automazione industriale.

8. Quanto è oneroso l'addestramento specifico del motore?

Fortunatamente il fine tuning di un motore di embedding è molto meno oneroso dell'addestramento di un LLM generalista. Per capirci, un fine tuning può richiedere da qualche ora a qualche giorno, mentre l'addestramento di un LLM generalista può richiedere settimane o mesi. Inoltre il fine tuning può essere fatto su una macchina locale, mentre l'addestramento di un LLM generalista richiede macchine con GPU dedicate e quindi più costose.

9. Se investo nel fine tuning rimango proprietario del modello?

Certamente! Il modello così addestrato rimane nel perimetro privacy del progetto, inoltre l'obsolescenza dei modelli di embedding è molto meno rapida degli LLM generalisti. Inoltre il grande valore dell'addestramento è il modello dei dati, da cui dipende anche la qualità dei risultati, quindi il fine tuning è un investimento che rimane nel tempo anche se si dovesse in futuro rifare l'addestramento su nuovi motori di embedding.

10. Si può creare un dataset di addestramento per un modello di embedding specializzato, sfruttando un LLM?

Si può utilizzare un LLM generalista di fascia alta (es. GPT 4.5 o Mistral Large) per generare un dataset sinteticamente supervisionato in cui, dato un corpus di documentazione tecnica (es. manuali di automazione), il modello genera coppie domanda-risposta coerenti con il contenuto. Per ogni paragrafo o sezione tecnica, il motore LLM può creare una o più query realistiche che un utente potrebbe porre per cercarlo. Queste coppie ([query, paragrafo]) possono poi essere usate per il fine-tuning di un modello di embedding rendendo altamente efficace la ricerca semantica nel dominio specifico.