Le soluzioni tecnologiche possibili in questo contesto sono principalmente basate su Large Language Models (LLM) e approcci come prompt engineering, fine-tuning e Retrieval-Augmented Generation (RAG). Le LLM sono modelli linguistici di grandi dimensioni che hanno il compito di generare risposte in seguito ad una domanda posta da un utente. Tali modelli sono in grado di far ciò grazie alla grandissima quantità di dati su cui sono addestrati. Per adattare i modelli LLM a esigenze specifiche di un'organizzazione, si utilizza l'approccio RAG. Questo metodo consiste nel fornire al modello non solo la richiesta di un utente, ma anche una serie di documenti pertinenti e specifici al dominio di interesse, che possono includere documenti dell'organizzazione stessa. Questi documenti fungono da fonte di dati aggiuntiva, permettendo al modello di estrarre e utilizzare conoscenze dettagliate e mirate per rispondere in modo più preciso alle richieste ricevute. Mentre per adattare i modelli LLM a task di dettaglio si ricorre al fine-tuning: ossia addestrare nuovamente il modello utilizzando dati specifici all’ambito di applicazione.
Le soluzioni descritte finora possono essere agevolmente implementate grazie all’utilizzo di servizi Oracle come OCI Generative AI service. Tale servizio integra LLM basate su modelli Cohere e Meta Llama 2. L’ambiente Oracle offre inoltre la possibilità di poter personalizzare tali modelli (fine-tuning) e integrarli in soluzioni enterprise che prevedono l’utilizzo di un sistema RAG. Il tutto è supportato da cluster GPU Oracle dedicati che garantiscono privacy, affidabilità e sicurezza.
Alcuni contesti in cui è possibile adottare soluzioni di AIOps sono:
- Assistenza service desk: chatbot in grado di sintetizzare, classificare e proporre soluzioni all’interno di un sistema di supporto informatico basato su ticket. Il chatbot ha il ruolo di un AI agent in grado di semplificare l’elaborazione di dati e supportare l’esperto informatico umano nella gestione e risoluzione di ticket operativi.
- Analisi di eventi e log: soluzione in grado di monitorare lo stato operativo di un sistema informatico, analizzare log, individuare comportamenti non attesi e attuare autonomamente soluzioni di remediation. In aggiunta, l’esperto informatico umano può interagire con un chatbot integrato per ottenere informazioni sintetizzate sui log e sullo stato del sistema monitorato.
- Generazione documentazione IT: sistema in grado di analizzare e documentare il codice di un prodotto software o una infrastruttura Tale sistema estrae conoscenza e informazioni di contesto che possono essere di supporto ad esperti informatici durante le fasi di mantenimento del codice, migrazione dei sistemi e di modifiche migliorative.