Data Mining, BI e Sistemi Web
Report su analisi e progettazione di sistemi informatici per il concorso CPI Sicilia (profilo SIST): Data Mining (apprendimento supervisionato/non supervisionato, alberi, ensemble, clustering, regolarizzazione, validazione), Business Intelligence (data warehouse, OLAP, ETL, KPI) e architetture dei sistemi web. La parte di machine learning è ancorata al brain economia-finanza-pubblica (ISLR/ESL).
1 DATA MINING E APPRENDIMENTO STATISTICO
Il data mining estrae conoscenza (pattern, regole, predizioni) da grandi basi di dati. Il suo motore è l'apprendimento statistico / machine learning: stimare una funzione predittiva dai dati che generalizzi a dati nuovi.
Le due grandi famiglie
| Famiglia | Obiettivo | Metodi |
|---|---|---|
| Supervisionato | predire Y da X (etichette note) | regressione, regressione logistica, alberi, ensemble, SVM, reti neurali |
| Non supervisionato | scoprire struttura senza Y | clustering (k-means), PCA/SVD |
Il processo (CRISP-DM)
Comprensione del business → comprensione e preparazione dei dati (pulizia, feature) → modellazione → valutazione → deployment. La preparazione dei dati è in genere la fase più onerosa.
2 GENERALIZZAZIONE: BIAS-VARIANZA E VALIDAZIONE
Il problema centrale è generalizzare: un modello troppo flessibile fa overfitting (impara il rumore), uno troppo rigido fa underfitting.
Trade-off bias-varianza
L'errore di predizione si scompone in bias² + varianza + errore irriducibile (σ²). Aumentando la complessità: il bias cala, la varianza cresce. Si cerca il punto di equilibrio.
Validazione (stimare l'errore vero)
- Train/validation/test split; K-fold cross-validation (ruota K sottoinsiemi come validazione); LOOCV (caso estremo K = n).
- Bootstrap: ricampionamento con reinserimento per stimare l'incertezza.
- Data leakage: errore grave — informazione del test che "trapela" nel training (es. normalizzare prima dello split) → stime di performance gonfiate.
Regolarizzazione (controllare la complessità)
- Ridge (L2): penalizza i coefficienti grandi, li "restringe" senza azzerarli.
- Lasso (L1): può azzerare coefficienti → selezione di variabili (sparsità).
- Elastic net: combinazione di L1 e L2.
3 ALBERI, ENSEMBLE E ALTRI MODELLI
Alberi di decisione (CART)
Partizionano lo spazio delle feature in regioni e predicono un valore costante per regione. Criterio di split per classificazione: minimizzare l'impurità — indice di Gini o entropia. Si potano (pruning) per evitare overfitting. Hanno basso bias ma alta varianza → ideali da combinare.
Metodi ensemble
| Metodo | Come | Effetto |
|---|---|---|
| Bagging | media di alberi su campioni bootstrap | ↓ varianza |
| Random Forest | bagging + a ogni split solo √d feature (decorrela) | ↓↓ varianza + feature importance |
| Boosting | alberi sequenziali sui residui (XGBoost/LightGBM) | ↓ bias (stato dell'arte sui dati tabellari) |
Altri modelli
- SVM: massimizzano il margine tra le classi; kernel trick per confini non lineari.
- Reti neurali: strati di neuroni, addestrati con backpropagation e discesa del gradiente (SGD); base del deep learning.
- k-means: clustering non supervisionato in k gruppi; PCA: riduzione di dimensionalità sulle componenti a massima varianza.
4 BUSINESS INTELLIGENCE
La Business Intelligence (BI) trasforma i dati operativi in informazioni per le decisioni. Architettura tipica:
Data warehouse e dintorni
- OLTP vs OLAP: i sistemi OLTP gestiscono le transazioni operative (scritture frequenti); i sistemi OLAP sono ottimizzati per l'analisi (interrogazioni complesse, aggregazioni).
- Data warehouse: archivio integrato, orientato al soggetto, storicizzato, non volatile (Inmon). Data mart: sottoinsieme tematico.
- ETL (Extract-Transform-Load): estrazione dalle sorgenti, trasformazione/pulizia, caricamento nel warehouse.
- Modello multidimensionale: schema a stella (fatti + dimensioni) o a fiocco di neve; il cubo OLAP consente operazioni di roll-up, drill-down, slice & dice.
Indicatori e visualizzazione
KPI (Key Performance Indicator), cruscotti (dashboard) e reportistica. Strumenti diffusi: Power BI, Tableau, Qlik. La BI è descrittiva (cosa è successo); la data science aggiunge il predittivo (cosa succederà).
5 SISTEMI E ARCHITETTURE WEB
Architettura client-server e a livelli
- Modello a 3 livelli: presentazione (front-end) · logica applicativa (back-end) · dati (database).
- HTTP/HTTPS: protocollo richiesta-risposta stateless; HTTPS = HTTP su TLS (cifrato).
- Front-end: HTML, CSS, JavaScript. Back-end: linguaggi server (Java, Python, PHP, ...) + database.
API e servizi
- API REST: risorse identificate da URL, metodi HTTP (GET/POST/PUT/DELETE), scambio dati in JSON; stateless.
- Architetture a microservizi vs monolite; web application vs web service.
Database
- Relazionali (SQL): tabelle, chiavi, proprietà ACID (atomicità, coerenza, isolamento, durabilità).
- NoSQL: documentali, chiave-valore, a colonne, a grafo — per scalabilità e dati non strutturati (collegamento ai Big Data).
6 I TRABOCCHETTI PIÙ INSIDIOSI
| Tema | Risposta sbagliata | Risposta corretta |
|---|---|---|
| Modello troppo complesso | generalizza meglio | overfitting (alta varianza, impara il rumore) |
| Random forest vs bagging | identici | RF decorrela gli alberi (√d feature per split) |
| Boosting | riduce la varianza (come il bagging) | riduce il bias, alberi sequenziali |
| Lasso vs Ridge | uguali | il Lasso (L1) azzera coefficienti → selezione variabili |
| OLTP / OLAP | sinonimi | OLTP = transazioni; OLAP = analisi |
| ETL | Encrypt-Transfer-Load | Extract-Transform-Load |
| Data leakage | irrilevante | gonfia le performance: il test "trapela" nel training |
| Proprietà transazioni SQL | BASE | ACID (BASE è tipico del NoSQL) |
| HTTPS | protocollo diverso da HTTP | è HTTP su TLS (cifrato) |
Fonti: parte ML ancorata al brain economia-finanza-pubblica (ISLR, ESL); parte BI/web da fondamenti standard di informatica (manualistica concorsuale SIST). Report compilato per RIPAM Studio — Giugno 2026 / RIPAM Studio | @fcapurso