• BitMAT
  • BitMATv
  • Top Trade
  • Linea EDP
  • Itis Magazine
  • Industry 5.0
  • Sanità Digitale
  • ReStart in Green
  • Contattaci
Close Menu
LineaEDPLineaEDP
    Facebook X (Twitter) Vimeo Instagram LinkedIn RSS
    Trending
    • Navigare in rete in modo sicuro: consigli pratici ed accorgimenti per non correre rischi
    • Attacchi informatici: Russia, UE e Asia nel mirino
    • Dynatrace e NVIDIA a supporto delle implementazioni di AI Factory
    • Sicurezza: AI sempre più sfidante
    • Oracle EU Sovereign Cloud conquista le organizzazioni tedesche
    • Progettare il futuro con Red Hat Enterprise Linux 10
    • AI e Partnership pilastri della strategia di SAP
    • Elisabetta Franchi: A Convention of Fashion and Imagination in Mold
    Facebook X (Twitter) Vimeo Instagram LinkedIn RSS
    LineaEDPLineaEDP
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    LineaEDPLineaEDP
    Sei qui:Home»Rubriche»Sicurezza»ChatGPT, i rischi per il business e come prevenirli

    ChatGPT, i rischi per il business e come prevenirli

    By Redazione LineaEDP04/07/20234 Mins Read
    Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email

    Alessio Mercuri, Security Engineer di Vectra AI, evidenzia i rischi per il business legati all’uso di LLM (Large Language Model) come ChatGPT e spiega in che modo la Network Detection and Response (NDR) si rivela utile anche per monitorare il ricorso a questi sistemi da parte dei propri dipendenti

    chatgpt
    Alessio Mercuri, Security Engineer di Vectra AI

    Da quando è tornata online anche in Italia, dopo il blocco iniziale disposto dal Garante della privacy, ChatGPT è diventata rapidamente uno strumento utilizzato anche sul lavoro, non solo come passatempo, ma come vera e propria risorsa cui attingere per svolgere alcune mansioni in modo più rapido ed efficace. L’avvento del chatbot di OpenAI ha infatti rivoluzionato la comune percezione dell’AI, che oggi viene sempre più spesso considerata uno strumento accessibile, facile da usare e utile per avere risposte in tempi rapidi.

    Tuttavia, come hanno rilevato gli esperti di Vectra AI, a livello aziendale il ricorso a strumenti come ChatGPT pone almeno tre problemi. Il primo ha a che fare con la protezione delle informazioni: tutti i dati inviati a ChatGPT vengono memorizzati da OpenAI per scopi di qualità e tracciamento. OpenAI tiene traccia cioè delle informazioni fornite dagli utenti per poter migliorare le risposte e per monitorare eventuali abusi del sistema. Ciò appare ragionevole dal punto di vista dell’applicazione, ma non sappiamo come vengano trattate queste informazioni, che potrebbero contenere dati sensibili o riservati.

    Il secondo problema è che ChatGPT risponde alle domande senza citare le fonti delle sue risposte. Il chatbot rilascia dichiarazioni basate sui risultati delle sue ricerche e che potrebbero perciò contenere informazioni protette da copyright, senza che ciò sia segnalato in alcun modo dall’applicazione. Gli LLM (Large Language Model) come ChatGPT non sono infatti tenuti a effettuare controlli sulla proprietà intellettuale delle proprie risposte, con l’effetto di rendere potenzialmente perseguibili gli utenti che le utilizzano.

    Tuttavia, il problema più grande di ChatGPT è rappresentato da quelle che in gergo vengono chiamate “allucinazioni”, ovvero gli errori grossolani contenuti nelle risposte che dipendono dai limiti stessi della tecnologia e dal bagaglio limitato di conoscenze su cui si fonda. Poiché non c’è alcuna trasparenza su come ChatGPT formuli le sue risposte, sono gli utenti a doverle analizzare criticamente per valutarne l’attendibilità. Gli LLM rispondono sempre con assoluta sicurezza, anche quando le risposte sono in parte o del tutto sbagliate.

    Per evitare di incorrere in questi problemi, molte organizzazioni stanno adottando policy interne che vietano l’uso di OpenAI senza approvazione dell’azienda. Tuttavia, è difficile garantire il rispetto di queste regole, dal momento che per accedere a ChatGPT basta un browser crittografato. Come fa, dunque, un’azienda a sapere se i suoi dipendenti stanno usando il chatbot?

    Vectra NDR monitora l’uso di ChatGPT

    Vectra AI è in grado di rilevare questa attività. La piattaforma Vectra NDR è progettata infatti per monitorare tutto il traffico di rete dell’organizzazione, con sensori accuratamente posizionati che monitorano il traffico in entrata e in uscita, ma anche all’interno della rete

    stessa. Questa profondità di analisi alimenta il framework di rilevamento basato sull’intelligenza artificiale di Vectra e consente anche di ottenere importanti informazioni in materia di compliance, che abbiamo raccolto nella ChatGPT Usage Dashboard.

    Questa dashboard, disponibile gratuitamente per tutti i clienti della piattaforma Vectra, mostra gli host dell’ambiente aziendale che stanno interagendo attivamente con OpenAI, monitorando le richieste DNS ai server OpenAI effettuate da qualsiasi host. Ciò consente ai responsabili aziendali di avere a disposizione rapidamente non solo un elenco di persone che hanno un account con OpenAI, ma di monitorare attivamente chi sta utilizzando il sistema e quanto lo sta utilizzando.

    Questa dashboard è resa ancora più potente dalla tecnologia di attribuzione dell’ID host brevettata da Vectra, che consente di tracciare gli utenti in modo approfondito. Anche quando gli indirizzi IP delle macchine cambiano o un laptop si unisce a una nuova rete, Vectra lo traccia come se si trattasse della stessa macchina, in modo che la dashboard mostri esattamente la frequenza di accesso a ChatGPT da parte di un dispositivo. Ciò consente anche di individuare il probabile utente. Grazie alla ChatGPT Usage Dashboard di Vectra, è possibile vedere quali host stanno utilizzando ChatGPT e sapere anche chi contattare in pochi minuti.

    A cura di Alessio Mercuri, Security Engineer di Vectra AI

     

    ChatGPT cybersecurity Vectra AI
    Share. Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email
    Redazione LineaEDP
    • Facebook
    • X (Twitter)

    LineaEDP è parte di BitMAT Edizioni, una casa editrice che ha sede a Milano con copertura a 360° per quanto riguarda la comunicazione rivolta agli specialisti dell'lnformation & Communication Technology.

    Correlati

    Attacchi informatici: Russia, UE e Asia nel mirino

    21/05/2025

    Sicurezza: AI sempre più sfidante

    21/05/2025

    Computer ICS sempre sotto minaccia cyber: l’analisi di Kaspersky

    20/05/2025
    Newsletter

    Iscriviti alla Newsletter per ricevere gli aggiornamenti dai portali di BitMAT Edizioni.

    Security Words

    INFRASTRUTTURA APPLICATIVA: PROTEGGIAMOLA

    29/01/2024

    PASSWORD E STRATEGIA

    29/01/2024
    BitMATv – I video di BitMAT
    Transizione 5.0: vuoi il 45% sui software?
    Stormshield: Zero Trust pilastro della security aziendale
    RENTRI: regole pratiche per uscirne vivi
    Vertiv: come evolve il mondo dei data center
    2VS1 incontra GCI: focus sulle competenze
    Defence Tech

    Attacchi informatici: Russia, UE e Asia nel mirino

    21/05/2025

    Sicurezza: AI sempre più sfidante

    21/05/2025

    Computer ICS sempre sotto minaccia cyber: l’analisi di Kaspersky

    20/05/2025

    TA406: cybercrime contro le entità governative ucraine

    19/05/2025
    Report

    Aziende italiane e Intelligenza Artificiale: a che punto siamo?

    12/05/2025

    L’AI irrompe nel manufacturing

    02/05/2025

    L’AI è il futuro, ma senza dati rimane solo una promessa

    02/05/2025

    IBM X-Force Threat Index 2025: vecchi e nuovi trend delle minacce cyber

    18/04/2025
    Rete BitMAT
    • Bitmat
    • BitMATv
    • Top Trade
    • LineaEdp
    • ItisMagazine
    • Speciale Sicurezza
    • Industry 4.0
    • Sanità Digitale
    • Redazione
    • Contattaci
    NAVIGAZIONE
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    Chi Siamo
    Chi Siamo

    BitMAT Edizioni è una casa editrice che ha sede a Milano con una copertura a 360° per quanto riguarda la comunicazione online ed offline rivolta agli specialisti dell'lnformation & Communication Technology.

    Facebook X (Twitter) Instagram Vimeo LinkedIn RSS
    • Contattaci
    • Cookies Policy
    • Privacy Policy
    • Redazione
    © 2012 - 2025 BitMAT Edizioni - P.Iva 09091900960 - tutti i diritti riservati - Iscrizione al tribunale di Milano n° 293 del 28-11-2018 - Testata giornalistica iscritta al ROC

    Type above and press Enter to search. Press Esc to cancel.