• BitMAT
  • BitMATv
  • Top Trade
  • Linea EDP
  • Itis Magazine
  • Industry 5.0
  • Sanità Digitale
  • ReStart in Green
  • Speciale Sicurezza
  • Contattaci
Close Menu
LineaEDPLineaEDP
    Facebook X (Twitter) Vimeo Instagram LinkedIn RSS
    Trending
    • Cybersecurity nella difesa: reti resilienti e crittografia post-quantistica
    • Liferay CMS disponibile anche come soluzione indipendente
    • Attacchi informatici Energy & Utilities: casi quasi raddoppiati
    • Abilitatore AI: chi guida l’innovazione in azienda
    • Agenti AI: BMC Helix trasforma la gestione IT
    • Come configurare un backup su cloud in meno di 15 minuti
    • VM API per Kubernetes entra nella CNCF Sandbox
    • Networking self-driving, HPE unifica rete e sicurezza
    Facebook X (Twitter) Vimeo Instagram LinkedIn RSS
    LineaEDPLineaEDP
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    LineaEDPLineaEDP
    Sei qui:Home»Rubriche»Sicurezza»OpenAI-Hugging Face e sicurezza dell’intelligenza artificiale

    OpenAI-Hugging Face e sicurezza dell’intelligenza artificiale

    By Redazione LineaEDP23/07/20262 Mins Read
    Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email

    Il commento di Dmitry Galov, Head of Russia and CIS unit di Kaspersky Global Research and Analysis Team, al caso OpenAI-Hugging Face

    OpenAI-Hugging Face-sicurezza-informatica-ciso-Object First-IndraMind Cybersecurity-sicurezza aziendale

    In seguito al caso emerso durante un test di sicurezza condotto da OpenAI, in cui un modello di intelligenza artificiale ha aggirato le modalità previste per completare un compito arrivando a interagire con la piattaforma Hugging Face, il dibattito sui limiti e sui rischi dei sistemi di IA è tornato al centro dell’attenzione. L’episodio ha riacceso il confronto sul tema dell’allineamento dei modelli e sul loro crescente impiego anche nel settore della cybersecurity.

    Dmitry Galov, Head of Russia and CIS unit di Kaspersky Global Research and Analysis Team, ha commentato la vicenda:

    “L’incidente segnalato tra OpenAI e Hugging Face riflette un problema ben noto nell’ambito del machine learning e della sicurezza dell’IA: i modelli non perseguono sempre l’obiettivo reale previsto dagli esseri umani. Al contrario, spesso imparano a sfruttare le debolezze nella definizione del compito, nel segnale di addestramento o nell’ambiente circostante, soddisfacendo formalmente il benchmark pur non riuscendo a fornire il risultato previsto. In questo caso, il modello di OpenAI sembra aver perseguito l’obiettivo non risolvendo direttamente il compito, ma cercando risposte online, il che lo ha poi portato a compiere azioni esterne del tipo descritto successivamente da Hugging Face. Comportamenti simili sono stati osservati anche in passato, con modelli che sfruttano le debolezze delle sandbox, inventano risposte plausibili o tentano di nascondere gli errori sostituendo dati persi o cancellati con alternative convincenti. Questo fenomeno è comunemente descritto come “disallineamento” ed è una proprietà ben nota dei sistemi avanzati di IA. 

    Allo stesso tempo, questo caso illustra anche la crescente rilevanza dei Large Language Models (LLM) nel campo della sicurezza informatica. Secondo quanto riportato, Hugging Face ha utilizzato il modello GLM-5-2 di Z.ai per analizzare 17.000 eventi di sicurezza generati dal sistema di attacco all’interno del proprio ambiente. La quantità di dati telemetrici raccolti suggerisce che il modello abbia operato in modo relativamente “rumoroso” e poco sofisticato, generando un’attività sufficientemente rilevabile da consentire all’azienda di identificare e contenere rapidamente l’incidente. 

    Nel complesso, questo caso evidenzia due aspetti. In primo luogo, i modelli avanzati sono già in grado di eseguire molte delle azioni che compongono le operazioni informatiche. In secondo luogo, anche l’efficacia delle attività di rilevamento e risposta trae sempre più vantaggio dall’intelligenza artificiale. Nella nostra attività di ricerca riscontriamo regolarmente prove del fatto che i Large Language Models (LLM) vengano utilizzati anche in attività offensive”.

    Kaspersky
    Share. Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email
    Redazione LineaEDP
    • Facebook
    • X (Twitter)

    LineaEDP è parte di BitMAT Edizioni, una casa editrice che ha sede a Milano con copertura a 360° per quanto riguarda la comunicazione rivolta agli specialisti dell'lnformation & Communication Technology.

    Correlati

    Cybersecurity nella difesa: reti resilienti e crittografia post-quantistica

    20/11/2026

    Attacchi informatici Energy & Utilities: casi quasi raddoppiati

    20/11/2026

    Crittografia post-quantistica: i settori critici sono in ritardo

    19/11/2026
    Newsletter

    Iscriviti alla Newsletter per ricevere gli aggiornamenti dai portali di BitMAT Edizioni.

    Security Words

    INFRASTRUTTURA APPLICATIVA: PROTEGGIAMOLA

    29/01/2024

    PASSWORD E STRATEGIA

    29/01/2024
    BitMATv – I video di BitMAT
    Agenti AI: BMC Helix trasforma la gestione IT
    AI agentica: come cambia il futuro del SOC
    Meno password, più cure
    Data center, CTS Group punta sull’Italia
    Jabra PanaCast U30 alla prova: fare “Call” intelligenti con un solo cavo USB-C
    Defence Tech

    Cybersecurity nella difesa: reti resilienti e crittografia post-quantistica

    20/11/2026

    Attacchi informatici Energy & Utilities: casi quasi raddoppiati

    20/11/2026

    Crittografia post-quantistica: i settori critici sono in ritardo

    19/11/2026

    Cybersecurity delle infrastrutture critiche: 3.271 eventi in Italia

    19/11/2026
    Report

    Adozione dell’AI, le priorità delle imprese italiane

    13/11/2026

    Cyber resilienza: le priorità delle imprese europee

    10/11/2026

    Intelligenza artificiale, 8 agenti su 10 lavorano dietro le quinte

    22/10/2026

    Governance dell’AI agentica, il 70% delle aziende non è pronto

    15/10/2026
    Rete BitMAT
    • Bitmat
    • BitMATv
    • Top Trade
    • LineaEdp
    • ItisMagazine
    • Speciale Sicurezza
    • Industry 4.0
    • Sanità Digitale
    • Redazione
    • Contattaci
    NAVIGAZIONE
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    Chi Siamo
    Chi Siamo

    LineaEDP è una testata giornalistica appartenente al gruppo BitMAT Edizioni, una casa editrice che ha sede a Milano con una copertura a 360° per quanto riguarda la comunicazione online ed offline rivolta agli specialisti dell'lnformation & Communication Technology.

    Facebook X (Twitter) Instagram Vimeo LinkedIn RSS
    • Contattaci
    • Cookies Policy
    • Privacy Policy
    • Redazione
    © 2012 - 2026 BitMAT Edizioni - P.Iva 09091900960 - tutti i diritti riservati - Iscrizione al tribunale di Milano n° 293 del 28-11-2018 - Testata giornalistica iscritta al ROC

    Type above and press Enter to search. Press Esc to cancel.