• BitMAT
  • BitMATv
  • Top Trade
  • Linea EDP
  • Itis Magazine
  • Speciale Stampanti
  • Industry 4.0
  • Sanità Digitale
  • ReStart in Green
  • Redazione
  • Contattaci
LineaEDP
    Facebook Twitter Vimeo LinkedIn RSS
    Trending
    • AWS democratizza l’accesso all’AI
    • Il Verizon Threat Research Advisory Center compie 20 anni
    • Tecnologie quantistiche al Politecnico di Torino
    • Il futuro visto Oracle
    • ITPS acquisita da Paessler
    • DORA: che impatto avrà sulla sovranità dei dati in Europa?
    • Integrazione applicativa: scenari e sfide
    • PMI europee: oltre un terzo negli ultimi 12 mesi ha subito cyberattacchi
    Facebook Twitter Vimeo LinkedIn RSS
    LineaEDP
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    LineaEDP
    Sei qui:Home»Uncategorized»Modelli linguistici creati dall’IA: alcune minacce evidenti

    Modelli linguistici creati dall’IA: alcune minacce evidenti

    Di Redazione LineaEDP16/01/2023Lettura 3 Min
    Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email

    Per WithSecure i modelli linguistici di grandi dimensioni sono suscettibili di abuso attraverso un uso “creativo” dell’ingegneria dei prompt

    Secondo una ricerca di WithSecure (precedentemente nota come F-Secure Business), l’accesso quasi universale a modelli linguistici che forniscono testi dal suono umano in pochi secondi rappresenta un punto di svolta nella storia dell’umanità.

    La ricerca illustra una serie di esperimenti condotti utilizzando i modelli linguistici GPT-3 (Generative Pre-trained Transformer 3) che utilizzano l’apprendimento automatico per generare testo.

    Gli esperimenti hanno utilizzato l’ingegneria dei prompt, un concetto legato ai modelli linguistici di grandi dimensioni (LLM, Large Language Model) che prevede la scoperta di input che producono risultati desiderabili o utili, per produrre una varietà di contenuti che i ricercatori hanno ritenuto malevoli.

    Numerosi esperimenti hanno valutato come le modifiche agli input dei modelli attualmente disponibili influissero sull’output del testo sintetico. L’obiettivo è stato quello di identificare come la generazione di linguaggi AI possa essere utilizzata in modo improprio attraverso un’ingegneria dei prompt maliziosa e creativa, nella speranza che la ricerca possa essere utilizzata per indirizzare la creazione di LLM più sicuri in futuro.

    Gli esperimenti hanno riguardato il phishing e lo spear-phishing, le molestie, la convalida sociale per le truffe, l’appropriazione di uno stile scritto, la creazione di opinioni deliberatamente divisive, l’uso dei modelli per creare suggerimenti per testi malevoli e le fake news.

    Come sottolineato da Andy Patel, ricercatore di WithSecure Intelligence che ha guidato la ricerca firmata con Jason Sattler: «Il fatto che chiunque abbia una connessione a Internet possa accedere a potenti modelli linguistici di grandi dimensioni ha una conseguenza molto pratica: è ora ragionevole supporre che qualsiasi nuova comunicazione ricevuta possa essere stata scritta con l’aiuto di un robot. In futuro, l’uso dell’IA per generare contenuti sia malevoli sia utili richiederà strategie di rilevamento in grado di comprendere il significato e lo scopo dei contenuti scritti».

    Le risposte dei modelli in questi casi d’uso e lo sviluppo generale dei modelli GPT-3 hanno portato i ricercatori a diverse conclusioni, tra cui (ma non solo):

    • L’ingegneria dei prompt si svilupperà come disciplina, così come la creazione di prompt malevoli.
    • Gli avversari svilupperanno capacità abilitate da LLM in modi imprevedibili.
    • L’identificazione di contenuti dannosi o abusivi diventerà più difficile per i fornitori di piattaforme.
    • I modelli linguistici di grandi dimensioni offrono già ai criminali la possibilità di rendere più efficace qualsiasi comunicazione mirata nell’ambito di un attacco.

    Come concluso da Patel: «Abbiamo iniziato questa ricerca prima che ChatGPT rendesse la tecnologia GPT-3 disponibile a tutti. Questo sviluppo ha fatto crescere la nostra urgenza e i nostri sforzi. Perché, in un certo senso, ora siamo tutti Blade Runner e cerchiamo di capire se l’intelligenza con cui abbiamo a che fare è ‘reale’ o artificiale».

     

    AI Generative Pre-trained Transformer 3 intelligenza artificiale LLM modelli linguistici modelli linguistici GPT-3 prompt WithSecure
    Condividi: Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email
    Redazione LineaEDP
    • Facebook
    • Twitter

    LineaEDP è parte di BitMAT Edizioni, una casa editrice che ha sede a Milano con copertura a 360° per quanto riguarda la comunicazione rivolta agli specialisti dell'lnformation & Communication Technology.

    Correlati

    AWS democratizza l’accesso all’AI

    01/10/2023

    IA in azienda: le sfide da affrontare

    28/09/2023

    Joule, il nuovo assistente di AI generativa di SAP

    27/09/2023
    Newsletter

    Iscriviti alla Newsletter per ricevere gli aggiornamenti dai portali di BitMAT Edizioni.

    BitMATv – I video di BitMAT
    Italian Machine Vision Forum il 3 ottobre
    Guido Pellegata: “46 anni di lavoro… senza lavorare”
    Attacco hacker? Reagire in modo efficace con IBM Security QRadar Suite
    Exor aiuta gli OEM
    SPECIALE ITG: IL MEGLIO DI SPS 2023
    Defence Tech

    PMI europee: oltre un terzo negli ultimi 12 mesi ha subito cyberattacchi

    28/09/2023

    Akito: il tuo alleato per la cybersecurity

    28/09/2023

    BeDisruptive lancia Managed SASE

    28/09/2023

    Attacchi malware su dispositivi ICS: allarme in Italia

    26/09/2023
    Report

    DevOps: imperativo strategico per le grandi organizzazioni?

    28/09/2023

    Banda Ultra Larga per una crescita inclusiva

    27/09/2023

    Software: perché sceglierlo di qualità

    19/09/2023

    Modernizzazione del mainframe, risparmio sicuro

    13/09/2023
    Chi Siamo
    Chi Siamo

    BitMAT Edizioni è una casa editrice che ha sede a Milano con una copertura a 360° per quanto riguarda la comunicazione online ed offline rivolta agli specialisti dell'lnformation & Communication Technology.

    Facebook Twitter Vimeo LinkedIn RSS
    Rete BitMAT
    • Bitmat
    • BitMATv
    • Top Trade
    • LineaEdp
    • ItisMagazine
    • Speciale Sicurezza
    • Industry 4.0
    • Sanità Digitale
    • Redazione
    • Contattaci
    NAVIGAZIONE
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    Ultime

    AWS democratizza l’accesso all’AI

    01/10/2023

    Il Verizon Threat Research Advisory Center compie 20 anni

    29/09/2023

    Tecnologie quantistiche al Politecnico di Torino

    29/09/2023
    • Contattaci
    • Cookies Policy
    • Privacy Policy
    • Redazione
    © 2012 - 2023 BitMAT Edizioni - P.Iva 09091900960 - tutti i diritti riservati - Iscrizione al tribunale di Milano n° 293 del 28-11-2018 - Testata giornalistica iscritta al ROC

    Scrivi nel campo e premi Invio per cercare. Premi Esc per annullare