• BitMAT
  • BitMATv
  • Top Trade
  • Linea EDP
  • Itis Magazine
  • Speciale Cloud
  • Industry 4.0
  • Sanità Digitale
  • ReStart in Green
  • Redazione
  • Contattaci
LineaEDP
    Facebook Twitter Vimeo LinkedIn RSS
    Trending
    • CitySCAPE, il trasporto multimodale muove Genova
    • Ansible più accessibile a tutta l’azienda
    • Sistemi scolastici sotto cyberattack
    • Il TCO della resilienza è da imparare
    • Conad: supply chain più intelligente con TESISQUARE
    • WINDTRE: partnership con Pastrovich in ambito data center
    • Endpoint Security Cloud Pro Kaspersky per le PMI
    • Open Day di SMI, spazio alle idee di business
    Facebook Twitter Vimeo LinkedIn RSS
    LineaEDP
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    LineaEDP
    Sei qui:Home»Uncategorized»Modelli linguistici creati dall’IA: alcune minacce evidenti
    Uncategorized

    Modelli linguistici creati dall’IA: alcune minacce evidenti

    Di Redazione LineaEDP16/01/2023Lettura 3 Min
    Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email

    Per WithSecure i modelli linguistici di grandi dimensioni sono suscettibili di abuso attraverso un uso “creativo” dell’ingegneria dei prompt

    Secondo una ricerca di WithSecure (precedentemente nota come F-Secure Business), l’accesso quasi universale a modelli linguistici che forniscono testi dal suono umano in pochi secondi rappresenta un punto di svolta nella storia dell’umanità.

    La ricerca illustra una serie di esperimenti condotti utilizzando i modelli linguistici GPT-3 (Generative Pre-trained Transformer 3) che utilizzano l’apprendimento automatico per generare testo.

    Gli esperimenti hanno utilizzato l’ingegneria dei prompt, un concetto legato ai modelli linguistici di grandi dimensioni (LLM, Large Language Model) che prevede la scoperta di input che producono risultati desiderabili o utili, per produrre una varietà di contenuti che i ricercatori hanno ritenuto malevoli.

    Numerosi esperimenti hanno valutato come le modifiche agli input dei modelli attualmente disponibili influissero sull’output del testo sintetico. L’obiettivo è stato quello di identificare come la generazione di linguaggi AI possa essere utilizzata in modo improprio attraverso un’ingegneria dei prompt maliziosa e creativa, nella speranza che la ricerca possa essere utilizzata per indirizzare la creazione di LLM più sicuri in futuro.

    Gli esperimenti hanno riguardato il phishing e lo spear-phishing, le molestie, la convalida sociale per le truffe, l’appropriazione di uno stile scritto, la creazione di opinioni deliberatamente divisive, l’uso dei modelli per creare suggerimenti per testi malevoli e le fake news.

    Come sottolineato da Andy Patel, ricercatore di WithSecure Intelligence che ha guidato la ricerca firmata con Jason Sattler: «Il fatto che chiunque abbia una connessione a Internet possa accedere a potenti modelli linguistici di grandi dimensioni ha una conseguenza molto pratica: è ora ragionevole supporre che qualsiasi nuova comunicazione ricevuta possa essere stata scritta con l’aiuto di un robot. In futuro, l’uso dell’IA per generare contenuti sia malevoli sia utili richiederà strategie di rilevamento in grado di comprendere il significato e lo scopo dei contenuti scritti».

    Le risposte dei modelli in questi casi d’uso e lo sviluppo generale dei modelli GPT-3 hanno portato i ricercatori a diverse conclusioni, tra cui (ma non solo):

    • L’ingegneria dei prompt si svilupperà come disciplina, così come la creazione di prompt malevoli.
    • Gli avversari svilupperanno capacità abilitate da LLM in modi imprevedibili.
    • L’identificazione di contenuti dannosi o abusivi diventerà più difficile per i fornitori di piattaforme.
    • I modelli linguistici di grandi dimensioni offrono già ai criminali la possibilità di rendere più efficace qualsiasi comunicazione mirata nell’ambito di un attacco.

    Come concluso da Patel: «Abbiamo iniziato questa ricerca prima che ChatGPT rendesse la tecnologia GPT-3 disponibile a tutti. Questo sviluppo ha fatto crescere la nostra urgenza e i nostri sforzi. Perché, in un certo senso, ora siamo tutti Blade Runner e cerchiamo di capire se l’intelligenza con cui abbiamo a che fare è ‘reale’ o artificiale».

     

    AI Generative Pre-trained Transformer 3 intelligenza artificiale LLM modelli linguistici modelli linguistici GPT-3 prompt WithSecure
    Condividi: Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email
    Redazione LineaEDP
    • Facebook
    • Twitter

    LineaEDP è parte di BitMAT Edizioni, una casa editrice che ha sede a Milano con copertura a 360° per quanto riguarda la comunicazione rivolta agli specialisti dell'lnformation & Communication Technology.

    Correlati

    Ansible più accessibile a tutta l’azienda

    30/05/2023

    Endpoint Security Cloud Pro Kaspersky per le PMI

    29/05/2023

    Open Day di SMI, spazio alle idee di business

    29/05/2023
    Newsletter

    Iscriviti alla Newsletter per ricevere gli aggiornamenti dai portali di BitMAT Edizioni.

    BitMATv – I video di BitMAT
    Manager in 9 minuti: Daniele Lopizzo
    Leuze: dai sensori alle soluzioni
    B&R: ti invita a sfidare il suo robot
    SPS 2023: ITG speciale con le voci dei protagonisti
    Advantech e l'intelligenza artificiale
    Defence Tech

    Sistemi scolastici sotto cyberattack

    30/05/2023

    Update completo per Email Archive di Retarus

    26/05/2023

    Con Secure Browser più sicurezza, privacy e produttività

    26/05/2023

    BeDisruptive entra in FIRST, Forum for Response to Incidents and Security Teams

    26/05/2023
    Report

    Le PMI europee investono in tecnologia

    26/05/2023

    Sviluppatori: nove su dieci sono al limite della capacità produttiva

    26/05/2023

    Spring: le architetture moderne continuano a crescere

    22/05/2023

    Network aziendale al centro della digital transformation

    17/05/2023
    Chi Siamo
    Chi Siamo

    BitMAT Edizioni è una casa editrice che ha sede a Milano con una copertura a 360° per quanto riguarda la comunicazione online ed offline rivolta agli specialisti dell'lnformation & Communication Technology.

    Facebook Twitter Vimeo LinkedIn RSS
    Rete BitMAT
    • Bitmat
    • BitMATv
    • Top Trade
    • LineaEdp
    • ItisMagazine
    • Speciale Sicurezza
    • Industry 4.0
    • Sanità Digitale
    • Redazione
    • Contattaci
    NAVIGAZIONE
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    Ultime

    CitySCAPE, il trasporto multimodale muove Genova

    30/05/2023

    Ansible più accessibile a tutta l’azienda

    30/05/2023

    Sistemi scolastici sotto cyberattack

    30/05/2023
    • Contattaci
    • Cookies Policy
    • Privacy Policy
    • Redazione
    © 2012 - 2023 BitMAT Edizioni - P.Iva 09091900960 - tutti i diritti riservati - Iscrizione al tribunale di Milano n° 293 del 28-11-2018 - Testata giornalistica iscritta al ROC

    Scrivi nel campo e premi Invio per cercare. Premi Esc per annullare