• BitMAT
  • BitMATv
  • Top Trade
  • Linea EDP
  • Itis Magazine
  • Industry 5.0
  • Sanità Digitale
  • ReStart in Green
  • Contattaci
Close Menu
LineaEDPLineaEDP
    Facebook X (Twitter) Vimeo Instagram LinkedIn RSS
    Trending
    • Navigare in rete in modo sicuro: consigli pratici ed accorgimenti per non correre rischi
    • Attacchi informatici: Russia, UE e Asia nel mirino
    • Dynatrace e NVIDIA a supporto delle implementazioni di AI Factory
    • Sicurezza: AI sempre più sfidante
    • Oracle EU Sovereign Cloud conquista le organizzazioni tedesche
    • Progettare il futuro con Red Hat Enterprise Linux 10
    • AI e Partnership pilastri della strategia di SAP
    • Elisabetta Franchi: A Convention of Fashion and Imagination in Mold
    Facebook X (Twitter) Vimeo Instagram LinkedIn RSS
    LineaEDPLineaEDP
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    LineaEDPLineaEDP
    Sei qui:Home»Rubriche»Sicurezza»Raccomandazioni basate sull’IA a rischio manipolazione

    Raccomandazioni basate sull’IA a rischio manipolazione

    By Redazione LineaEDP29/06/20214 Mins Read
    Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email

    Gli esperimenti dimostrano quanto possa essere facile per un attaccante manipolare le raccomandazioni basate sull’IA

    I sistemi di raccomandazioni basate sull’IA (intelligenza artificiale) sono utilizzati in molti servizi online di cui beneficiamo oggi, compresi i motori di ricerca, i siti di shopping online, i servizi di streaming e i social media. Tuttavia, la loro crescente influenza su ciò che le persone vedono e fanno su Internet ha sollevato preoccupazioni circa la loro suscettibilità a vari tipi di abusi, come il loro utilizzo nella diffusione di disinformazione e nella promozione di teorie cospirative.

    Andy Patel, un ricercatore del centro di eccellenza per l’intelligenza artificiale del fornitore di sicurezza informatica F-Secure, ha recentemente completato una serie di esperimenti per apprendere come semplici tecniche di manipolazione possano influenzare le raccomandazioni basate sull’IA su un social network.

    Come sottolineato in una nota ufficiale dallo stesso Patel: «Twitter e altre reti sono diventati campi di battaglia in cui diverse persone e gruppi spingono diverse narrazioni. Queste includono conversazioni organiche e annunci, ma anche messaggi destinati a minare ed erodere la fiducia nelle informazioni legittime. Esaminare come questi “combattenti” possano manipolare l’IA aiuta a far emergere i limiti di ciò che l’intelligenza artificiale può realisticamente fare, e idealmente, come può essere migliorata».

    I social media alle prese con raccomandazioni basate sull’IA manipolate

    Un sondaggio del PEW Research Center condotto alla fine del 2020 ha scoperto che il 53% degli americani ottiene notizie dai social media. Gli intervistati di età compresa tra i 18 e i 29 anni hanno identificato i social media come la loro fonte più frequente di notizie. Allo stesso tempo, la ricerca ha evidenziato i potenziali rischi nell’affidarsi ai social media come fonte: un’indagine del 2018 ha scoperto che i post di Twitter contenenti falsità hanno il 70% di probabilità in più di essere retwittati.

    Per la sua ricerca, Patel ha raccolto dati da Twitter e li ha utilizzati per addestrare modelli di filtraggio collaborativo (o collaborative filtering, un tipo di apprendimento automatico utilizzato per codificare le somiglianze tra utenti e contenuti in base alle interazioni precedenti) da utilizzare nei sistemi di raccomandazioni basati su IA. Poi, ha eseguito esperimenti che prevedevano il riaddestramento di questi modelli utilizzando set di dati contenenti retweet aggiuntivi (quindi avvelenando i dati) tra account selezionati per vedere come cambiavano le raccomandazioni.

    Selezionando gli account appropriati per il retweet e variando il numero di account che eseguono retweet insieme al numero di retweet che hanno pubblicato, anche un numero molto piccolo di retweet era sufficiente a manipolare il sistema di raccomandazioni per promuovere gli account il cui contenuto è stato condiviso attraverso i retweet iniettati.

    Mentre gli esperimenti sono stati condotti utilizzando versioni semplificate dei meccanismi di IA che le piattaforme di social media e altri siti web probabilmente impiegano quando forniscono raccomandazioni agli utenti, Patel ritiene che Twitter e molti altri servizi popolari stiano già affrontando questi attacchi nel mondo reale.

    Come sostenuto da Patel: «Abbiamo eseguito test su modelli semplificati per comprendere meglio come i veri attacchi potrebbero effettivamente funzionare. Penso che le piattaforme di social media stiano già affrontando attacchi simili a quelli dimostrati in questa ricerca, ma per queste organizzazioni è difficile essere certi che questo è ciò che sta accadendo, perché vedono solo il risultato, non come funziona».

    Come proteggere l’intelligenza artificiale da potenziali abusi

    Secondo Matti Aksela, Vice President of Artificial Intelligence di F-Secure, è importante riconoscere e affrontare le potenziali sfide con la sicurezza dell’IA.

    «Poiché ci affideremo sempre di più all’IA in futuro, dobbiamo capire cosa fare per proteggerla da potenziali abusi. Il fatto che l’IA e il machine learning alimentino in misura crescente i servizi da cui dipendiamo ci richiede di capirne i punti di forza e di debolezza in termini di sicurezza, oltre ai benefici che possiamo ottenere, in modo da poterci fidare dei risultati. L’IA sicura è il fondamento dell’IA affidabile» ha dichiarato Aksela.

     

    Andy Patel F-Secure intelligenza artificiale raccomandazioni basate sull’IA social network
    Share. Facebook Twitter LinkedIn Reddit Telegram WhatsApp Email
    Redazione LineaEDP
    • Facebook
    • X (Twitter)

    LineaEDP è parte di BitMAT Edizioni, una casa editrice che ha sede a Milano con copertura a 360° per quanto riguarda la comunicazione rivolta agli specialisti dell'lnformation & Communication Technology.

    Correlati

    Attacchi informatici: Russia, UE e Asia nel mirino

    21/05/2025

    Sicurezza: AI sempre più sfidante

    21/05/2025

    Computer ICS sempre sotto minaccia cyber: l’analisi di Kaspersky

    20/05/2025
    Newsletter

    Iscriviti alla Newsletter per ricevere gli aggiornamenti dai portali di BitMAT Edizioni.

    Security Words

    INFRASTRUTTURA APPLICATIVA: PROTEGGIAMOLA

    29/01/2024

    PASSWORD E STRATEGIA

    29/01/2024
    BitMATv – I video di BitMAT
    Transizione 5.0: vuoi il 45% sui software?
    Stormshield: Zero Trust pilastro della security aziendale
    RENTRI: regole pratiche per uscirne vivi
    Vertiv: come evolve il mondo dei data center
    2VS1 incontra GCI: focus sulle competenze
    Defence Tech

    Attacchi informatici: Russia, UE e Asia nel mirino

    21/05/2025

    Sicurezza: AI sempre più sfidante

    21/05/2025

    Computer ICS sempre sotto minaccia cyber: l’analisi di Kaspersky

    20/05/2025

    TA406: cybercrime contro le entità governative ucraine

    19/05/2025
    Report

    Aziende italiane e Intelligenza Artificiale: a che punto siamo?

    12/05/2025

    L’AI irrompe nel manufacturing

    02/05/2025

    L’AI è il futuro, ma senza dati rimane solo una promessa

    02/05/2025

    IBM X-Force Threat Index 2025: vecchi e nuovi trend delle minacce cyber

    18/04/2025
    Rete BitMAT
    • Bitmat
    • BitMATv
    • Top Trade
    • LineaEdp
    • ItisMagazine
    • Speciale Sicurezza
    • Industry 4.0
    • Sanità Digitale
    • Redazione
    • Contattaci
    NAVIGAZIONE
    • Cio
    • Cloud
    • Mercato
    • News
    • Tecnologia
    • Case History
    • Report
    • Sicurezza
    • IOT
    Chi Siamo
    Chi Siamo

    BitMAT Edizioni è una casa editrice che ha sede a Milano con una copertura a 360° per quanto riguarda la comunicazione online ed offline rivolta agli specialisti dell'lnformation & Communication Technology.

    Facebook X (Twitter) Instagram Vimeo LinkedIn RSS
    • Contattaci
    • Cookies Policy
    • Privacy Policy
    • Redazione
    © 2012 - 2025 BitMAT Edizioni - P.Iva 09091900960 - tutti i diritti riservati - Iscrizione al tribunale di Milano n° 293 del 28-11-2018 - Testata giornalistica iscritta al ROC

    Type above and press Enter to search. Press Esc to cancel.