Titolo:
Affrontare l’impatto dell’intelligenza artificiale, della cyberviolenza e dei deepfake sull’uguaglianza, la democrazia e le società inclusive
Addressing the impact of artificial intelligence, cyberviolence, and deepfakes on equality, democracy and inclusive societies
TOPIC ID:
HORIZON-CL2-2027-01-DEMOCRACY-04
Ente finanziatore:
Commissione europea
Programma Horizon Europe
Obiettivi ed impatto attesi:
Risultati attesi
I progetti dovrebbero contribuire a una maggiore comprensione dell’impatto delle tecnologie basate sull’intelligenza artificiale — inclusi deepfake e sistemi automatizzati di generazione dei contenuti — su uguaglianza, partecipazione politica, processi democratici, fiducia pubblica e coesione sociale, fornendo evidenze scientifiche sul loro ruolo nel mitigare o amplificare disuguaglianze e disparità.
Dovrebbero inoltre favorire l’adozione di quadri politici evidence-based per una governance dell’AI responsabile, affidabile e trasparente, integrando aspetti etici, giuridici e sociali al fine di tutelare i diritti fondamentali, mitigare i rischi della disinformazione e garantire un utilizzo equo e sicuro dell’intelligenza artificiale, in linea con il Regolamento europeo sull’AI.
Un ulteriore risultato atteso riguarda il rafforzamento della consapevolezza pubblica e dell’alfabetizzazione mediatica, affinché i cittadini possano identificare e valutare criticamente disinformazione, deepfake e contenuti dannosi online, anche attraverso strumenti basati su evidenze scientifiche per la prevenzione, il rilevamento e la mitigazione di tali fenomeni.
I progetti dovrebbero infine rafforzare la capacità delle istituzioni accademiche di condurre ricerca socialmente rilevante sull’AI e sviluppare modelli affidabili ed etici, grazie a una maggiore collaborazione tra università e industria e a un migliore accesso a infrastrutture computazionali, dataset di qualità, strumenti collaborativi e finanziamenti.
Ambito di applicazione
Il rapido sviluppo e la diffusione delle tecnologie di intelligenza artificiale, insieme al loro utilizzo malevolo tramite contenuti artificialmente generati o manipolati, stanno avendo un impatto profondo sulla democrazia, sull’uguaglianza, sull’inclusione sociale e sulla produzione della conoscenza, contribuendo inoltre all’aumento della cyberviolenza.
Sebbene l’AI offra molte opportunità, il suo utilizzo improprio può amplificare disuguaglianze e squilibri di potere, diffondere misinformation e cyberviolenza contro donne, bambini e minoranze, concentrare il controllo dei dati e compromettere i processi democratici. Questo topic affronta quindi sia l’uso malevolo dell’AI — ad esempio tramite disinformazione generata artificialmente, deepfake e cyberviolenza — sia le conseguenze sociali non intenzionali dell’AI, come opacità algoritmica e amplificazione dei bias.
Il ruolo dell’AI nell’influenzare i media e la fiducia pubblica richiede particolare attenzione, poiché la crescita di contenuti generati o manipolati artificialmente rappresenta una minaccia per i processi democratici e per l’integrità dell’informazione. Un ambito particolarmente critico riguarda l’impatto dell’AI e dei contenuti artificialmente generati sulla cyberviolenza e sugli individui o gruppi che mostrano sfiducia nei confronti della democrazia, soprattutto quando tale sfiducia si intreccia con populismi estremi e interferenze straniere.
Le proposte dovrebbero esplorare come le tecnologie AI-driven possano aggravare oppure mitigare discriminazioni e disuguaglianze basate su sesso, genere, orientamento sessuale, origine etnica o razziale, religione, età e disabilità, in particolare rispetto all’accesso all’informazione, ai processi decisionali e alla rappresentazione pubblica.
È necessaria un’analisi critica di come i dati — spesso già influenzati da bias sociali esistenti — possano rafforzare oppure mettere in discussione strutture sociali dominanti e dinamiche di potere, influenzando percezioni pubbliche e produzione della conoscenza.
La ricerca dovrebbe inoltre analizzare i rischi che queste tecnologie pongono all’integrità democratica attraverso la manipolazione dell’opinione pubblica, dei processi elettorali e dei sistemi di governance. Deepfake e disinformazione generata dall’AI possono distorcere i fatti, diffondere narrazioni false e minare la fiducia pubblica. Per questo motivo è necessaria una comprensione approfondita di come l’AI possa essere utilizzata — o abusata — per influenzare campagne politiche, narrazioni mediatiche, partecipazione civica e diffusione di disinformazione, inclusa quella di genere.
Le proposte sono incoraggiate a esaminare come i contenuti AI-generated nei media, inclusi quelli dell’intrattenimento, influenzino opinione pubblica, narrazioni sociali, stereotipi di genere e partecipazione civica.
Un altro aspetto centrale riguarda la cyberviolenza, comprese molestie online, cyberbullismo, minacce e violenza di genere, aggravate dalla diffusione di contenuti manipolati come deepfake, deep nudes e sextortion basata sull’AI. La ricerca dovrebbe identificare come l’AI amplifichi il danno, quali gruppi siano maggiormente colpiti — in particolare donne e minoranze — e quali interventi possano prevenire e mitigare tali rischi.
Ciò include l’analisi sia della riproduzione involontaria della cyberviolenza attraverso output distorti, sia dell’utilizzo improprio delle piattaforme AI per creare o diffondere contenuti dannosi, discriminatori o violenti. Manca ancora una valutazione completa dei rischi legati all’AI rispetto a sfruttamento sessuale, violenza e danni di genere, necessaria per garantire regolamentazione efficace, supervisione e perseguibilità.
Le proposte dovrebbero inoltre approfondire l’impatto dell’AI su bambini, giovani, donne, anziani e persone LGBTIQ, analizzando i rischi online e offline derivanti dall’esposizione a contenuti manipolati o distorti.
La ricerca dovrebbe sviluppare politiche e pratiche concrete per affrontare le sfide poste dall’AI, tenendo conto del Regolamento europeo sull’AI e delle future linee guida per la sua implementazione. Dovrebbero essere individuate buone pratiche e misure regolatorie per garantire utilizzo etico dell’AI, alfabetizzazione digitale, tutela dell’uguaglianza e integrità democratica.
Un ulteriore tema di ricerca riguarda il crescente ruolo dell’AI nei processi decisionali, politici e giudiziari. Sebbene l’integrazione dell’AI possa migliorare efficienza e rapidità, persistono forti preoccupazioni legate a bias, equità e fairness. Le proposte sono quindi incoraggiate a esplorare l’influenza dell’AI sugli esiti normativi, politici e giudiziari, inclusi gli effetti indesiderati.
Particolare attenzione dovrebbe essere dedicata ai giovani, che rappresentano uno dei gruppi di utenti più attivi delle tecnologie AI. I bias presenti nei contenuti AI-generated possono influenzare percezioni, stereotipi, partecipazione e benessere psicologico e fisico dei giovani utenti. La ricerca dovrebbe quindi analizzare opportunità, rischi e possibili effetti psicologici derivanti dall’esposizione a contenuti distorti o dannosi.
Un focus centrale dovrebbe riguardare il ruolo dell’AI nel rafforzamento della resilienza sociale, nel contrasto alla disinformazione, nella promozione della partecipazione civica e nel supporto alle comunità marginalizzate. Le proposte dovrebbero esplorare strumenti e metodologie innovative e inclusive per individuare e mitigare deepfake, disinformazione e cyberviolenza facilitata dall’AI, favorendone l’adozione da parte di policymaker, sviluppatori tecnologici, organizzazioni mediatiche e cittadini.
Affrontare efficacemente queste sfide richiede un approccio interdisciplinare che combini analisi data-driven e competenze provenienti da informatica, scienze della comunicazione, etica, diritto, scienze politiche, sociologia, psicologia e gender studies, insieme alle prospettive pratiche di coloro che sviluppano e governano le tecnologie AI.
Questa ricerca dovrebbe contribuire alla strategia europea sull’AI, all’implementazione dell’Artificial Intelligence Act e di altri quadri normativi europei, tra cui la Direttiva sulla lotta alla violenza contro le donne e alla violenza domestica e il Digital Services Act. Dovrebbe inoltre alimentare il dibattito internazionale sulla governance etica dell’AI e sull’innovazione responsabile.
Le proposte sono incoraggiate a identificare altri progetti finanziati dall’UE pertinenti e a sviluppare opportunità di collaborazione. I progetti selezionati sono inoltre incoraggiati a collaborare con il Joint Research Centre (JRC) per creare sinergie con le sue attività sull’innovazione nella governance pubblica.
Criteri di eleggibilità:
Qualsiasi soggetto giuridico, indipendentemente dal suo luogo di stabilimento, compresi i soggetti giuridici di Paesi terzi non associati o di organizzazioni internazionali (comprese le organizzazioni internazionali di ricerca europee) può partecipare (indipendentemente dal fatto che sia idoneo o meno al finanziamento), a condizione che siano state soddisfatte le condizioni stabilite dal regolamento Horizon Europe e qualsiasi altra condizione stabilita nel tema specifico del bando. Per “soggetto giuridico” si intende qualsiasi persona fisica o giuridica costituita e riconosciuta come tale ai sensi del diritto nazionale, del diritto dell’UE o del diritto internazionale, dotata di personalità giuridica e che può, agendo in nome proprio, esercitare diritti ed essere soggetta a obblighi, oppure un soggetto privo di personalità giuridica.
I beneficiari e gli enti affiliati devono registrarsi nel Registro dei Partecipanti prima di presentare la domanda, per ottenere un codice di identificazione del partecipante (PIC) ed essere convalidati dal Servizio Centrale di Convalida prima di firmare la convenzione di sovvenzione. Per la convalida, durante la fase di preparazione della sovvenzione, verrà chiesto loro di caricare i documenti necessari che dimostrino il loro status giuridico e la loro origine. Un PIC convalidato non è un prerequisito per presentare una domanda.
Contributo finanziario:
Contributo UE atteso per progetto
La Commissione europea stima che un contributo UE compreso tra 3,50 e 4,00 milioni di euro consentirebbe di raggiungere adeguatamente gli obiettivi previsti. Tuttavia, ciò non esclude la possibilità di presentare e selezionare proposte che richiedano importi differenti.
Budget indicativo
Il budget totale indicativo del topic è pari a 20 milioni di euro.
Tipo di azione
Research and Innovation Actions (RIA).
Condizioni di ammissibilità
Le condizioni sono descritte nell’Allegato Generale B. Si applicano le seguenti eccezioni:
Il Joint Research Centre (JRC) può partecipare come membro del consorzio selezionato per il finanziamento in qualità di beneficiario senza contributo finanziario oppure come partner associato. Il JRC non parteciperà alla preparazione e alla presentazione della proposta.
La partecipazione è soggetta a restrizioni finalizzate alla protezione delle reti di comunicazione europee.
Assetto giuridico e finanziario dei Grant Agreement
Le regole sono descritte nell’Allegato Generale G. Si applicano le seguenti eccezioni:
L’autorità concedente può, fino a 4 anni dopo la conclusione dell’azione, opporsi al trasferimento di proprietà o alla concessione di licenze esclusive sui risultati, come previsto dalla disposizione specifica dell’Allegato 5.
I costi ammissibili assumeranno la forma di contributi lump sum, come definito nella Decisione del 7 luglio 2021 che autorizza l’utilizzo dei contributi forfettari (lump sum) nell’ambito del programma Horizon Europe – Programma Quadro per la Ricerca e l’Innovazione (2021-2027) – e delle azioni previste dal Programma di Ricerca e Formazione della Comunità Europea dell’Energia Atomica (2021-2025).
Scadenza:
23 settembre 2026 alle ore 17:00 (ora di Bruxelles)
Ulteriori informazioni:
5. Culture, Creativity and Inclusive Society
questo bando, in formato pdf, clicca qui.
