Horizon Europe: Enhancing the Security, Privacy and Robustness of AI Models and Systems (SecureAI)

Voorwaarden 

De resultaten van deze call moeten leiden tot het:

• Ontwikkelen van robuuste AI-modellen die bestand zijn tegen vijandige aanvallen. Onderzoek technieken om AI-modellen en -systemen te versterken tegen vijandige verstoringen, zoals vijandige training, robuuste optimalisatie en verdedigingsmechanismen die de betrouwbaarheid van AI vergroten.
• Verbeteren van de detectie van gemanipuleerde of besmette trainingsgegevens. Verbeter methodologieën om gecompromitteerde datasets te identificeren en te beperken, door gebruik te maken van technieken zoals anomaliedetectie, herkomsttracering en geautomatiseerde gegevensvalidatiemechanismen.
• Het aanpakken van het concept van Private AI door mechanismen te ontwikkelen waarmee AI-modellen kunnen worden getraind, geïmplementeerd en gebruikt in omgevingen waarin de privacy wordt gewaarborgd, met name voor gevoelige gebruikssituaties, zoals bijvoorbeeld voor overheids- en bedrijfsomgevingen.

Criteria voor indienen

• Houdt rekening met het inbouwen van synergiën met AI transparantie en de AI Act.
• Alleen entiteiten uit de EU en landen geassocieerd met Horizon Europe CL 3 komen in aanmerking voor deze subsidie.