UK-US Summit for Democracy gibt ETH-Team als Gewinner eines weltweiten KI-Datenschutz-Wettbewerbs bekannt
Professor Martin Vechev und sein Team haben den ersten Platz in Phase 3: Red Teaming in globaler AI Privacy Prize Challenge gewonnen. Der Wettbewerb regte Forschende auf beiden Seiten des Atlantiks dazu an, Lösungen zu entwickeln, die die gemeinsame Entwicklung von Modellen der künstlichen Intelligenz ermöglichen und gleichzeitig sensible Informationen geheim halten.
Angetrieben von der gemeinsamen Priorität, Daten zur Lösung kritischer globaler Herausforderungen einzusetzen und dabei das Engagement der USA und des Vereinigten Königreichs für demokratische Werte und das Grundrecht auf Privatsphäre zu unterstützen, konzentrierte sich die Challenge auf die Entwicklung von PET-Lösungen für zwei Szenarien: die Vorhersage von Pandemie-Infektionen und die Aufdeckung von Finanzkriminalität. Bei der Herausforderung wurde ein Red-Team/Blue-Team-Ansatz mit zwei Arten von Teilnehmer:innen verwendet: Blaue Teams entwickelten datenschutzfreundliche Lösungen, während rote Teams als Gegenspieler:innen fungierten, um diese Lösungen zu testen.
Das Secure, Reliable, and Intelligent Systems Lab (SRI) unter der Leitung von Professor Martin Vechev belegte in Phase 3 den ersten Platz in den USA. In dieser Phase untersuchten und testeten unabhängige rote Teams von Datenschutzforschenden die Prototypen der blauen Teams auf Datenschutzschwachstellen. Phase 3 des Wettbewerbs begann im November 2022: Die Teams erhielten Zugang zu den Konzeptpapieren des blauen Teams aus Phase 1, um Angriffe auf den Datenschutz zu planen und vorzubereiten. Während des zweieinhalbwöchigen Angriffszeitraums im Februar 2023 erhielten die roten Teams vollen Zugriff auf den Code der blauen Teams, um deren Datenschutzbehauptungen sowohl unter White-Box- als auch unter Black-Box-Angriffen zu bewerten.
Die PETs Prize Challenge war ein einzigartiger Wettbewerb, der erfolgreich eine grosse Anzahl von Forschern zusammenbrachte und interessante und innovative Arbeiten zur Weiterentwicklung der Datenschutztechnologie anregte. Die Gewinner wurden auf dem zweiten Gipfeltreffen für Demokratie Ende März bekannt gegeben.
Über das Team
Das Secure, Reliable, and Intelligent Systems Lab (SRI) ist eine Forschungsgruppe des Departements Informatik der ETH Zürich. Ihr aktueller Forschungsschwerpunkt liegt auf den Gebieten des zuverlässigen, sicheren, robusten und fairen maschinellen Lernens, der probabilistischen und Quantenprogrammierung sowie des maschinellen Lernens für Code. Das Team hat mehrere Forschungsarbeiten über Angriffe auf die Privatsphäre beim föderierten Lernen (FL) veröffentlicht, wie z.B. Angriffe durch Gradient Leakage und deren Erweiterung auf die Verarbeitung natürlicher Sprache und tabellarischer Daten. Die folgenden Mitglieder des SRI waren an dem Wettbewerb beteiligt: Mislav Balunović, Jasper Dekoninck, Dimitar Iliev Dimitrov, Nikola Jovanović, Petar Tsankov, Martin Vechev und Mark Vero.
Weitere Informationen
- Prof. Martin Vechev
- Secure, Reliable, and Intelligent Systems Lab (SRI)
- externe Seite White House Press Release: At Summit for Democracy, the United States and the United Kingdom Announce Winners of Challenge to Drive Innovation in Privacy-enhancing Technologies That Reinforce Democratic Values (31.03.2023)
- externe Seite Meet the Final Winners of the U.S. PETs Prize Challenge