Datenschutzfreundliche KI für den öffentlichen Sektor

• KI-Strategie der Bundesregierung kann mit neuer DSGVO-konformer und leistungsfähiger Technologie zukunftsweisend umgesetzt werden
• Öffentlicher Sektor kann von dezentraler KI (Masked Federated Learning) profitieren
• Positionspapier erläutert Anwendungsbeispiele für öffentliches Gesundheitswesen und Strafverfolgung

Berlin, den 22.06.2021 – Um die KI-Strategie der Bundesregierung umzusetzen, benötigen wir leistungsfähige und gleichzeitig DSGVO-konforme Technologie für den öffentlichen Sektor. Das sogenannte Masked Federated Learning kann diesen hohen Anforderungen an Datenschutz, Vertrauenswürdigkeit und Leistungsfähigkeit entsprechen. In einem heute veröffentlichten Positionspapier beleuchten das Berliner Tech-Unternehmen Xayn und das Digital Society Institute (DSI) der ESMT deshalb die Potenziale dieses dezentralen neuen Ansatzes und nennen konkrete Anwendungsbeispiele aus dem Gesundheitssektor und der Strafverfolgung.  

“Will Deutschland in Zukunft im globalen KI-Wettbewerb mitspielen, brauchen wir auch im öffentlichen Sektor effiziente und vor allem datenschutzfreundliche Technologien. Neue dezentrale Ansätze wie das Masked Federated Learning vereinen beides – und können so zu einem EU-Modell für die verantwortungsvolle KI-Nutzung werden”, erklärt Professor Michael Huth, Chief Research Officer bei Xayn, Dekan am Imperial College London und Ko-Autor der Stellungnahme.  

“Auch in sensiblen Bereichen der Daseinsvorsorge wie dem Gesundheitswesen oder der öffentlichen Sicherheit hat Künstliche Intelligenz große Potentiale. Datenschutzfreundliche Technologien stehen dafür zur Verfügung”, betont Martin Schallbruch, Direktor des Digital Society Institute der ESMT Berlin und Ko-Autor der Stellungnahme.  

Eckpunkte des gemeinsamen Positionspapiers

• Masked Federated Learning ist eine dezentrale Technologie, die Datenschutz und Künstliche Intelligenz (KI) miteinander vereint. Die Rohdaten bleiben stets auf den Endgeräten der Nutzer und trainieren direkt vor Ort lokale KI-Modelle. Diese Modelle werden verschlüsselt zu einem globalen Modell aggregiert und zurückgespielt. Dadurch bleibt der Datenschutz zu jeder Zeit gewahrt, während gleichzeitig die DSGVO-konforme KI effizient trainiert wird.
• Der öffentliche Gesundheitssektor kann vom Einsatz des föderierten Lernens maßgeblich profitieren – zum Beispiel bei der Prävention und Bekämpfung zukünftiger Pandemien. Dazu können sowohl geräte-übergreifende Anwendungen (z. B. Smartphone-Apps zur Einschätzung des persönlichen Risikos) mit silo-übergreifenden Anwendungen (z. B. Datenbanken der Gesundheitsämter zur aktuellen Infektionslage) kombiniert werden. Mit dieser kollaborativen, dezentralisierten Technik könnten Risiken schneller erkannt und eingedämmt werden, während gleichzeitig die hochsensiblen Nutzerdaten auf den Endgeräten verbleiben und so stets geschützt sind.
• Für die öffentliche Sicherheit und Strafverfolgung könnte föderiertes Lernen eingesetzt werden, um Ermittlungen über verschiedene Polizeibehörden hinaus zu unterstützen. Polizeibehörden könnten so von dem Erfahrungswissen anderer Behörden profitieren, ohne die personenbezogenen Informationen miteinander zu teilen. Potenzielle Einsatzgebiete sind zum Beispiel Cybercrimes wie Identitätsdiebstahl oder Delikte mit Bildern sexualisierter Gewalt gegen Kinder und Jugendliche.  
• DSGVO-konforme, leistungsfähige KI kann die Effizienz steigern, das Vertrauen der Bürger*innen in die Verwaltung stärken und zu einem EU-Modell für die verantwortungsvolle Nutzung von KI werden.

Download:  

Das gemeinsame Positionspapier “Künstliche Intelligenz für den öffentlichen Sektor: Masked Federated Learning als datenschutzfreundliche Lösung” können Sie hier herunterladen.

 ____________________

Zu den Autor*innen:  

Professor Michael Huth ist Mitgründer und Chief Research Officer von Xayn und lehrt seit 2001 Computer Science am Imperial College London. Seine Spezialgebiete sind Cybersecurity sowie Sicherheit und Datenschutz beim Machine Learning.

Martin Schallbruch ist Direktor des Digital Society Institute der ESMT Berlin und Lehrbeauftragter am Karlsruher Institut für Technologie. Zuvor war er u. a. Leiter der Abteilung Informationstechnik, Digitale Gesellschaft und Cybersicherheit im Bundesministerium des Innern.

Dr. Leif-Nissen Lundbæk ist Mitgründer und CEO von Xayn. Er studierte Mathematik und Software Engineering in Berlin, Heidelberg sowie Oxford und erhielt seinen Ph.D. am Imperial College London.

Dr. Clara Herdeanu ist Head of Communications von Xayn. Zuvor beriet sie Digitalunternehmen wie Mozilla, StackOverflow und OpenXchange und kommunizierte für den Weltmarktführer ebm-papst.  

Lola Attenberger forscht am Digital Society Institute der ESMT Berlin zu Cybersecurity. Zuvor studierte sie an der Hochschule für Wirtschaft und Recht Berlin.

 ____________________

Über Xayn
Xayn ist eine sichere Suchmaschine, die Nutzer*innen Kontrolle über die Algorithmen gibt und transparent personalisierte Suchergebnisse liefert. Xayn basiert auf aktueller Forschung zu datenschutzfreundlicher Künstlicher Intelligenz aus Europa und hat das Ziel, über nutzerfreundliche Privatsphäre-Technologie Datenschutz für alle zugänglich zu machen.  

Das KI-Unternehmen begann als Forschungsprojekt von Dr. Leif-Nissen Lundbæk und Professor Michael Huth an der Universität Oxford und dem Imperial College London. Zusammen mit Felix Hahmann gründeten sie 2017 das Technologieunternehmen. Der akademische Hintergrund spiegelt sich auch im 27-köpfigen Team, das aus 30 Prozent promovierten Wissenschaftler*innen besteht. Das Berliner Unternehmen entwickelte die Open-Source-Plattform XayNet für Federated Learning und Analytics, auf der auch die Suchmaschine Xayn basiert. Earlybird VC und Dominik Schiener investierten in das Unternehmen, das bereits mit Porsche, Daimler, der Deutschen Bahn und Siemens arbeitete.

Downloads

• Xayn Mobile für iOS and Android
• Bildmaterial (Produkt, Management, Office)
• Company Factsheet, Boilerplate & Management Bios
• Logo

Über die European School of Management and Technology (ESMT Berlin)
Die ESMT Berlin ist die höchstplatzierte Business School in Deutschland und die erste und einzige deutsche Wirtschaftsuniversität in den europäischen Top 10. Von 25 führenden globalen Unternehmen gegründet, bietet die ESMT Master-, MBA- und PhD-Studiengänge sowie Managementweiterbildung an. Die Kurse werden auf dem Berliner Campus, an Standorten weltweit, online sowie als Onlinekurse mit Teilpräsenz angeboten. Mit einem Fokus auf Leadership, Innovation und Analytics veröffentlichen die Professorinnen und Professoren der ESMT regelmäßig ihre Forschungsergebnisse in führenden wissenschaftlichen Zeitschriften. Zusätzlich bietet die ESMT eine Plattform für den Diskurs zwischen Politik, Wirtschaft und Wissenschaft. Die ESMT ist eine staatlich anerkannte private wissenschaftliche Hochschule mit Promotionsrecht, akkreditiert von AACSB, AMBA, EQUIS und FIBAA, und engagiert sich für Vielfalt, Gleichstellung und Inklusion in all ihren Aktivitäten und Gemeinschaften.  

Über das Digital Society Institute (DSI)
Das Digital Society Institute (DSI) ist ein interdisziplinäres Forschungsinstitut der ESMT Berlin, das unterstützt von führenden globalen Unternehmen 2015 gegründet wurde. Es begleitet die wirtschaftliche und gesellschaftliche Gestaltung der Digitalisierung durch strategische Forschung und Entwicklung mit einem Schwerpunkt bei der Cybersicherheit.  

‍