Oasis Labs arbeitet mit Meta zusammen, um die Fairness seiner KI-Modelle mithilfe modernster Datenschutztechnologien zu bewerten

Die erste Initiative ihrer Art, die Inklusion und Fairness ermöglicht

Dieser Artikel ist eine inoffizielle Übersetzung der ursprünglichen Veröffentlichung. Die Übersetzung erfolgte durch Marvin, Oasis Labs Botschafter.

Wir freuen uns, unsere Partnerschaft mit Meta und den Start einer Plattform zur Bewertung der Fairness von Metas Produkten bei gleichzeitigem Schutz der Privatsphäre der Menschen bekannt zu geben. Als Technologiepartner von Meta hat Oasis Labs die Plattform entwickelt, die Secure Multi-Party Computation (SMPC) verwendet, um Informationen zu schützen, wenn Meta Nutzer auf Instagram bittet, an einer Umfrage teilzunehmen, in der sie freiwillig ihre Nationalität oder Ethnie angeben können.

Das Projekt wird die Messung von Fairness in KI-Modellen vorantreiben, was sich positiv auf das Leben von Menschen auf der ganzen Welt auswirken und der Gesellschaft als Ganzes zugute kommen wird. Diese einzigartige Plattform wird eine wichtige Rolle in einer Initiative spielen, die einen wichtigen Schritt in Richtung der Feststellung darstellt, ob ein KI-Modell fair ist, und die es ermöglicht, angemessene Abhilfemaßnahmen zu treffen.

Wie die Plattform die Fairness von KI-Modellen bewerten wird

Metas Teams für verantwortungsvolle KI, Instagram-Gerechtigkeit und Bürgerrechte führen eine plattformunabhängige Umfrage unter Instagram-Nutzern ein. Die Nutzer werden gebeten, ihre Nationalität und/oder ethnische Herkunft auf freiwilliger Basis anzugeben.

Die von einem Drittanbieter gesammelten Daten werden an Drittanbieter weitergegeben, so dass die Antworten der Nutzer weder von den Anbietern noch von Meta in Erfahrung gebracht werden können. Die Messung wird dann von den Vermittlern anhand verschlüsselter Vorhersagedaten von KI-Modellen berechnet, die von Meta kryptografisch weitergegeben werden, wobei die kombinierten, nicht identifizierten Ergebnisse der einzelnen Vermittler von Meta in aggregierte Fairnessmessergebnisse umgewandelt werden. Die von der Plattform verwendeten kryptografischen Techniken ermöglichen Meta die Messung von Verzerrungen und Fairness und bieten gleichzeitig Personen, die sensible demografische Messdaten beisteuern, ein hohes Maß an Datenschutz.

Wenn du mehr über die Plattform, ihre Ziele und den Start erfahren möchten, kannst du dich hier über alles weitere informieren!

Eine Vision von globaler Inklusion und Fairness in KI-Modellen zum Nutzen von Millionen

Meta und Oasis haben eine gemeinsame Vision für eine verantwortungsvolle KI und einen verantwortungsvollen Umgang mit Daten.

Die kryptographischen Techniken, die auf der Plattform eingesetzt werden, sind in dem Umfang, in dem sie verwendet werden, beispiellos. Dies ist der Beginn einer neuen Reise.

“Wir wollen sicherstellen, dass die KI bei Meta den Menschen und der Gesellschaft zugute kommt. Dies erfordert eine intensive Zusammenarbeit, sowohl intern als auch extern, zwischen verschiedenen Teams”, so Esteban Arcaute, Director of Responsible AI bei Meta. “Die Secure-Multi-Party-Compute-Methode ist ein datenschutzorientierter Ansatz, der in Zusammenarbeit mit Oasis Labs entwickelt wurde und es ermöglicht, wichtige Messungen zur Fairness durchzuführen und gleichzeitig die Privatsphäre der Menschen durch die Anpassung etablierter datenschutzfreundlicher Methoden im Vordergrund zu halten.”

Gemeinsam mit Meta werden wir weitere datenschutzfreundliche Ansätze für komplexere Bias-Studien erforschen. Angesichts des Wunsches, Milliarden von Menschen überall auf der Welt zu erreichen, hoffen wir, neuartige Einsatzmöglichkeiten für neu entstehende Web3-Technologien zu erforschen, die durch Blockchain-Netzwerke unterstützt werden. Ziel ist es, die globale Zugänglichkeit, Überprüfbarkeit und Transparenz bei der Durchführung und Erhebung von Umfragedaten und deren Verwendung bei Messungen zu verbessern.

Professor Dawn Song, Gründerin von Oasis Labs, sagte: “Wir freuen uns, Technologiepartner von Meta bei dieser bahnbrechenden Initiative zu sein, um Fairness in KI-Modellen zu bewerten und gleichzeitig die Privatsphäre der Nutzer zu schützen, indem wir modernste kryptografische Techniken einsetzen. Dies ist ein noch nie dagewesener Einsatz dieser Techniken für eine groß angelegte Messung der Fairness von KI-Modellen in der realen Welt. Wir freuen uns auf die Zusammenarbeit mit Meta, um eine verantwortungsvolle KI und eine verantwortungsvolle Datennutzung für eine gerechtere und integrativere Gesellschaft zu erreichen.”

Oasis Labs: Arbeit & Mission

Verantwortungsvolle Datennutzung und -eigentum standen schon immer im Vordergrund unserer Kernvision. Wir sind uns bewusst, dass in einer Web3-Welt kein Unternehmen Nutzerdaten als selbstverständlich ansehen kann, und wir entwickeln Technologien, die sicherstellen, dass das Eigentum und die Kontrolle über die Daten in den Händen des Einzelnen liegen.

Mit Hilfe von Blockchain, vertraulichem Computing und Technologien zur Wahrung der Privatsphäre wollen wir Plattformen und Produkte entwickeln, die den Schutz der Privatsphäre des Einzelnen, die Datenverwaltung und die verantwortungsvolle Datennutzung fördern. Die Technologien von Oasis konzentrieren sich darauf, es Entwicklern zu erleichtern, datenschutzfreundliche Datenspeicherung, -verwaltung und -berechnung zu integrieren.

Dezentralisierung und Web3 haben die Fähigkeit, Menschen auf der ganzen Welt zu erreichen. In Verbindung mit dem Datenschutz eröffnet dies den Unternehmen die Möglichkeit, ein globales Publikum zu erreichen, eine datenschutzkonforme Nutzung hochsensibler Daten zu erreichen und bessere Produkte zu entwickeln, die alle Menschen gleich behandeln.

Wir freuen uns auf deine Nachricht!

Wenn du potenzielle Partnerschaften und Kooperationsmöglichkeiten mit Oasis Labs besprechen möchtest, kontaktiere uns bitte hier und bleibe auf dem Laufenden, indem du unserem Twitter-Account folgst und unseren Newsletter abonnierst.

Wenn du über die Entwicklungen des Oasis-Netzwerks auf dem Laufenden gehalten werden möchtest, trete am besten unserem Discord-Kanal bei, folge uns auf Twitter und abonniere den Newsletter.