Oasis Labs установило партнёрство с Meta для оценки справедливости в моделях ИИ с помощью передовых технологий защиты персональных данных
Это первая в своем роде инициатива, позволяющая обеспечить инклюзивность и справедливость
Эта публикация является переводом, сделанным одним из послов Oasis. Мы проводим строгие проверки для точности переводов, но в них всё же могут попадаться ошибки или несоответствия. Oasis не несет ответственности за точность или надежность перевода. Оригинальную статью вы можете прочитать по ссылке: https://medium.com/oasis-protocol-project/oasis-labs-partners-with-meta-to-assess-fairness-for-its-ai-models-d96d55f76c9b
Мы рады объявить о нашем партнерстве с компанией Meta и запуске платформы для оценки справедливости в алгоритмах продуктов, разрабатываемых Meta, применяя инструменты защиты персональных данных. В качестве технологического партнера компании Meta, Oasis Labs создала платформу, использующую протокол Secure Multi-Party Computation (SMPC) для защиты информации, в ситуации когда Meta предлагает пользователям Instagram на платформе принять участие в опросе, в котором они могут добровольно указать данные о своей расовой или этнической принадлежности.
Проект будет способствовать улучшению оценки справедливости в моделях искусственного интеллекта, что положительно скажется на жизни людей по всему миру и принесет пользу обществу в целом. Эта первая в своем роде платформа сыграет существенную роль в инициативе, которая является значимым шагом на пути к определению того, является ли модель ИИ справедливой, а также к обеспечению необходимого смягчения рисков.
Как платформа будет оценивать справедливость в моделях ИИ
Команды компании Meta, Responsible AI, Instagram Equity, and Civil Rights, разрабатывают дополнительный опрос для людей, которые пользуются Instagram. Пользователям будет предложено на добровольной основе рассказать о своей расовой и/или этнической принадлежности.
Данные, собранные независимой компанией, проводящей опросы, будут конфиденциально переданы партнерским исследовательским институтам таким образом, что ответы пользователя не смогут узнать ни исследовательские организации, ни Meta. Далее полученные результаты обрабатываются исследовательскими организациями, используя зашифрованные показатели алгоритмов искусственного интеллекта. Эти объединенные, обезличенные данные затем криптографически передаются Meta и преобразовываются в совокупные результаты оценки справедливости продуктов Meta. Криптографические технологии, используемые платформой, позволяют Meta измерять предвзятость и справедливость, обеспечивая при этом лицам, предоставляющим конфиденциальные данные демографических показателей, высокий уровень защиты персональных данных.
Подробнее о платформе, ее целях и запуске читайте здесь:
Концепция глобальной инклюзивности и справедливости в моделях ИИ на пользу миллионам людей
Meta и Oasis разделяют общее концептуальное видение в вопросах ответственного применения искусственного интеллекта и ответственного использования персональных данных.
Криптографические технологии, применяемые на платформе, в том масштабе, в котором они будут использоваться, являются беспрецедентными. Это начало нового пути.
“Мы стремимся к тому, чтобы искусственный интеллект Meta, приносил пользу людям и обществу, что требует тесного сотрудничества как внутри компании, так и за ее пределами, с участием различных команд”, — сказал Esteban Arcaute, директор по вопросам искусственного интеллекта Meta. “Методология Secure Multi Party Compute — подход, ориентированный на конфиденциальность, разработанный в партнерстве с Oasis Labs, позволяет проводить важнейшие исследования по оценке справедливости, обеспечивая при этом приоритетную защиту персональных данных людей путем применения хорошо зарекомендовавших себя методов защиты конфиденциальности”.
Вместе с Meta мы в дальнейшем будем разрабатывать способы обеспечения конфиденциальности в более сложных исследований относительно предвзятости. Учитывая желание охватить миллиарды людей в по всему миру, мы надеемся изучить новые возможности использования новейших технологий Web3, поддерживаемые сетями блокчейн. Цель — обеспечить дальнейшую глобальную доступность, проверяемость и прозрачность при проведении и обработке результатов опросов, а также при их использовании в исследованиях.
Профессор Dawn Song, основатель Oasis Labs, сказала: “Мы рады быть технологическим партнером Meta в этой инновационной инициативе по оценке справедливости в моделях ИИ, при этом защищая конфиденциальность пользователей с применением передовых криптографических технологий. Это беспрецедентное использование таких технологий для крупномасштабного измерения справедливости моделей ИИ в реальном мире. Мы рассчитываем на сотрудничество с компанией Meta для создания ответственного искусственного интеллекта и ответственного использования данных в интересах более справедливого и инклюзивного общества”.
Работа и миссия Oasis Labs
Ответственное использование данных и владение ими всегда были в центре нашего внимания. Мы понимаем, что в мире Web3 ни одна организация не может принимать данные пользователей как должное, и мы создаем технологии, чтобы обеспечить владение и контроль над данными в руках людей.
Используя блокчейн, конфиденциальные вычисления и технологии охраны персональных данных, мы стремимся создавать платформы и продукты, которые будут способствовать защите личных данных, управлению данными и ответственному их использованию. Технологии Oasis направлены на то, чтобы разработчикам было легче внедрять инструменты хранения, управления и вычисления данных с сохранением конфиденциальности.
Децентрализация и Web3 открывают возможности для охвата людей по всему миру. В сочетании с конфиденциальностью данных это предоставляет компаниям возможность охватить глобальную аудиторию, получить возможность использовать конфиденциальные данные с сохранением их защиты и создавать более качественные продукты, которые обеспечивают равное отношение ко всем.
Как с нами связаться
Если вы хотите обсудить с Oasis Labs потенциальные возможности партнерства и сотрудничества, пожалуйста, свяжитесь с нами здесь и следите за новостями в Twitter и подпишитесь на нашу информационную рассылку.
Если вы хотите быть в курсе событий, происходящих в Oasis Network, присоединяйтесь к Discord.
