Microsoft искусственный интеллект ИИ распознавание лиц Azure машинное обучение
Так компания борется с дискриминацией с помощью ИИ
21 июня Windows опубликовала документ под названием «Стандарт ответственного ИИ» , в котором пообещала свести к минимуму любой вред, наносимый ее ПО для машинного обучения. Компания пообещала, что обеспечит соблюдение более строгих правил использования ПО.
Microsoft ограничит доступ к инструментам ИИ и моделям распознавания лиц для прогнозирования эмоций, пола и возраста по изображениям. С 21 июня новым клиентам необходимо подать заявку для доступа к использованию системы распознавания лиц в интерфейсах Azure Face, Computer Vision и Video Indexer, а существующим пользователям необходимо в течение года подать заявку и получить разрешение на постоянный доступ к платформам.
С 30 июня 2023 года клиенты не смогут получить доступ к функциям распознавания лиц, если их заявка не будет одобрена. По словам специалистов Microsoft, ограничение доступа добавит дополнительный уровень контроля за службами распознавания лиц.
Microsoft также с 21 июня прекратит возможность анализа лица для определения эмоциональных состояний и деталей лица (пол, возраст, улыбка, растительность на лице и макияж). С помощью этой функции легче создавать стереотипы и дискриминировать личность.
Microsoft продолжит предоставлять доступ к некоторым из технологий посредством интеграции в определенные службы для людей с ограниченными возможностями (например, приложение Seeing AI ). Microsoft порекомендовала клиентам использовать open-source проект Fairlearn и панель Microsoft Fairness Dashboard , чтобы понять работу Azure Cognitive Services .
SECURITYLAB.RU
