微软限制对其部分人工智能服务的访问

微软Microsoft Edge插件网 2年前 (2022-06-24) 596次浏览 已收录 0个评论

人工智能掌握着技术的未来,但落入坏人之手,会给许多人带来麻烦。这就是微软宣布对其负责任的 AI 标准进行一些更改的原因,其中引入了新的有限访问政策。该公司在 6 月 21 日的一些帖子中表示,它现在将删除并限制对其使用 AI 的某些服务的访问。特别是,这些政策变化将影响微软的 Azure Face 面部识别服务和自定义神经语音。

这一变化将极大影响的功能之一是备受争议的面部分析技术,旨在推断个人的情绪状态并识别不同的人类属性,如性别、年龄、微笑、面部毛发、头发和化妆。微软表示,此举是在对隐私的一些担忧以及对“情感”概念的定义缺乏科学共识之后做出的。 

“我们与内部和外部研究人员合作,了解这项技术的局限性和潜在优势,并进行权衡,”Azure AI 首席集团产品经理 Sarah Bird 说。“特别是在情绪分类的情况下,这些努力提出了关于隐私的重要问题,对“情绪”的定义缺乏共识,以及无法概括用例、地区和人口统计数据之间的面部表情和情绪状态之间的联系. 对预测敏感属性功能的 API 访问也开辟了多种可能被滥用的方式——包括使人们受到刻板印象、歧视或不公平地拒绝服务。”

因此,该公司宣布已于 6 月 21 日为新客户提供属性检测功能,而同月 30 日将停止为现有客户提供属性检测功能。尽管如此,微软表示它“认识到这些功能在用于一组受控的可访问性场景时可能很有价值。” 因此,在为残疾人设计的应用程序中不断提供这些功能是一个例外,例如 Seeing AI。

另一方面,微软将限制申请者访问 Azure Face API、计算机视觉和视频索引器中的面部识别服务。根据微软推出的有限访问政策,客户必须通过用例和客户资格要求才能访问操作。当前客户将有一年的时间(直到 2023 年 6 月 30 日)申请并获准继续使用面部识别服务。同时,用于检测模糊、曝光、眼镜、头部姿势、地标、噪声、遮挡和面部边界框的其他面部检测功能将保持可用,无需应用。根据伯德的说法,

最后,微软的自定义神经语音功能也将面临一些限制,以防止可能的滥用。“基于我们从自定义神经语音中学到的知识,我们将对我们的面部识别服务应用类似的控制,”首席负责人工智能官 Natasha Crampton 在另一篇博客文章中写道。“在现有客户的过渡期之后,我们将这些服务的访问权限限制为托管客户和合作伙伴,将用例缩小到预先定义的可接受的用例,并利用设计到服务中的技术控制。”


Edge插件网 , 版权所有丨如未注明 , 均为原创丨本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:微软限制对其部分人工智能服务的访问
喜欢 (0)
发表我的评论
取消评论
表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址