微软公布负责任AI指导准则，将限制部分脸部识别能力

微软昨（21）日更新负责任AI的指导准则，将在本月起开始限制AI脸部识别的部分能力。

随着AI能力越来越强，侵犯隐私及对黑人或少数群体辨别度较低的问题，促使科技业及学界推动负责任AI（Responsible AI）的准则，像是微软2019年公布的6项AI开发及应用准则，包括公平、可靠性、隐私及安全性、包容性、透明性及权责等。微软更新版准则则依据新的研究结果再加以改良。

图片来源／微软

新版负责任AI包含三点。首先是语音转录（speech-to-text）技术对少数群体的识别错误率偏高，一项2020年3月研究，特别是黑人及非裔人士的语音听写错误率为白人的近2倍。微软表示，对此将再扩大训练样本的多样性，以提升其技术识别性能。

第二项则是AI声音模拟及脸部识别服务。微软Azure AI的自订神经网络语音（Custom Neural Voice）服务可运用AI技术模拟出和原人物几乎一模一样的声音，虽然娱乐性高，但也可能被用作Deepfake视频，欺骗观者。同样的问题也发生在AI脸部识别应用。应对新准则，微软将为这项服务加入多层管控框架，限制可以使用的客户、明确定义可接受的使用场景，并且清楚告知听者。在脸部识别服务下，微软将限定可用的客户，以及限缩到预先定义的使用场景，也将加入技术控制以避免滥用。

第三项则是限制Azure Face脸部识别服务的能力。依循新准则，微软将拿掉这项服务推论情绪状态，以及识别性别、年龄、微笑、脸部毛发、头发及化妆的能力。以情绪状态为例，科学家对情绪的判定尚未有共识，无法跨各种场景、地区或人口属性适用，草率适用将带来刻板印象、歧视或拒绝服务。

为了避免脸部识别AI技术的差错，微软的Face API将不再提供一般用途系统对接，让这些客户用来扫描人们脸部，根据脸部表情或动作推论出情绪。微软说明，从6月21日起，这项功能已经不再提供给新客户。

既有客户则只能用到2023年6月30日，之后也将关闭。但是一些针对身障人士的受控识别应用场景，微软说会持续支持。另外，微软也承诺将对用来推论人们情绪的所有AI系统谨慎分析，包括使用脸部分析或其他AI科技的系统。