安永推出AI可信度评估工具

随着人工智能对社会经济和人们日常生活的影响越来越大，人工智能技术可信度评估工作的重要性日益凸显。近日咨询公司安永会计师事务所（Ernst＆Young）推出了Trusted AI平台，这是一种可通过web访问的服务，可为AI系统的可信性进行评分。

Trusted AI平台考虑了诸如AI模型的目标，人类是否参与循环，以及用于创建模型的基础技术等因素。然后对每个模型进行分析评分。

根据VentureBeat的报道，Trusted AI的评分也受到复杂参数影响，例如基于对用户的影响，同时也会考虑到社会和道德影响等意外后果，对AI治理和控制成熟度的评估将有助于进一步降低人工智能风险。

Trusted AI人工智能平台将于今年晚些时候推出，并将融合安永会计师事务所去年发布的可信人工智能概念框架，以判定人工智能的偏差、道德和社会责任问题。安永的框架规定，建立信任涉及遵守AI设计标准，寻求独立审计，培训高管和AI开发人员对其工作的道德影响，并可能召集道德咨询委员会，例如谷歌最近刚刚解散的那个。

过去一年中，科技界引入了许多工具和服务来检测AI偏差或减轻其负面影响，例如IBM的偏差检测云服务  和Pymetrics开源的AI算法偏差审计工具，麻省理工学院的研究人员也已经引入了自动偏差检测并发表了不牺牲准确性的AI偏差消除方法论文（获取论文下载链接请关注IT经理网微信号：ctociocom，后台回复：人工智能偏差消除）。