开云体育

新实验室专注于减少人工智能系统的偏见
文章来源:开云体育 发布时间: 2022-10-06 浏览次数:6541981

   

  yabo亚博全站首页登录SMU(南方卫理公会大学)的AT&T虚拟化中心将建立的一个新实验室,其主要目标是对人工智能系统中的偏见进行量化和最小化。Pangiam是人工智能领域的全球领导者之一,是这个智能系统和偏见检测实验室(ISaBEL)的第一个行业合作伙伴。

  ISaBEL的任务是了解人工智能(AI)系统,如面部识别算法,如何在不同的用户群体中运行。该实验室将利用最新的研究、标准和其他同行评议的科学研究,研究如何在这些系统中减轻现有的偏见。

  算法为计算机提供执行特定任务的指令,而不完整的数据或对有缺陷信息的依赖可能会引入偏差。因此,通过支持从机场安全到司法量刑指南等一切事务的算法推动的自动化决策,可能在不经意间对某些群体产生不同的影响。

  ISaBEL将使用各种不同的数据集设计和执行实验,这些数据集将量化AI系统在不同人群中的性能。

  随着实验室的发展,ISaBEL将寻找更多的行业合作伙伴提交他们的算法认证。中心主任Suku Nair说:“SMU的AT&T虚拟化中心是研究这些问题的完美场所,它专注于跨学科研究、教育和培训以及社区拓展。”

  人工智能和计算机视觉(使计算机能够从数字图像和视频中获取信息)都在迅速发展,越来越容易获得和使用。

  “如何研究和减轻人工智能系统中的偏见是一个快速发展的领域,亚博yabo最新官网登录世界各地的研究人员做出了重要贡献。”AT&T中心研究员、生物识别专家约翰·霍华德(John Howard)说。“像ISaBEL这样的实验室将帮助确保这些突破能够发挥最大作用的产品,并就这些重要问题教育下一代计算机科学家。”

  AI行业领导者知道,终端用户必须清楚地了解偏见测量和偏见缓解的进展,以在公众之间建立信任,并推动市场全面采用。

  “在Pangiam,我们致力于通过这样有影响力的努力推动行业向前发展,”Pangiam首席人工智能官Shaun Moore说。“自2018年以来,减少偏见一直是我们团队的重中之重,我们开始公开展示我们为实现跨国家和种族的绩效平等所做的努力。新加坡卫理公会大学是这项研究的完美机构。”


开云体育


最新新闻