2020年，Masheika Allgood和Alexander Tsado与英伟达公司首席执行官黄仁勋(Jensen Huang)会面时感到沮丧。

两人都是该公司黑人员工组织的前总裁，他们花了一年时间与公司其他部门的同事一起做了一份报告，旨在警告黄注意人工智能技术带来的潜在危险，尤其是对少数族裔的潜在危险。

彭博新闻社(Bloomberg News)看到的这份22张幻灯片和其他文件指出，英伟达在塑造人工智能未来方面的作用越来越大——称其芯片正在使人工智能无处不在——并警告称，加强监管审查是不可避免的。讨论内容包括该行业用于自动驾驶汽车的面部识别技术存在偏见的例子。两人告诉彭博社(Bloomberg)，他们的目标是找到一种方法，正面应对人工智能可能带来的危险的意外后果——这些后果可能首先由边缘化社区感受到。

根据Allgood和Tsado的说法，黄在会议中发言最多。他们觉得他并没有真正倾听他们的意见，更重要的是，他们没有意识到英伟达会优先考虑解决人工智能技术中潜在的偏见，这种偏见可能会让代表性不足的群体面临风险。

Tsado是一名产品营销经理，他告诉彭博新闻社，他希望黄明白这个问题需要立即解决——首席执行官可能有等待的奢侈，但“我是服务不足社区的一员，所以对我来说没有什么比这更重要。”我们正在构建这些工具，我看着它们，我在想，这对我不起作用，因为我是黑人。”

此后不久，奥尔古德和查多都离开了公司。奥尔古德表示，她决定辞去软件产品经理一职，是因为英伟达“不愿意在一个对我来说非常重要的领域发挥领导作用”。在领英(linkedIn)的一篇帖子中，她称这次会面是“我职业生涯中最具毁灭性的45分钟”。

虽然Allgood和Tsado已经离开，但他们提出的关于人工智能安全性和包容性的担忧仍然笼罩着该公司，以及整个人工智能行业。在黑人和西班牙裔员工比例方面，这家芯片制造商是大型科技公司中记录最差的公司之一，其一款生成式人工智能产品因未能考虑到有色人种而受到批评。

与此同时，奥尔古德和查多提出的问题也引起了共鸣。尽管英伟达拒绝就会议的细节发表评论，但该公司表示，它“将继续投入大量资源，确保人工智能惠及所有人”。

英伟达在一份声明中表示:“实现安全可靠的人工智能是我们与社区共同努力的目标。”“这将是一个漫长的过程，涉及许多讨论。”

会议的一个议题没有争议。英伟达已经成为人工智能系统部署爆炸式增长的绝对核心。其芯片、电脑和相关软件的销售已经起飞，推动其股价出现了前所未有的上涨。它现在是世界上唯一一家市值达万亿美元的芯片制造商。

曾经的小众计算形式正以先进的聊天机器人、自动驾驶汽车和图像识别的形式进入日常生活。人工智能模型——通过分析现有的大量数据，做出旨在复制人类智能的预测——正在开发中，用于从药物发现、工业设计到广告、军事和安全行业的各个领域。随着这种扩散，对其带来的风险的担忧只会增加。模型通常是在海量数据集上进行训练的，这些数据集是通过收集互联网上的信息和图像创建的。

随着人工智能发展成为一种深入日常生活的技术，一些硅谷员工并没有像对待其他进步那样信任它。黄和他的同事们可能会不断接到那些觉得自己需要被倾听的员工的电话。

尽管埃隆·马斯克(Elon Musk)等硅谷人物表达了对人工智能对人类生存的潜在威胁的担忧，但一些未被充分代表的少数族裔表示，他们面临着一系列更为紧迫的问题。由于没有参与软件和服务的开发，他们担心自动驾驶汽车可能不会为他们停车，或者安全摄像头会错误识别他们。

奥尔古德说:“将多样性引入工作场所的关键在于，我们应该发出自己的声音，帮助公司建立更适合所有社区的工具。”奥尔古德在会议期间表示，她担心用于驱动自动驾驶汽车的有偏见的面部识别技术可能对少数族裔构成更大的威胁。黄回答说，公司将通过在高速公路上测试车辆来降低风险，而不是在城市街道上。

在英伟达，缺乏多样性及其潜在影响尤为重要。根据彭博社从美国平等就业机会委员会收集的数据，根据2021年黑人和西班牙裔员工的比例，在88家标准普尔100指数公司的样本中，只有一家排名低于英伟达。在黑人员工排名最低的五家公司中，有四家是芯片制造商:amd公司、博通公司、高通公司和英伟达。即使按照技术标准——该行业长期以来一直因缺乏多样性而受到批评——这一数字也很低。

奥尔古德回忆说，在会议期间，黄说公司的多样性将确保其人工智能产品符合道德标准。根据彭博社汇编的数据，当时只有1%的英伟达员工是黑人，这一数字从2016年到那时一直没有变化。数据显示，到2020年，英特尔公司和微软公司的这一比例为5%，meta平台公司的这一比例为4%，美国总人口中黑人的比例为14%。了解会议的人士在讨论会议内容时要求匿名，他们说黄的意思是思想的多样性，而不是具体的种族。

根据英伟达的说法，自从奥尔古德和查多与首席执行官会面以来，已经发生了很多事情。该公司表示，它已经做了大量工作，使其人工智能相关产品对每个人都公平、安全。它提供给客户的人工智能模型带有警告标签，它会审查底层数据集以消除偏见。它还寻求确保人工智能一旦部署，仍然专注于其预期目的。

在彭博社看到的日期为2020年3月的电子邮件中，黄确实批准了奥尔古德的一些提案的开始工作，但那时她已经递交了通知。

在Allgood和Tsado离开英伟达后不久，这家芯片制造商聘请了Nikki Pope来领导其内部的Trustworthy人工智能项目。Pope是一本关于错误定罪和监禁的书的合著者，他是现在被称为英伟达人工智能和法律伦理项目的负责人。

竞争对手Alphabet Inc .旗下的谷歌和微软早在几年前就已经成立了类似的人工智能伦理团队。谷歌于2018年公开宣布了其“人工智能原则”，并对其进展进行了更新。微软在2020年的人工智能伦理团队中有一个由30名工程师、研究人员和哲学家组成的团队，其中一些人今年被解雇了。

身为黑人的波普表示，她不接受少数族裔必须直接参与才能产生公正模型的说法。她说，英伟达会检查训练软件使用的数据集，并确保它们具有足够的包容性。

波普在接受采访时表示:“我们提供给客户使用和修改的模型已经经过了测试，那些将与这些模型互动的群体已经得到了代表，我对此感到很放心。”

该公司创建了一个名为NeMo guardails的开源平台，以帮助聊天机器人过滤掉不想要的内容，并保持话题。英伟达现在发布了带有人工智能模型的“模型卡”，上面提供了关于模型的功能、制作方法、预期用途和局限性的更多细节。

英伟达还与内部相关组织合作，使其数据集多样化，并在发布之前对模型进行偏差测试。波普说，自动驾驶汽车的数据集现在接受的图像训练包括推着婴儿车的父母、坐在轮椅上的人以及肤色较深的人。

Pope和同事Liz Archibald(同时也是Nvidia和Black的企业传播总监)表示，他们曾就人工智能的透明度和安全性与Huang进行过一次“艰难的会面”。但他们觉得他的问题让他们的工作更加严谨。

“我认为他的最终目的是对我们的论点进行压力测试，并探究其中的逻辑，以帮助他弄清楚如何才能让整个公司变得更好，”阿奇博尔德在一封电子邮件中说。

一些研究人员表示，少数族裔在科技领域的代表性非常低，尤其是在人工智能领域，如果没有他们的参与，算法可能会出现盲点。纽约大学人工智能研究所(AI Now Institute)的一篇论文将人工智能劳动力缺乏代表性与模型偏见联系起来，称其为“多样性灾难”。

2020年，杜克大学(Duke University)的研究人员开始开发一种软件，利用英伟达(Nvidia)一种名为StyleGAN的大型语言模型，将模糊的图片转换为高分辨率的图像。该模型的开发目的是生成虚假但看起来超真实的人脸，并在照片网站Flickr的图像数据集上进行训练。

当用户使用该工具时，他们发现它在处理包括美国前总统巴拉克·奥巴马和国会女议员亚历山大·奥卡西奥-科尔特斯在内的低分辨率有色人种照片时表现不佳，无意间生成了肤色和眼睛颜色较浅的人脸图像。研究人员后来表示，这种偏见可能来自英伟达的模型，并更新了他们的软件。

英伟达在其代码档案中提到，其版本的数据集是从Flickr收集的，并继承了“该网站的所有偏见”。2022年，它补充说，数据集不应用于“开发或改进面部识别技术”。

根据Pope的说法，被批评的模式已经被一个新的模式所取代。

英伟达加入了一些少数族裔员工担心新技术带来危险的大公司行列，尤其是对有色人种。人工智能伦理研究员蒂姆尼特·格布鲁(Timnit Gebru)在谷歌要求她撤回警告训练人工智能模型危险的论文后，离开了谷歌(Gebru说谷歌解雇了她;公司说她辞职了)。正如《麻省理工科技评论》(MIT Technology Review)所报道的那样，她曾表示，任何使用“大到无法记录”的数据集的方法都存在内在风险。

Gebru和算法正义联盟(Algorithmic Justice League)的创始人Joy Buolamwini发表了一篇名为《性别阴影》(Gender Shades)的论文，该论文展示了面部识别技术在识别女性和有色人种时的错误率如何更高。现在越来越多的研究支持他们的研究，即用于支持人工智能模型的基础数据集存在偏见，可能会伤害少数群体。国际商业机器公司、微软和亚马逊公司已经停止向警察部门出售面部识别技术。

“如果你回顾一下科技行业的历史，就会发现它并不是反映出认真致力于多样性的灯塔，”AI Now Institute董事总经理萨拉·迈尔斯·韦斯特(Sarah Myers West)说。韦斯特是那篇关于人工智能劳动力缺乏多样性的论文的合著者。她说，这个行业长期以来一直不认真对待少数族裔和他们的担忧。

英伟达的人力资源主管谢利·塞里奥告诉彭博社，虽然公司的运作方式像一家初创公司，而且担心生存下去，但它主要是为了满足其直接的技能需求而招聘的:尽可能多地找到拥有更高学位的工程师。现在，英伟达的规模更大了，它在招聘时更加注重多样性。

“我们取得进展了吗?是的，”她说。“我们取得了足够的进展吗?”绝对不是。”

该公司在2020年后改善了对黑人员工的雇用。黑人代表比例从2020年的1.1%增长到2021年的2.5%，这是可获得数据的最近年份。亚裔是该公司最大的族群，其次是白人。

波普表示，该公司的所有努力都不能“保证或消除”偏见，但确实提供了一个多样化的数据集，可以帮助解决这些问题。她说，在一个快节奏的公司，已经发布了数百个模型，扩大她的流程，以解决安全问题是她的角色面临的挑战之一。

这项工作是否足以保证人工智能系统在现实世界中的安全，还需要数年时间才能确定。例如，自动驾驶汽车仍然很少见。

在奥尔古德离开公司前几周，她给黄写了最后一封电子邮件，回顾了她在之前的职业生涯中担任教师的经历。她写道，当她带学生进行实地考察时，她依靠父母和志愿者来帮助她管理他们——这表明，无论多么聪明的人，都无法在野外处理好一群孩子。

“人工智能已经永久地进入了实地考察阶段，”邮件中写道。“你需要同事和一个组织来管理混乱局面。——彭博社

×