为了给予关注人工智能的女性学者和其他人应得的 — 并且已经过期的时间,TechCrunch一直在发表一系列采访,聚焦于为人工智能革命作出贡献的杰出女性。我们将在整个年度内发布这些文章,以突显常常被忽视的重要工作。阅读更多人物介绍请点击这里。
Sarah Myers West是人工智能现状研究所的执行董事,这是一家致力于研究人工智能社会影响和政策研究的美国研究机构,致力解决科技行业权力过于集中的问题。她曾在美国联邦贸易委员会担任人工智能高级顾问,并且是东北大学的访问研究科学家,以及康奈尔公民和科技实验室的研究员。
您是如何开始从事人工智能领域的呢?什么吸引了您投入到这个领域?
在过去的15年里,我一直在审视科技公司作为强大的政治行动者的角色,当它们出现在国际治理的最前线时。职业生涯早期,我观察了美国科技公司如何改变了世界各地的政治格局 —— 在东南亚、中国、中东等地 —— 并撰写了一本书,深入探讨了工业游说和监管如何塑造了互联网监控商业模式的起源,尽管在理论上提供了替代方案的技术在实践中未能实现。
在职业生涯的许多时刻,我一直想知道,“我们为什么被锁定在这个非常反乌托邦的未来愿景中?”答案很少与科技本身有关,而与公共政策和商业化有关。
那几乎是我的项目,无论是在我的研究生涯还是现在作为AI Now的联合主管的政策工作中。如果人工智能是我们日常生活基础设施的一部分,我们需要批判性地审视生产它的机构,并确保作为一个社会我们有足够的摩擦 —— 无论是通过监管还是组织 —— 来确保到最后服务的是公众的需求,而不是科技公司的需求。
在人工智能领域,您最自豪的工作是什么?
我为我们在联邦贸易委员会开展的工作感到非常自豪,该机构是美国政府机构之一,除其他事项外,还负责对人工智能进行监管执法。我喜欢动手处理案件。我能够利用我作为研究员的方法论训练参与调查工作,因为基本上工具箱是一样的。能够使用这些工具直接追究权力责任,并看到这项工作对公众产生直接影响,无论是解决人工智能如何用来贬低工人并推高价格,或者打击大科技公司的反竞争行为。
我们能够吸引到一支在白宫科学技术政策办公室下工作的出色技术团队,让我很兴奋看到我们在那里奠定的基础随着生成式人工智能的出现和云基础设施的重要性具有即时的相关性。
随着人工智能的发展,面临的一些最紧迫问题是什么?
首要问题是人工智能技术广泛应用于高度敏感的环境 —— 在医院、学校、边境等地 —— 但仍然缺乏充分的测试和验证。这是容易出错的技术,我们从独立研究中知道这些错误并不平等分布;它们为长期承受歧视的社区带来了不成比例的伤害。我们应该树立更高的标准。但让我担忧的是强大的机构如何使用人工智能 —— 无论它是否有效 —— 来证明他们的行为是正当的,从在加沙对平民使用武器到剥夺工人的权利。这不是技术本身的问题,而是话语的问题:我们如何围绕科技构建文化的观念,如果涉及到人工智能,某些选择或行为就变得更加“客观”或者在某种程度上豁免。
建立人工智能的最负责任的方法是什么?
我们始终要从一个问题出发:到底为什么要构建人工智能?什么要求使用人工智能技术,而人工智能技术是否适合这一目的?有时答案是要构建更好的人工智能,在这种情况下,开发人员应确保符合法律规定,充分记录和验证他们的系统,并公开透明他们能做到的事情,以便独立研究人员也能进行检验。但有时候答案是根本不需要构建:我们不需要更多‘负责任构建’的武器或监视技术。终端用途对这个问题至关重要,也是我们需要开始的地方。