Timnit Gebru正在建立一个缓慢的AI运动

Timnit Gebru她是人工智能伦理界的知名学者谷歌发射但这一混乱而戏剧性的事件让她的工作获得了新的关注。谷歌显然将Gebru从其人工智能伦理团队中驱逐出去解雇了另一个领导这是对一篇关于大型语言模型的危险的论文的回应，大型语言模型对世界上最大的科技公司来说已经变得如此重要。这一事件在人工智能领域引发了轩然大波。

但格布鲁充分利用了这个不和谐的机会。2021年12月，她宣布成立了一个新组织，即the分布式人工智能研究院(DAIR)，它被宣传为“一个独立的、基于社区的人工智能研究空间，不受大科技公司的无处不在的影响。”从那以后，Gebru一直在增加人手。2月，AI和社会学研究员亚历克斯·汉娜她以研究总监的身份加入了公司，带着满腔的怒气离开了她的工作辞职信．格布鲁和汉娜接受了采访亚博真人yabo.at关于他们的DAIR计划

Timnit Gebru和Alex Hanna在…

• 一个更好的人工智能研究模型
• DAIR的使命
• 数据集及其不满

Timnit，你决定成立一个新的组织，是因为你认为目前的人工智能研究模式已经被打破了吗?

Timnit Gebru:是的。比如，我在看谷歌的激励机制是什么我们发生了什么我们不需要重新讨论这个问题，以及学术界的动机是什么。我们想做跨学科研究。我们不想让人们陷入出版业的激烈竞争。我们希望非常认真地与人们交流我们的研究成果，而不仅仅是写论文。我们希望(研究人员)过上宜居的生活!我们不希望他们全天候工作。这意味着我们计划提供更少的工作，所以每一项工作将花费更多的钱。我一直在思考我想做什么样的工作，我想创造什么样的环境，似乎最好从头开始，然后想办法维持下去。

你的新闻稿关于DAIR的成立，提到人工智能经常被认为是不可避免的，你想与这种想法作斗争。你是想把预防原则应用到人工智能上吗?

亚历克斯·汉娜布列塔尼Hosea-Small

亚历克斯·汉娜:我不一定是从预防原则的角度来考虑的。我更多地是从开发造福人类的技术的角度来考虑这个问题。现在很多人工智能研究都是为了人工智能本身的价值。很多人都在思考这个被称为人工智能的工具体系，并说:“嗯，所有东西看起来都像钉子，而我们有这个大锤子。”

我们已经知道深度学习存在问题。这些研究模式需要能够收集大量数据的组织，这些数据通常是通过道德或法律上有问题的技术收集的，比如以非自愿的方式监视人们。如果我们想要构建有意义的社区投入的技术，那么我们需要真正考虑什么是最好的。也许人工智能并不能满足某些特定社区的需求。

如果人工智能不是不可避免的，如果可以选择使用它，那么现在有哪些应用领域是您认为我们绝对应该选择不使用人工智能的?

Gebru:我想知道人工智能是否有益于社会。我并不是说这不应该发生，但为什么要从AI开始呢?为什么不先想想你想做的好事，然后再看看人工智能能不能帮上忙?有时人们会谈论人工智能对气候变化的影响，但如果你真的对气候变化进行分析，你会发现很多人工智能不是被用来提高石油和天然气行业的效率吗?我并不是说用于社会公益的人工智能不应该存在。但我认为这就是Alex所说的一个例子，AI就是锤子。当然，这项技术不应该被用于风险评估、将人定罪、预测警务、远程杀人和使战争更容易进行。

汉娜:即使你排除了战争、治安和监禁等领域，我们也应该考虑人工智能被用于必要的领域，比如社会福利和教育。(在学校里)有各种监控系统，通过在线监控学生，“让教师的工作更容易”。我们知道学生监控系统在学校系统中的应用是不平等的。如果你有一所以白人为主的私立学校，他们就不会像以黑人和棕色人种为主的公立学校那样进行监督。有一篇文章最近发表在板岩这表明学校的监控系统LGBT关键词，这可能会在无意中暴露学生。如果你在德克萨斯州或佛罗里达州这样的地方，可能会向儿童福利机构举报学生。这些会以虐待儿童的罪名立案，根据反跨性别行政命令德州州长签署的法案这些工具的承诺是，你将能够用更少的钱做更多的事情。人工智能是为了减少低效率，但也许这些学校真的需要更多的教师。

回到顶部

你在DAIR的使命是什么?你是否会引起人们对人工智能当前问题的关注，或者进行算法审计，或者构建新型人工智能?

Gebru:我们的项目基本上都是审计，但我对成为第三方审计人员持谨慎态度，人们可能会说:“好吧，他们说没问题。”但我们基本上都在做这些事情。例如，我们有一个使用卫星图像和计算机视觉的项目分析空间隔离的影响(在南非)——所以这是在使用人工智能，我们认为这将有所帮助。

现在，我们也专注于我们做这项研究的过程。我们应该遵循哪些原则?我们怎样才能不剥削他人呢?当我们从人们那里获取知识时，我们如何确保适当地补偿他们?社区里有很多人不写论文，但他们有其他形式的知识，对我们的项目非常重要。我们如何以一种尊重和重视他们所带来的东西的方式与他们合作?

汉娜:此外，利用人工智能对权力进行问责意味着什么?我们正在与非政府组织进行大量讨论，重点是问责制和人权问题。

也许你可以告诉我更多关于卫星图像项目的事情，让这件事更具体些。这个项目的目标是什么?到目前为止，你想明白了什么?

Gebru:这个项目是关于分析空间卫星图像。我们的一个研究员，Raesetje Sefala总部设在南非，在一个乡镇长大。她确实在计算机视觉领域工作，但她对这段历史的了解与她在计算机视觉领域的工作同样重要。空间隔离在法律上已经结束。但当你看这些图片时，你会发现小镇在一个地方，白色的豪宅在另一个地方。这是由团体地区法1950股。我们要问的问题是:从那以后发生了什么?

一如既往，数据集工作是最重要、最耗时的工作，这也是我们进行最大创新的地方。我们已经知道，要发表这样的作品很难，我们已经经历过很多次了。你去计算机视觉社区，他们会说，“哦，这是一篇数据集论文，算法在哪里?”但NeurIPS有了这个新的数据集和基准跟踪这就是我们发表的地方。

这个项目是我们希望在这里做的很多事情的一个例子。我们不想只是写一篇论文，然后继续前进。我们致力于可视化;我们正在研究如何有效地将我们的发现传达给相关团体。(塞法拉)要写一篇文章非洲是一个国家关于一些发现。我们意识到我们所做的最重要的事情之一就是在数据集中标注乡镇，因为南非政府在人口普查中没有标注乡镇。这一点非常重要，因为如果你不给城镇贴上标签，你怎么能分析空间隔离的影响呢?我不知道你知不知道咪咪发表意见-她是一个艺术家，她也说过类似的观点，谷歌地图完全忽略了巴西的贫民窟。

回到顶部

听你谈论数据集的挑战很有趣。Timnit，在你的使用大型语言模型你提到了现有数据集的问题，包括固有的偏见．我经常听到的回答基本上是，“让数据集变得更好太难了。”

Gebru:如果制造一辆安全的汽车太难了，我们还会有汽车吗?这又回到了亚历克斯说的锤子。人们认为只有一种方法可以做到。我们一直在试图说，“也许我们可以用不同的方式来思考这个问题。”如果你认为[数据集管理]是必要的，这意味着在你发布一些东西之前将花费更多的时间和资源。

汉娜:这是我们反复强调的一点。我们发表了关于数据集实践的文章，以及其中有多少东西没有得到足够的关注。这种构建模型的数据饥渴版本始于ImageNet直到ImageNet问世大约10年后，人们才开始深入研究并说:“等等，这个(数据集)确实有问题．”

我一直在和一个叫Mehtab汗在这些庞大数据集的法律层面上。像OpenAI这样的大公司真的在努力说:“哦，我们可以使用这些数据，这是合理使用。”但我们实际上并不知道，因为之前的判例法并不多。此外，合理使用只对版权所有者重要，对数据主体无关紧要，对部署这些模型时受决策影响的人也无关紧要。

似乎在大型行业参与者中需要发生许多重大变化。但是你能从外部影响改变吗?你有没有看到这种人工智能发展理念正在蔓延的迹象?

Gebru:我看到了变化。例如，我们一直在谈论数据劳动是如何被完全低估的。如果你有博士生，你想让他们花时间非常仔细地思考如何收集数据集，但他们没有地方发表……现在NeurIPS有数据集和基准跟踪．当你考虑人们需要做什么时，你还必须考虑激励结构。在劳工组织的帮助下，我看到了一些改变。我认为我们可以从外部提供帮助。当我们在内部的时候，我们总是和外部的人合作。政府扮演着重要的角色。

但我担心的是这是对欧盟议会说的我们陷入了这个循环，我们仍然在谈论很久以前技术的潜在危害。现在人们都在谈论元宇宙!我们必须想办法慢下来，与此同时，投资于那些看到另一种未来的人和社区。否则我们就会陷入这个循环，当我们试图限制它的危害时，下一个东西已经扩散了。

汉娜:人们迫切希望建立某种道德框架。已经有了立法，还会有更多的法规和正在进行的诉讼。但如果没有那些愿意推动和倡导它的人的共同努力，它是不会发生的。

回到顶部