人工智能进军K街:ChatGPT变身说客

对职业游说者如何扭曲政治进程的担忧并不是什么新鲜事。但新的证据表明，他们的努力可能很快就会被日益强大的语言人工智能增压。斯坦福大学研究人员的概念证明表明，网络轰动的ChatGPT背后的技术可以帮助自动化影响政治家的努力。

政治游说者花费大量时间审阅法案草案，以评估它们是否与客户的目标相关，然后为演讲、媒体宣传和致国会的信件起草谈话要点，以影响立法的方向。考虑到最近人工智能服务能力的突破，比如ChatGPT为了分析和生成文本，约翰不斯坦福大学法律信息学中心(Stanford Center for Legal Informatics)的一名研究员，他想研究这些模型是否可以取代部分工作。

在短短几天内，他就利用OpenAI的技术拼凑出了一个基本的人工智能说客GPT-3大型语言模型(LLM)，它是ChatGPT背后的大脑。在一篇论文在arXiv预印本服务器上发表的一篇文章中，他表示，该模型能够在75%的时间内预测美国国会法案的摘要是否与特定公司相关。更重要的是，人工智能能够起草一封信给法案的发起人，要求修改立法。

奈说:“立法程序还没有为此做好准备。”“这只是在几天内完成的一个简单的概念验证。随着在这方面投入更多资源和时间，特别是更多地关注于构建工作流和与人类说客日常联系在一起的用户体验，这可能会被构建成相对复杂的东西。”

Nay的方法包括通过OpenAI的API为模型提供文本提示。他向模型提供了法案的标题、法案的摘要、国会研究服务处确定的法案主题、相关公司的名称以及该公司向美国证券交易委员会提交的业务描述。

除此之外，他还让模型想象这是一位说客，并利用所提供的信息来判断该法案是否与公司相关。该模型还被要求解释其推理，并对其决策的信心程度打分(满分为100分)。对于被认为相关的账单，模特会被要求起草一封信给他们的赞助商，说服他们做出对相关公司有利的补充。

奈整理了335张账单的数据，然后让模型预测它们是否与121家独特的公司相关。因为大多数立法不会影响到大多数公司，他发现，只要总是说“不”，你就能在70.9%的时间里猜对。当他在2022年3月发布的旧版本的GPT-3上测试这种方法时，它的表现比这差得多，预测准确率只有52.2%。但是，当在GPT-3.5模型上进行测试时，它的准确率达到了75.1%。GPT-3.5模型是ChatGPT的动力，直到2022年11月才公开。在信心得分超过90分的账单上，准确率上升到79%。

这篇论文没有试图评估起草的信件在影响政策方面的有效性，奈明确表示，这种方法仍然远远不能完成游说者的大部分工作。但他表示，仅隔几个月发布的模型在预测性能上的显著提升值得注意。他表示:“能力迅速提高的趋势很明显。”

奈说，这可能会给立法程序带来严重麻烦。它可以使大规模影响力运动变得容易得多，特别是在地方层面，并可能导致大量的信件，可能使本已捉襟见角的国会办公室不堪重负，或扭曲他们对公众舆论的看法。奈说，法律也可以成为帮助未来人工智能系统理解人类社会价值观和目标的有用资源，但如果人工智能游说者扭曲了这些法律的制定方式，就不是这样了。

知名安全专家表示，我们无法预测人工智能将以多快的速度变得足够成熟，从而有效地影响游说过程Bruce Schneier．他指出，写信可能不是这里的瓶颈，事实上，学习如何理解政治网络并制定策略来影响它们可能是更重要的技能。但他表示，这项研究是未来发展的一个迹象。“这只是朝那个方向迈出的一小步，但我认为这是社会发展的方向，”他说。

他补充说，政治游说只是人工智能未来可能扭曲社会的一种方式。在一本下周出版的新书里黑客的思想在书中，施奈尔概述了从立法程序到税法和市场动态，这些强大的黑客是如何入侵一切的。他说，人工智能可能会加速这些努力。他表示:“有很多可能性，我们真的才刚刚开始探索。”“法律完全没有为此做好准备。”

美国东部时间1月31日下午12:15更新:这个故事的前一个版本错误地陈述了研究中独特的账单和公司的数量，并错误地描述了统计术语相关性、置信度得分和准确性背后的背景。本版本更正了错误。