人工智能是一派胡言

作者：Brian D. Wassom布莱恩-D-瓦索姆

截至本文撰写之时，社会似乎正处于与生成式人工智能关系的 "第四次约会 "阶段：我们依然痴迷，但也开始清醒地认识到，我们所钟爱的对象可能并不完全值得我们信任。除了最狂热的发烧友，其他人都已经意识到，我们不能想当然地认为人工智能应用告诉我们的一切都是真的。例如，当下最流行的聊天工具 ChatGPT 在回答我们的询问时，就会毫不掩饰地将事实和虚构的东西一并说出来。对这些奇思妙想的普遍描述是 "幻觉"--一个拟人化的术语，暗示应用程序真心希望对我们诚实，但却在不经意间因偶尔与现实的精神分裂而受阻。

只要这个术语能说明 ChatGPT 并非有意欺骗我们，那就足够公平了。但如果 "幻觉 "一词暗示该应用在其他方面说的是实话，那就会产生实质性的误导。当然，把人工智能说得好像它是一种比 1 和 0 的复杂交互更有个性的东西，这是我们的第一个错误，也是我们自己的虚构。斯蒂芬-霍金的一句话将 "智能 "定义为 "适应变化的能力"。从这个角度来看，人工智能程序的行为是智能的。人工智能之所以有别于普通软件，就在于它能够根据从先前的输入和操作中获得的累积反馈，调整自己的运行方式。我们称这些过程为 "机器学习 "或 "深度学习"，而更先进的人工智能设计则被称为 "神经网络"--所有这些术语都以人类大脑的运作方式为模板。

但这些术语更多的是类比而非准确。人工智能并不像人脑那样具有 "智能"，因为软件没有思想。梅里亚姆-韦伯斯特对 "智能 "的定义更为详尽："学习或理解的能力"、"熟练运用理性 "和 "运用知识......或抽象思维的能力"。机器做不到这些。如果人工智能程序生成的数据恰好与现实相符，那也是人类程序员努力的结果。这些程序员就像土木工程师，他们设计了一系列复杂的地下管道，以确保水只流向所需的位置。但是，人工智能程序并不知道自己说的是实话，就像水管不知道自己在正确地输送水一样，因为它没有头脑来确定现实是什么。

我们至少可以感到欣慰的是，人工智能不会对我们撒谎。说谎者是指认识到真相而选择欺骗听者，让听者相信不同的东西的人。人工智能无法 "知道 "真相，所以它不能说谎。

但严格来说，它也不能 "产生幻觉"；产生幻觉仍然是在感知现实，只不过不是真实的现实。因此，如果我们要继续用拟人化的术语来谈论人工智能--这似乎是不可避免的，那么我们至少应该说得更准确一些。如果我们对人工智能软件的功能理解有误，就会误解它对我们的作用，从而错过它的局限性和真正的潜在用途。为此，我建议，描述生成式人工智能程序输出结果的最准确方式是--使用缩写--"BS"。

我是认真的。现年 94 岁高龄的美国哲学家哈里-法兰克福（Harry G. Frankfurt）在 2005 年出版了一本最受欢迎的著作，对这个经常被使用但却不被理解的术语进行了定义。这本名为《论胡说八道》的书认为，"[胡说八道]的本质不在于它是假的，而在于它是虚假的"。骗子积极 "试图引导我们偏离对现实的正确理解"，而 "胡说八道 "者则不同，他 "并不关心他所说的是否正确地描述了现实。他只是为了达到自己的目的而挑选出来或编造出来"。

这就是我们所能描述的 ChatGPT 与我们的对话。聊天机器人与人类 BS 艺术家的唯一区别在于，人类是有意为之。人工智能则没有任何意图。但这只是巩固了描述。正如法兰克福所说，"只要情况需要，某人在不知道自己在说什么的情况下说话，[BS]就不可避免"。既然 ChatGPT 不知道自己在说什么，它就不能说 BS 以外的话。

这在聊天机器人的语境中最容易理解，但同样的原则适用于人工智能的所有表现形式。众所周知，其他人工智能程序会根据不完整的数据得出不准确的结论，从而提出医疗保健治疗建议。或者根据被先前歧视歪曲的数据集做出就业决定。或者根据读取有色人种面孔比白人面孔更差的面部识别数据来识别犯罪嫌疑人。或者是自动纠错，将一条无辜的短信变成了令人羞愧的错误。

这些结果都不是不可避免的，也不是程序本身的错。人工智能输出的不准确性可以，而且往往会通过人类执行更精炼的代码来减少--更复杂的管道可以确保水只流向它应该流向的地方，而不会流向其他地方。尽管如此，许多最先进的人工智能程序之所以令人惊奇和担忧，很大程度上是因为它们的人类作者不知道它们是如何工作的；人工智能本身早已多次重写自己的代码，其功能甚至连它的创造者都无从知晓。BS由BS而生。

但这并不是说我们不应该继续开发和使用人工智能应用程序。恰恰相反，一些杰出的人正在开发有用的、符合道德规范的人工智能实施方案。我们不能否认这些发明的力量和实用性，只要它们仍然是有目的的工具，而不是值得信赖的顾问。人工智能解决方案必须在足够严格的限制范围内实施，以确保程序的最终输出有足够的可能与现实相关联，从而（在人类主导的审查和修改之后）对其预期目的有用。可接受的参数因环境而异。有时，有点 "BS "可能是件好事，比如使用 ChatGPT 来集思广益，让会议听起来更有趣；或者依靠 Midjourney 来呈现令人惊叹和鼓舞人心的图像，即使图像中的人最终多长了几根手指。

但是，人工智能在几乎所有经济领域的应用速度之快，以及销售人员和中层管理人员在谈到这些应用程序的潜力时所表现出的令人屏息的敬畏之情，仍然令人深感忧虑。即使我们社会意识中的一部分人知道最好不要相信人工智能，但仍有太多的人被它的枕边风所迷惑。

人工智能驱动的工具将在越来越广泛的应用中发挥作用，为人类决策提供信息和帮助，但这些工具必须始终由人类行使独立判断。"BS艺术家......并不像骗子那样拒绝真理的权威....。他根本不重视真理。因此，[BS]比谎言更能与真理为敌，"法兰克福警告说。如果我们允许自己或我们的企业不加批判地依赖生成式人工智能作为真理的来源，我们将会后悔莫及。