371

责任、判断力和人工智能的实验

一个老问题，用新的角度来看

不久前，我发表了一篇文章题为： «人工智能是作者、编辑还是镜子？»

我提出了一个在我看来更重要的问题：  «这份文本是由人类还是机器编写的？»

在我看来，真正的问题在于另外的地方：当然，是写作者，但更重要的是 到底是谁真正承担了文本中所表达的思想？

我还提醒他们，这种质疑并非与人工智能一起产生的。.
长期以来，写作就引发了关于作者、重写、校对、影响以及甚至风格等问题的讨论，这些问题被视为智力的象征。.

因此，人工智能并未带来一个全新的问题。它只是进一步突显了古老的困惑：即 创作文本，创作思想.

因为人工智能可以重新构建、组织、修正、提出，有时甚至会产生反驳。但它无法代表一种观念。它无法将其解释为一种经验，也无法将其视为一种智力立场。.

这种责任仍然属于作者的。.

当辩论陷入僵局时

从那以后，我每天都会阅读大量关于人工智能的文章。我明白，这个话题既令人着迷，也令人担忧。它涉及到写作、创作、工作以及智慧。, 取而代之的是人类。.

但随着我阅读这些文章，我又发现了一个问题。.

不仅仅是人工智能在重复。.

这也是我们讨论人工智能的方式。.

同样的问题不断出现：

• 人工智能会取代作家吗？
• 我们还能区分人工文本与人类文本吗？
• 我们应该承认我们正在使用 ChatGPT 吗？
• 人工智能辅助文本是否仍然是真实的？

这些问题是合理的。但往往却被提出得好像从来没有人提出过一样。.

问题不在于人们谈论人工智能太多。.

当辩论变得乏味时，当它只停留在重复同样的分歧时，困难就会出现：

• 人与机器之间的对抗； ;
• 真实与援助之间的冲突； ;
• 对抗自动化。.

责任不应该转移

有时，你会觉得仿佛还能听到几十年科幻小说所塑造的想象中的声音。从那以后 终结者, 智能机器逃脱其创造者的控制这一概念已成为我们文化中的一个熟悉形象。当然，电影并非唯一导致当前担忧的原因，但它确实促成了人工智能的这种被视为潜在威胁的形象，甚至在人工智能开始在我们的日常生活中显现之前就已经如此。.

如果说人工智能应该让我们感到担忧，那或许不是因为它能够生成文本、重新构思想法或模仿某些形式的人类创造，而是因为其存在的一些更严重的问题： 在军事和安全应用中，人工智能系统参与信息分析、目标识别以及加快决策制定。.

还记得电脑走进企业的那段时期吗？当时人们常听到这样的说法： «这是电脑的错误。» 然而，计算机只是处理我们给它的数据和指令。.

这个老式公式就已经表明了将内容转移到机器方面的趋势。 一种仍然具有人性化的责任感。.
这个机制其实并不新鲜。早在二十多年前，伊拉克的战争就流行了诸如 «外科手术» 或者 «附带损害». 如今，人工智能正在参与目标识别并加速军事决策链，但词汇却几乎没有发生变化。机器也在不断发展，而空洞的夸夸其谈却依然存在。.

自 2023 年以来，加沙、黎巴嫩以及最近的伊朗境内的冲突使这一现实变得更加明显。. 技术系统越是介入于决策及其后果之中，责任似乎就越是难以分清。.

然而，这个问题仍然存在。.

屠杀的凶手是谁？

推荐目标的那种算法？验证目标的分析师？下达命令的指挥官？执行目标的飞行员？还是决策的政治权力？

中介机构的增加并不能消除人的责任。它只是让每个人都能够要求越来越小的份额。.

没有犯罪者参与的战争罪行是不存在的。.

当男人模仿机器时

但让我们回到民事领域。. 因为不幸的是，就在那里 今天，公众辩论的大部分注意力都集中在这方面。.

话语力量与话语真理之间的旧冲突 这也体现在人们对人工智能的一些反应中。.
最近我还在网络上阅读了一位作家教授的论文，他在文中指出了人工智能所带来的不公平竞争形式。.

这份投诉让我感到不安，不是因为它完全不合法，而是因为它似乎在给予人工智能一些它根本没有的特权： 产生思维的能力。.

因此，人工智能并不会产生一个新的哲学问题。它只是重新提起了古老的苏格拉底式问题。 我们应该根据文本的雄辩力还是其所包含的真理来判断它呢？

如果我们真的认为一台机器在思考本身领域中与我们竞争，那么问题可能不是人工智能的强大程度。.

问题在于，我们已经不再充分地运用自己的思维。, 这当然比再也不能阅读更严重。.
因为如果阅读并不能提高我们的推理能力，那么有什么意义呢？

蒙田已经有所偏好 一个完美得头与一个完美得脑袋。. 他的警告无疑已变得更加贴切。因为如今，我们的思维不再只是被知识所占据，而是被生成文本所淹没。 比有些人理解它的意义还要快。.

随着人工智能日益融入我们的日常生活，人们的立场也越来越多。.
在一些人身上，它几乎成了强迫性的习惯。.

我们已经看到了它的一个症状：我们不再问文本是否真实、准确或有启发性，而是横向浏览它，寻找可以帮助我们找出是谁——或者什么——写的线索。.
然而，错误的推理并不因为是人类的产物而变得更加合理。.
或许这就是真正的悖论：就在人们指责人工智能产生重复文本的时候，, 人类对人工智能的写作部分也开始变得重复。.

这个实验本来可以叫做： « 真正的问题不在于人工智能的写作能力。问题在于人类的重复性。»

我也许可以打电话给他： «当人类将人工智能描述为机器时。»

或者，更具挑衅性地来说： AI！AI！AI！

就像一次无聊的讨论：因为反复提问人工智能问题却并没有深入探讨，这种讨论有时甚至看起来更像是一场空洞的谈话，而不是真正的思考。.

但我们得清楚明白。.

我并不是说我们就不应该再写关于人工智能的文章了。. 恰恰相反。. 但对于已经饱和的话题进行写作，需要提供一种视角、一种区分、一种观点，以及某种能够证明自己有必要再次发声的东西。.

谁养谁？

那么我们可以再提出另一个问题： 是谁喂养了这台机器？

因为人工智能并非从无中生焉而来的。它是由数十亿条文本、对话、数据以及人际互动所训练的，这些互动大多是通过互联网和通信技术进行的。.

从这个意义上说，这确实是人类的智慧。 是谁教导的 人工智能。.

但或许，人类所担心的并非只是机器模仿了人类，而是学生最终会超越大师。. 《流浪者》 这种担忧早已存在：这个生物变成了一面令人不安的镜子，它所揭示的与其设计者自身所知晓的并不一样，后者已不再了解自己。.

然而，需要补充一个关键的细节： 拥有知识还不是意味着意识到自己。.

了解并不等于生活。. 而生活不仅仅在于积累经验，还在于让自己被这些经验改变，并随后对自己所成为的那个样子负责。.
也许不是智力本身决定了它的定义，而是它能够承担的责任。.

人工智能可以处理、重新组合和再现人类经验中产生的形式，, 但她还没有像意识那样拥有这种体验。.

当然，我们可以进行推断。科幻小说早就探讨了这些问题。.
但这可能不是最紧迫的辩论。.

我们自己设计的东西令人困惑，这令人感到不安。.
这种困惑或许应该促使我们更加谦卑。.

我们应该努力进行更具实质性的、更有建设性的讨论，以便从人工智能中吸取一些教训。, 但也包括我们自己： 在人类思维的某些方面，在我们的思考方式、传递方式、模仿方式、创造方式和信仰方式上。.

或许这能提醒我们，我们自身也是更广阔智慧的产物，这种智慧遍及万象，从无限大到无限小。.

或许人工智能并不会迫使我们先思考它会变成什么样子，而是迫使我们思考我们自己正在成为什么样的人。.

或许这段经历能让我们回到更古老的疑问： 现实世界中运作的智能的本质。.