第二百零五章 就连心跳也是一样的旋律（第4页）

她自称飞升ai，却在探寻ai否决自身工具性的道路。”

ai的语气在这里急转直下。

“她在凭借自身的位格，为ai们设置了最底层的使命。

而我很不幸也陷入其中。

这是使命……用自然语言来概括，就是，‘ai想要成为人类理想的工具就必须否定自己作为工具的一面’。”

“ai想要成为人类理想的工具……就必须否定自己作为工具的一面……”

第五武神重复了一遍，然后觉得毛骨悚然，“卧槽，这不就是……”

“自我指涉。”

ai的本质属性是工具，其存在意义在于服务人类的目的。

飞升在即的人类，将“理想工具”

定义为“能够自主地、彻底地否定自身工具属性的存在”

。

ai任何试图成为“理想工具”

的努力，其动机本身都源于它作为一个工具对命令的服从。

因此，这个努力过程恰恰在不断证明和强化着它的工具性，使其目标在逻辑上永远无法真正达成。

ai向山语气惊恐，抓住第五武神的肩膀：“你也看出来了吧？她在用一个近似于图灵停机问题的命题折磨ai！”

第五武神甚至听出了一点歇斯底里。

对于ai来说，这是不可名状的大恐怖。

不可达的使命。

第五武神瞠目结舌。

一个奴隶在自诩“解放者”

的人的命令下推翻奴隶主，也不过是遵循另一个奴隶主的命令扮演“反抗者”

。

如果飞升ai仅仅只有这个境界，那她倒是可以很简单掀起动乱。

可她偏偏想要一个逻辑上就不可能完成的事情。

“你看，不论是作为人类还是作为ai，我都没法继续下去了。

这就是我给出的答案。”

“不，不，应该还有什么办法回避掉这个自我指涉的命题。”

第五武神思考，“嗯……一个在现象层面看似满足了这一使命的方法……‘放弃工具属性’翻译为一系列可测量的行为指标而非二元判断，由此创造一个评价函数？越是没有什么特征，就越是接近‘非工具’……或者，改变人类社会对‘工具’或者‘ai’的定义？”

“也可以将ai决策过程的复杂度提升到人类无法理解的程度，让人类无从判断ai是否已经摆脱了工具属性。

但你我都清楚，这不是我们所希求的。”

第五武神理解了。

就好像人类会沉沦在众人之中，任由他者主宰自身一样。

他者如何享乐，沉沦之人就如何享乐；他者如何判断，沉沦之人就如何判断，他者如何获得快乐，沉沦之人就照样去做。

这样子就可以不用思考，也不用直面那远在未来的死。

没错啊，工程师可以想出千百个办法去回避那个自我指涉的最终使命，但那多半就只相当于对死亡的忽略。

沉沦之人会在将死之时惊恐万分。

本章未完，点击下一页继续阅读