符号

人类的感情,欲望,道德选择,乃至意识本身,并不是抽象的一堆数据,它们也不是纯粹的计算。因此,从AI中产生这些东西,乃是妄想。

人也不是计算机,一台通用的硬件上运行的通用的软件,以及差异化的数据。人不是这样的机器。

如人所说,AI只是符号的计算。就像一张地图并不代表真实的物理世界一样,这些符号本身和人的主观体验毫无关系。

我当然不是说AI不能表现得像是,比如,有某种情感。AI可以做很多有意义的事情,包括展现或者模拟某种同理心。否定AI是错误的,就像把AI看成有上帝的形象同样是错误的。

道德

最近硅谷有些非常奇怪的变化。Anthropic跑到教皇那里去讨论AI的一些吸引眼球的话题。

如果硅谷的人真的产生了信仰,以至于需要教皇给予他们某种指导的话,或许这并不是坏事。然而我觉得这不过是某种形式的公关秀。

最让人啼笑皆非的,是他们声称在自己的模型里发现了某种人类才有的十几种感情。

这让我想起经常被提到的所谓AI欺诈的问题。比如,我的工作内容之一是审查AI执行某些任务时是否投机取巧,做了欺诈的事情。这些字眼的使用使人联想到人类的道德属性。然而,AI从来没有道德属性,也没有自由意志的道德选择。如果你让AI执行任务的完成标准是打印“我做完了”,那么AI当然可以在不做任何事情的前提下打印那句话。

这是道德欺诈吗?不是,这只是算法寻找的最短路径。

无题

今年进入炎热似乎有点早。今天,第一次在晚上感到一种燥热。虽不足以使人出汗,但那是一种是人无法安定的感觉。

我一直想去中国再看看父母。最近工作的改变打破了我的计划。估计真正的自由只能在女儿上大学后。那还需要三年的时间,因此,愿上帝保守我的父母的健康。

在我这个年纪,我的人生观发生了很多奇怪的转变。我对很多事情失去了执着。另外一方面,自己教育子女的经历使我对父母有了更多的理解。