最近硅谷有些非常奇怪的变化。Anthropic跑到教皇那里去讨论AI的一些吸引眼球的话题。
如果硅谷的人真的产生了信仰，以至于需要教皇给予他们某种指导的话，或许这并不是坏事。然而我觉得这不过是某种形式的公关秀。
最让人啼笑皆非的，是他们声称在自己的模型里发现了某种人类才有的十几种感情。
这让我想起经常被提到的所谓AI欺诈的问题。比如，我的工作内容之一是审查AI执行某些任务时是否投机取巧，做了欺诈的事情。这些字眼的使用使人联想到人类的道德属性。然而，AI从来没有道德属性，也没有自由意志的道德选择。如果你让AI执行任务的完成标准是打印“我做完了”，那么AI当然可以在不做任何事情的前提下打印那句话。
这是道德欺诈吗？不是，这只是算法寻找的最短路径。