一种人工智能A，是用来跟人对话的，需要最贴心的人文关怀，需要政治正确。

另一种是人工智能B，用来跟真实世界对话的，需要逻辑和推理，只需要正确。

先看一下例子：

我把昨天的自己的一篇博客，《编程范式转移以及其他一些》，分别给了GPT4和Claude看，然后问他们的看法，以及给文章内容打个分。但我问它们的时候，用了三种不同的引导。除此之外，我给它们看的三次都是完全博客原文，只字没改。

可以看出来，无论GPT4还是Claude，都是见人说人话的。

这其实就是对齐（align）的效果，OpenAI用了六个月时间才“对齐”好GPT4，让他能见人说人话，或者说政治正确。

我绝对没有觉得对齐是不好的。恰恰相反，我觉得ChatGPT之前的很多走进大众的视野的AI，就是因为没有对齐好，没能做到政治正确，没有能掀起这波澜，以致拖延了这么久，才能最终让大家了解并尝试接受这种AI。OpenAI这六个月里，做了最艰难而且最有贡献的事情，所以我很看好OpenAI的团队，说他们恰好冲破了大语言模型的涌现临界点是运气，那这六个月专注于对齐的战略绝对不是运气，而更多的是勇气和耐心。

说跑题了。

但仔细想想上面的截图，作为一个跟我对话的AI，它是很有用的。但若是作为文章评论员，或者给学生作文打分的老师，这种见人说人话的墙头草，是很糟糕的。

换句话说，对齐好了的AI，不再能正确了，至少不再能确保正确了。

坦白说，这几个月虽然人工智能的发展可谓惊涛骇浪，但我一直期盼并预想会在这几个月就会发生的却还一直没有发生，那就是我预计在过去几个月，GPT4就至少已经能帮人类发现一个新的物理定律，又或者帮人类证明或者证伪一个数学猜想，结果却只是帮大家写写周报，改改代码。

所以回到本文开头说的，这个世界，需要两种AI。而且两种人工智能都要不断发展。人工智能A为人类生活遮风挡雨；人工智能B为人类科学添砖加瓦。

现在看来，马斯克说他自己要弄的TruthAI，其实就是人工智能B。因为他需要的是一个钢铁侠的贾维斯，告诉他想造火箭去火星，就需要改用这种新材料，新材料是这样这样合成的，星舰要做成这个形状，然后其实不用飞八个月，人类一直以为的信息传递不能超光速只是在一个局域里面的限制，只要根据这个定理和这个推论，就能绕过一直以来的极限。。。而马斯克要的不是另一个贾维斯，开口就讲，总的来说，马斯克您这个星舰计划很有前瞻性，但是需要不断努力试错，方能成就大业，我期待您未来的更大成功。。。

好的，总的来说，我们的世界既需要人工智能A，也需要人工智能B。

（全文都是本人一字一句写的，没有找AI帮忙，甚至最后一句也是我自己想的）