AI 是个很好的在其已知世界内综合信息的工具。工具虽然好用,但如果竞争激烈,价值仍然有限。
未来具有高价值的行为:
1. 有意识,勇气和资源去寻找全新维度的数据;
2. 在观测结果与假说不符合的情况下,有意识纠错,有能力构建新的理论体系。
AI 自身无法刻意去挖掘出新维度的数据。尤其是真正有价值的信息往往被隐藏或者包装得面目全非。它的威力很大程度上取决于喂养它的数据的主人。
遇到观察结果与假说不符合的时候,ai 大概率会在现有假说基础上打补丁来自洽。如果主人不给它持续喂养新数据,恐怕我们现在还停留在托勒密的地心说阶段。
未来具有高价值的行为:
1. 有意识,勇气和资源去寻找全新维度的数据;
2. 在观测结果与假说不符合的情况下,有意识纠错,有能力构建新的理论体系。
AI 自身无法刻意去挖掘出新维度的数据。尤其是真正有价值的信息往往被隐藏或者包装得面目全非。它的威力很大程度上取决于喂养它的数据的主人。
遇到观察结果与假说不符合的时候,ai 大概率会在现有假说基础上打补丁来自洽。如果主人不给它持续喂养新数据,恐怕我们现在还停留在托勒密的地心说阶段。
大语言模型本质是要在现有输入数据的基础上,强行构建一个自洽的价值观。幻觉(hallucination) 可以看成是自洽后的自然体现和延伸 。
很多新的科学发现,恰恰就是因为在自然界遇到了某个无法被现有理论解释的“错误”,无法自洽, 因此必须抛弃旧的理论。所以这大致可以解释为什么迄今为止,没有一个(拥有那么多数据的)大语言模型可以自发的做出新的科学发现,因为模型本身没有能力判断是非。
很多新的科学发现,恰恰就是因为在自然界遇到了某个无法被现有理论解释的“错误”,无法自洽, 因此必须抛弃旧的理论。所以这大致可以解释为什么迄今为止,没有一个(拥有那么多数据的)大语言模型可以自发的做出新的科学发现,因为模型本身没有能力判断是非。