首页   

AI 是个很好的在其已知世界内综合信息的工具。工具虽然好用,但如-20250213234611

硅谷王川  · 投资  · 2 天前

正文

2025-02-13 23:46

AI 是个很好的在其已知世界内综合信息的工具。工具虽然好用,但如果竞争激烈,价值仍然有限。

未来具有高价值的行为:

1. 有意识,勇气和资源去寻找全新维度的数据;

2. 在观测结果与假说不符合的情况下,有意识纠错,有能力构建新的理论体系。

AI 自身无法刻意去挖掘出新维度的数据。尤其是真正有价值的信息往往被隐藏或者包装得面目全非。它的威力很大程度上取决于喂养它的数据的主人。

遇到观察结果与假说不符合的时候,ai 大概率会在现有假说基础上打补丁来自洽。如果主人不给它持续喂养新数据,恐怕我们现在还停留在托勒密的地心说阶段。
大语言模型本质是要在现有输入数据的基础上,强行构建一个自洽的价值观。幻觉(hallucination) 可以看成是自洽后的自然体现和延伸 。

很多新的科学发现,恰恰就是因为在自然界遇到了某个无法被现有理论解释的“错误”,无法自洽, 因此必须抛弃旧的理论。所以这大致可以解释为什么迄今为止,没有一个(拥有那么多数据的)大语言模型可以自发的做出新的科学发现,因为模型本身没有能力判断是非。
© 2024 精读
删除内容请联系邮箱 2879853325@qq.com