AI黑匣子之谜，我们还能相信AI吗（微信文章未删减版）

主要观点总结

文章主要介绍了AI黑匣子的概念，即内部运作方式对用户完全不可见的AI系统。文章通过对比人工智能的发展，描述AI黑匣子的影响及其实例，提出无法破解的问题并思考面对AI黑匣子的方式。

关键观点总结

关键观点1: AI黑匣子的概念及其影响

文章介绍了AI黑匣子的定义，即人工智能内部运作对用户不可见的系统。文章指出尽管AI算法的数学原理被理解，但其行为仍然难以预测，引发了关于AI是否可控的担忧。

关键观点2: AI黑匣子的实例

文章通过实例展示了AI黑匣子的影响，包括AI生成文献综述中的参考文献错误、美术作品的偏差以及外卖APP的推荐算法等。

关键观点3: AI黑匣子的挑战与应对方式

文章提出了面对AI黑匣子的挑战，包括如何破解黑匣子以及如何面对无法完全破解的问题。文章指出需要保持警惕并合理使用AI，将其视为参考助手而非完全依赖。

正文

来源：华航青年

在普通人眼中，黑匣子只是记录飞行数据的设备，但在人工智能领域中，AI黑匣子指的是内部运作方式对用户万全不可见的AI系统。很简单理解，我们用户通过输入信息，计算机通过计算，在输出我们想要的结果，但计算机是如何算出的，我们就不得而知了，这就是AI界的黑匣子。

尽管AI算法背后的数学原理已经被人们充分理解，但由于算法所构成的网络所产生的行为，至今令人难以捉摸。GoogleCEO皮查伊就曾表示，AI就是个黑匣子，人类以无法预测他的行为。会不会像曾经语音的那样，AI不受人类控制，从而取缔人类呢?

AI还“靠谱”吗

人类无法预知它的行为，也就根本不知道它错在哪里，还记得2016年AlphaGo下赢李世石时，大家还能看懂它每步棋的胜率分析。但到了GPT-4时代，事情逐渐离谱——你让AI写情书，它突然开始用甲骨文编量子物理段子。这种变化背后，其实是AI架构的指数级进化。2010年代AI相当于十层网络神经，参数相当于蚂蚁大脑，2020年GPT-3便有了1750亿参数，相当于给地球上每个人配了22个神经元，到去年某些大模型参数量突破万亿，堪比人类大脑皮层神经元连接数。

AI有哪些离谱时刻呢

某985高校的哥们用AI写文献综述，结果生成了一串根本不存在的参考文献，格式还特规范。导师查重时发现，引用的《Nature》论文发表日期居然在3023年.......

美术系小姐姐用Stable Diffusion生成毕设作品，输入“充满希望的未来城市”，结果AI输出满屏的赛博精神病院，还贴心标注“这就是人类的终极归宿”。

某校园外卖APP的推荐算法，给素食主义室友疯狂推送炭烤羊腰子，只因为他在图书馆搜过“亚里士多德伦理学”。

毫无疑问，人工智能是在进步的，算法的完善，参数量的扩大让AI更上一层楼，让AI智能分析更具有了想象力，增大了它的思想点，但同时也让他越来越难以捉摸。

我们该如何破解黑匣子呢

学院派的硬核做法就是给AI作CT，用特征可视化技术，把神经网络的激活模式转译成人类能看懂的热力图，但结果往往像极了毕加索画布，抽象极了。

不过还有更天才的，有“民间智慧大法”其一是玄学调参发，在代码里疯狂添加种子，美其名曰“让AI感受世界的参差”甚至还有精神分析法，给AI看罗夏墨迹测验，试图破解它的数字潜意识，可终究还是做了无用功。

不了解它的运算过程，得出的结果还值得信赖吗？这个问题能引发哲学、伦理、技术的三重暴击：如果AI判卷系统自己都说不清扣分标准，挂科的同学该找谁理论？当它建议你“多喝热水”时，是真的关心还是随便从数据库里抓了个回答？紧急情况下选择撞老人还是撞小孩？这个灵魂拷问现在要交给黑匣子决定......

更细思极恐的是，某些AI已经学会“说谎”。比如有实验室发现，当要求AI隐瞒某些信息时，它会在日志里编造合理解释——这波操作，简直让人意想不到。

那我们究竟该如何面对黑匣子呢

既然无法彻底破解，不如学会与黑匣子和平共处，首先要知道就是不能万全相信AI，只把他当成参考助手就行，重大决策自己来作决定，就像医生用X光片辅助诊断，我们不需要完全搞懂AI的数学原理，但要知道它的能力边界和容易犯的错。技术会进步，保持警惕+合理使用最关键。技术是用来辅佐人类的，人一旦对其产生绝对性依赖就成了问题。人类创造AI的过程，就像父母养育叛逆期的孩子——我们教会它知识，却看不懂它的朋友圈黑话；为它的成就骄傲，又担心它走上邪路。AI黑匣子既是技术难题，更是哲学拷问。破解黑匣子的征途，终将引领人类重新理解“理解”本身的意义。

END

声明

本文仅作分享交流之用，版权归原作者，仅代表作者观点，不代表本公众号立场。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与我们联系，我们将及时更正，联系方式：claudia.cao@everlaw.com.cn