干净得纯粹了。生命本身就是肮脏和混乱，唯有死亡和虚无，才是一尘不染。”
她总有种种奇谈怪论，我已经不以为怪了。只是笑道：“这话你应该说给ε-rei听。她恨不得我们越透明越好。”
“别理那老家伙，那是有名的一根筋，说话冲得要命。”她说，“还好她活在现在，只需要安心做研究就好了。这种性格的人要是在上个世纪，哪里都容不下她，还能让她做市政委员会的委员？”
“对了，你刚才说有支持我的证据，是什么呢？”
“其实我也对分析人的思想挺感兴趣。”她的眼睛亮了起来，显露着那种能让人着迷的活泼神采，“我读过ε-rei的一些论文，她的思路整体上是没问题的。只不过，她以为能够解读人脑的一些意识，就意味着很快能做到监控一个人的全部思想；以为现在暂时做不到只是因为数据不足——这真是太盲目乐观了。就算给她一个人脑接收到的全部数据，她还是有个问题无法解决。”
我点了点头，说道：“黑箱。 ”
【注：目前的机器学习系统就是“黑箱”，也就是说它可以得出最优策略，但这些策略是怎么来的，却隐藏在神经网络系统的内部参数（神经网络突触权重）中。研究人员无法用数学方程表达神经网络的内部结构。但人们相信这个黑箱是可以解读的，并且也已经作出了一些解读。本文设定人类已经可以解读系统，系统不存在黑箱问题；但人脑依然是黑箱。】
“对。就算她知道一个人经历过的一切，也知道她最终产生了什么思想，但是怎么解读输入和输出之间的过程呢？比如说我们人人都知道，同样看一场电影，有的人想到了这个，有的人却想到了那个——到底是什么决定了她们思想的不同？”
“可是，ε-rei可是神经科学的专家，我们都能想到的问题她怎么会想不到？”
“我也奇怪过。但后来我明白了，她其实是被我们数据中心的工作误导了——她觉得系统比一个人的大脑复杂千亿倍，既然系统都能被解读，不再存在黑箱问题，大脑怎么可能永远是黑箱？”
“诶……这么一说，好像是这样啊！”
“我以前也这么想，觉得人脑黑箱的破解只是时间问题，现在只不过是技术不成熟而已。但是后来，我做了一个实验，发现并没有这么简单。”
我的好奇心已经达到了极致。这一刻，窗外的湖和白帆、身旁穿梭不停的服务机器人，都好像消失了。宇宙中只剩这张小桌，和她即将揭示的谜底。
“人脑太复杂了。它的运作机制是2的1000次方次可能的意识量子流。我没法复制所有神经元的空间连接，每一个神经元中的生化反应，细胞质中的基因表达，细胞膜上的量子运动，以及所有这一切之间的联系。所以我想，干脆就忽略生物因素吧。可以做一个简化版的人脑——机器的神经网络就要单纯得多，一切都能以代码的形式来解读。我想试试，搭建许多神经网络，组合成一个模拟大脑。再给这个模拟大脑输入一个人一生所接触到的数据，它会不会输出和这个人相近的思想呢？”
“等等。”我打断了她，“这也太复杂了吧？”
“也还好。计算神经科学已经对人脑的算法研究得很深入了。参数和架构都有现成的，我只是忽略了生物物理基质而已。”
“我是说，输入的数据太复杂了。就算你有一个人的全部人生记录，可是大脑的特点是能够选择性地接收一些信息、忽略另一些，你怎么确定那个人的大脑曾经接收过哪些数据呢？”
她狡黠地一笑：“我只管给它‘喂’人生记录的数据，它自己决定取舍。这不是更像真实的人生么？”
我明白了。示意她继续说下去。
“当然，这种模拟是很不严谨的——计算神经科学的专家可不会这么胡搞。没有生物基质就是个很大的漏洞。人脑的活动始终受遗传和生理因素影响，而且其生理条件是动态的，一生中随时都在变化，而这些我没有模拟。而且，机器智能和人类智能毕竟是有差异的，比如说，我们可以把触觉的生物电转化成数据输入机器，但机器对‘触觉’的‘感受’是否能和人类完全相同，这就很难证明了。而用作模板的人生记录，也毕竟不可能达到100%完整，一个人的一生中总有些事件和感受被系统遗漏掉了，而这些遗漏的信息可能才是决定她思想与性格的关键因素。还有，人感受到的外界信息其实只是人生的一小部分，大脑的自主活动，也就是我们平时无所事事的幻想，躺在床上、坐在窗前什么也不做时突然闪现的念头，才是人生更重要的部分，而这部分，是系统记录不到的。”
“其实我也没想真的做出什么结果。我就是弄着玩儿，好奇。我用了矫正所的一个样本，那是一个新勒德分子。我把她的全部人生记录输入模拟大脑，想看看它会不会也萌生出要把数据中心炸掉的念头……可最后的结果让我很惊讶。”
【注：勒德分子：原指十九世纪初英国手工业工人中参加捣毁机器的人。比喻强烈反对机械化或自动化的人。】
“怎么啦？”我打趣道，“你的模拟大脑觉悟高，变成了技术至上派？”
“不不，这种模拟太粗糙了，所以输出的基本是一堆乱七八糟的东西，类似于精神病人的呓语。”她说，“但是，一个奇怪的现象出现了。”
“什么？”
“我把模拟大脑的参数和架构复制了多份，又把这实验重复了几次，最后都只得到胡言乱语。但通过对这些胡言乱语的分析，我发现，它们竟存在思想倾向上的明显差异。我又对照了全球管理会发布的最新政治光谱，发现这些模拟大脑的‘思想’竟然可以分布在从极左到极右的宽广区域中。也就是说，即使我严格控制变量，对于同样的神经网络，每一次输入相同的训练集，最后却依然会得到差异极大的结果。”
我咀嚼着她的话，感到一种震撼像水面的涟漪一样缓缓在我脑海中扩散开来。
“你的意思是，在输入某些数据，和输出某种‘思想’之间，可能存在一定的偶然性？”
“没错。用科学术语说叫‘概率’，用古人的话说叫‘命运’。”
我陷入了沉默。这也就是说，一个人之所以成为反人类分子，有可能不怪遗传因素，不怪童年阴影，也不怪任何思想的影响，完全就是一种偶然而已。
而且，真实的人脑比模拟大脑复杂得多，其中的偶然性更是难以想象了。
“是不是难以接受？”她目光灼灼地看着我，“是不是就像以前的人第一次听说引起癌症的不仅是遗传因素、生活习惯、有害物质，
她总有种种奇谈怪论，我已经不以为怪了。只是笑道：“这话你应该说给ε-rei听。她恨不得我们越透明越好。”
“别理那老家伙，那是有名的一根筋，说话冲得要命。”她说，“还好她活在现在，只需要安心做研究就好了。这种性格的人要是在上个世纪，哪里都容不下她，还能让她做市政委员会的委员？”
“对了，你刚才说有支持我的证据，是什么呢？”
“其实我也对分析人的思想挺感兴趣。”她的眼睛亮了起来，显露着那种能让人着迷的活泼神采，“我读过ε-rei的一些论文，她的思路整体上是没问题的。只不过，她以为能够解读人脑的一些意识，就意味着很快能做到监控一个人的全部思想；以为现在暂时做不到只是因为数据不足——这真是太盲目乐观了。就算给她一个人脑接收到的全部数据，她还是有个问题无法解决。”
我点了点头，说道：“黑箱。 ”
【注：目前的机器学习系统就是“黑箱”，也就是说它可以得出最优策略，但这些策略是怎么来的，却隐藏在神经网络系统的内部参数（神经网络突触权重）中。研究人员无法用数学方程表达神经网络的内部结构。但人们相信这个黑箱是可以解读的，并且也已经作出了一些解读。本文设定人类已经可以解读系统，系统不存在黑箱问题；但人脑依然是黑箱。】
“对。就算她知道一个人经历过的一切，也知道她最终产生了什么思想，但是怎么解读输入和输出之间的过程呢？比如说我们人人都知道，同样看一场电影，有的人想到了这个，有的人却想到了那个——到底是什么决定了她们思想的不同？”
“可是，ε-rei可是神经科学的专家，我们都能想到的问题她怎么会想不到？”
“我也奇怪过。但后来我明白了，她其实是被我们数据中心的工作误导了——她觉得系统比一个人的大脑复杂千亿倍，既然系统都能被解读，不再存在黑箱问题，大脑怎么可能永远是黑箱？”
“诶……这么一说，好像是这样啊！”
“我以前也这么想，觉得人脑黑箱的破解只是时间问题，现在只不过是技术不成熟而已。但是后来，我做了一个实验，发现并没有这么简单。”
我的好奇心已经达到了极致。这一刻，窗外的湖和白帆、身旁穿梭不停的服务机器人，都好像消失了。宇宙中只剩这张小桌，和她即将揭示的谜底。
“人脑太复杂了。它的运作机制是2的1000次方次可能的意识量子流。我没法复制所有神经元的空间连接，每一个神经元中的生化反应，细胞质中的基因表达，细胞膜上的量子运动，以及所有这一切之间的联系。所以我想，干脆就忽略生物因素吧。可以做一个简化版的人脑——机器的神经网络就要单纯得多，一切都能以代码的形式来解读。我想试试，搭建许多神经网络，组合成一个模拟大脑。再给这个模拟大脑输入一个人一生所接触到的数据，它会不会输出和这个人相近的思想呢？”
“等等。”我打断了她，“这也太复杂了吧？”
“也还好。计算神经科学已经对人脑的算法研究得很深入了。参数和架构都有现成的，我只是忽略了生物物理基质而已。”
“我是说，输入的数据太复杂了。就算你有一个人的全部人生记录，可是大脑的特点是能够选择性地接收一些信息、忽略另一些，你怎么确定那个人的大脑曾经接收过哪些数据呢？”
她狡黠地一笑：“我只管给它‘喂’人生记录的数据，它自己决定取舍。这不是更像真实的人生么？”
我明白了。示意她继续说下去。
“当然，这种模拟是很不严谨的——计算神经科学的专家可不会这么胡搞。没有生物基质就是个很大的漏洞。人脑的活动始终受遗传和生理因素影响，而且其生理条件是动态的，一生中随时都在变化，而这些我没有模拟。而且，机器智能和人类智能毕竟是有差异的，比如说，我们可以把触觉的生物电转化成数据输入机器，但机器对‘触觉’的‘感受’是否能和人类完全相同，这就很难证明了。而用作模板的人生记录，也毕竟不可能达到100%完整，一个人的一生中总有些事件和感受被系统遗漏掉了，而这些遗漏的信息可能才是决定她思想与性格的关键因素。还有，人感受到的外界信息其实只是人生的一小部分，大脑的自主活动，也就是我们平时无所事事的幻想，躺在床上、坐在窗前什么也不做时突然闪现的念头，才是人生更重要的部分，而这部分，是系统记录不到的。”
“其实我也没想真的做出什么结果。我就是弄着玩儿，好奇。我用了矫正所的一个样本，那是一个新勒德分子。我把她的全部人生记录输入模拟大脑，想看看它会不会也萌生出要把数据中心炸掉的念头……可最后的结果让我很惊讶。”
【注：勒德分子：原指十九世纪初英国手工业工人中参加捣毁机器的人。比喻强烈反对机械化或自动化的人。】
“怎么啦？”我打趣道，“你的模拟大脑觉悟高，变成了技术至上派？”
“不不，这种模拟太粗糙了，所以输出的基本是一堆乱七八糟的东西，类似于精神病人的呓语。”她说，“但是，一个奇怪的现象出现了。”
“什么？”
“我把模拟大脑的参数和架构复制了多份，又把这实验重复了几次，最后都只得到胡言乱语。但通过对这些胡言乱语的分析，我发现，它们竟存在思想倾向上的明显差异。我又对照了全球管理会发布的最新政治光谱，发现这些模拟大脑的‘思想’竟然可以分布在从极左到极右的宽广区域中。也就是说，即使我严格控制变量，对于同样的神经网络，每一次输入相同的训练集，最后却依然会得到差异极大的结果。”
我咀嚼着她的话，感到一种震撼像水面的涟漪一样缓缓在我脑海中扩散开来。
“你的意思是，在输入某些数据，和输出某种‘思想’之间，可能存在一定的偶然性？”
“没错。用科学术语说叫‘概率’，用古人的话说叫‘命运’。”
我陷入了沉默。这也就是说，一个人之所以成为反人类分子，有可能不怪遗传因素，不怪童年阴影，也不怪任何思想的影响，完全就是一种偶然而已。
而且，真实的人脑比模拟大脑复杂得多，其中的偶然性更是难以想象了。
“是不是难以接受？”她目光灼灼地看着我，“是不是就像以前的人第一次听说引起癌症的不仅是遗传因素、生活习惯、有害物质，
