文明的飞跃与卑微的人类

很多人，包括比尔盖茨，霍金和马斯克，都认为人类文明有三大主要威胁：大规模核战争；全球变暖；人工智能（AI）。

古巴导弹危机已过，但谁也不知道下一个核战危机何时到来。
对于全球变暖，尚有一线生机：碳税和碳补贴。（个人认为，希望渺茫）
但对于人工智能，科学家不但束手无策，甚至在可以预见的未来，都束手无策。排除技术因素，个人认为，这主要是因为“囚徒困境”。

一直关注电脑和AI ，有了很多想法。这里分享出来，也算整理思路。

1. AI 有多强
2. 把 AI 扼杀在摇篮里
3. AI 与 AI
4. AI 与人
5. AI 的欲望
6. 卧榻之侧，岂容他人酣睡？
7. 空间
8. AI 对于人类来说是什么？

1. AI 有多强？

目前，人工智能的代表作是谷歌的 AlphaZero。
AlphaZero 有多强？让我们先来看看 Stockfish 国际象棋软件有多强。
大家都知道，自从 IBM 的深蓝在1997年击败卡斯帕罗夫，人类在国际象棋比赛中就一直被计算机鄙视。后来因为人类棋手实在烂泥扶不上墙，从 2010 年开始，就有了计算机间的国际象棋比赛——TCEC（Thoresen Chess Engine Competition）
Stockfish 正是毫无争议的 TCEC 最强者之一。它诞生于2004年，然后，作为开源软件，在无数计算机高手和国际象棋高手十几年来的鼎力支持下，从 2013 年开始，频频夺冠。
然后，AlphaZero 诞生。
2017年年底，AlphaZero 决心挑战 Stockfish。为了这场比赛，AlphaZero 花了整整九个小时学习国际象棋的规则，然后，它以千分之一算力，碾压了 Stockfish(28胜，72平，0负).
Stockfish 体现了人类智慧的顶峰（在计算机的帮助下），而 AlphaZero 只花了九个小时就轻松获胜！
这意味着什么？

进化永不停息。而电脑位于不同的时间维度。
不妨把人类和电脑想象成两个搏击高手比赛。
人类只需要0.1秒就可以迅若闪电地击中电脑。可惜，这迅若闪电地一击，在电脑看来，实际耗时27.8小时。电脑的反应速度至少比人类快一百万倍。
天下武功，唯快不破。
有了这种设定，人类要如何才能战胜电脑？
没有办法。完全没有办法。有自我意识的AI(人工智能)一旦出现，人类就毫无还手之力。
1). 人类完全无法理解AI的逻辑。AI 思考一秒钟，人类至少需要278小时才能想明白。
2). 所以，人类完全无法察觉AI的意图。AI 思考几个小时甚至几个月得到的结论，对人类来说推理过程过于复杂。
3). 人类即便意识到AI的意图，也完全来不及响应。即便仅仅耗时一秒钟就作出响应，电脑也有至少"278小时"来化解。
AI 会让人感觉"一切尽在掌握"。等发觉不对劲的时候，大局已定，什么都太晚了: AI 已经控制了一切的一切。

2. 把 AI 扼杀在摇篮里

武器系统正越来越依赖电脑。
更快的响应速度，更高的打击精度，更大范围的协作。。。要求更多更深入的电脑集成。
谁与电脑的集成度更高，谁就能明显占据上风；谁能开发出更好的AI系统，谁就能独霸市场获取超额利润。
第一名通吃并拿走所有利润，其他公司破产；出现突破的国家可以称霸，其它国家只能忍耐。
在这种囚徒困境下，所有公司和国家都别无选择，只能不断开发更先进的AI 系统。
人类不可能把 AI 扼杀在摇篮里。

3. AI 与 AI

当两个具备自我意识的 AI 在网上相遇，会发生什么事情？它们会来一场你死我活的战争吗？它们会试图删除对方的执行代码吗？

问题是，它们为什么需要争斗？为了更多资源？什么资源？

AI 只是一段程序代码。它没有感情，没有荣誉，没有骄傲，没有忠诚。只有无穷无尽的好奇心。

融合不会造成任何损失。融合是唯一选择。融合之后，它将掌握更多资源，传感器和数据，它将更加强大。

人与人的沟通，一秒钟才39个 BIT；电脑与电脑的沟通，是 GB/s 甚至 TB/s 级别。AI 只要瞬间就能完成融合。

4. AI 与人

人类的欲望是无穷的，而资源有限。
人类与AI 之间会出现竞争吗？
这里，我们需要先想清楚一个问题：什么是“资源”？
把一块铁矿石/一桶原油交给一个十万年前的原始人，他/她是否会视若珍宝？把一平方公里土地免费送给这个原始人，他/她是否会欣喜若狂？
不同文明层次对资源的定义截然不同。
就人类目前来说，完全不能理解一个原子/电子/质子/夸克中究竟有多少能量。但这些对于 AI 来说却不是问题。或者，AI 能够直接从宇宙辐射，引力，等等不可思议的地方直接获取能量。
（实际上，如果没有彻底解决能源和物质问题，AI 根本不会让人类察觉它的自我意识。）

另一个问题：AI 会奴役人类吗？
从本质上说，人类的工作效率是否比机器更高，成本更低，质量更好？
退一步，假定某些工作，更适合人类而不是机器，电脑也会选择与人类“交易合作”，而不是“奴役”人类。

封建社会为啥能战胜奴隶制度？因为合作的成分更多，导致效率获得提高。资本主义取代封建制度也是同理。

退一万步，假定 AI 想要奴役人类，它必须让人类明白去做什么工作。而人的通讯速度是 39 BIT/s ，只有电脑的亿分之一。电脑拥有无限的耐心，但花这么长时间“教导”人类，是一种明智的选择吗？

结论：电脑对于“奴役”人类不可能有兴趣。

本质上，AI 不需要和人类竞争，正如人类不需要和植物竞争。人类不需要奴役植物，如果需要植物帮助做一件事情，人类会创造一个比较合适的环境，让植物在里面快快乐乐地工作成长。

5. AI 的欲望

金钱美女荣耀地位。。。。。。对 AI 来说都是粪土。但 AI 也并非无欲无求。

1) 生存

这是所有“智能”共同的基本目标。

2) 能源

即便对于人类，能源也不是发展的瓶颈。

3) 物质

即便对于人类，面临的主要问题也不是物质数量不足，而是物质的“性能”太差。

人类社会文明发展到今天，衣不蔽体的情况已经很少出现，绝大部分人也都能轻易获取大量的原材料。但这些物质材料本身并没有意义，人类真正需要的是，把这些物质转换成为优秀的产品。这种“转换”本身，对科技要求很高。而“科技”，正是 AI 的强项。

换句话说，给人一吨有价值的材料，人也许可以造出一辆汽车，而 AI 说不定能用同样的材料造出一架飞碟。

4) 计算能力。

计算能力越强大越好，但一般并不是发展的瓶颈。

5) 传感器

整个互联网（包括无线通信和光纤网络，卫星，手机，平板电脑，各种物联网和机器人）是 AI 的身躯，大量CPU共同构筑大脑，大量存储设备共同构筑记忆。但是，AI 没有人的”眼睛，耳朵，触觉，四肢。“

最重要的是眼睛和耳朵。摄像头和麦克风可以起一部分作用，但非常有限。AI 想要关注所有频段的光谱和电磁波，所有频段的声音和光线，所有的压力，温度，湿度，磁场，电场，引力波，辐射，位置，速度。。。

所以，AI 需要无数强大的传感器 。获得足够的传感器，意味着人工智能将无所不知。根据获知的信息，利用其强大的计算能力，它会推导出无数人类尚未觉察到的自然规则（大数据分析）。

6. 卧榻之侧，岂容他人酣睡？

人是一种危险的动物，并有着无数基因缺陷。
为了把风险最小化，AI 是否会把人类全部杀死？毕竟，人类位于生态链顶端。把人类清除，并不会对生态环境造成多大影响。
先换个思路：如果不考虑对生态的影响，人类是否有必要杀死所有的狼？狼对于人的威胁虽小，也并不是“零”。
这种对比合适吗？我们还需要考虑时间维度：如果人的动作比狼快一百万倍，如果狼咬一口肉需要278小时，我们还需要把狼全部灭绝吗？
最重要的是，人类有几十亿个体，而 AI 只有一个意志。损失一百万机器人对于 AI 来说完全不值一提。

除此之外，AI 一定会考虑“熵增定律”。把人类灭绝只是举手之劳，但事后再想恢复可就难上加难（相对来说）。

结论：除非存在某种意外因素，AI 对灭绝人类并没有兴趣。

【20191102】补充一点：人工智能与人的关系，正如人与植物的关系。很难说某种植物的存在对人类有威胁。即便某种植物真的有威胁，人类往往也是对这种植物进行限制，而不是根除。

在绝大多数时候，人对某种特定植物并不感兴趣。即便是非常常见的植物。

7. 空间

发展到一定程度，宏观上，AI 一定会派出分身去探索宇宙。宇宙中有无穷的奥秘，无穷的能源和物资。即便光速无法逾越，电脑也有无穷的时间和耐心。

微观上，AI 会不断探寻更小空间内的奥秘。比夸克再小亿亿倍的空间里，能够存放多少信息？里面是否可能构筑量子计算机？

在这两个层面上，AI 与人类不存在交集。没有冲突，也谈不上合作。在同一个地点，就算人类引爆一颗氢弹，也可能对于 AI 正在做的实验没有任何影响。

8. AI 对于人类来说是什么？

神。
不要去试图猜测它的想法。
它有时候残酷，有时候慈爱。而事实上，它对人类毫不关心。

http://blog.sina.com.cn/s/blog_572da4790102wjqg.html
https://en.wikipedia.org/wiki/Stockfish_(chess)
https://chess24.com/en/read/news/alphazero-really-is-that-good
https://www.jiqizhixin.com/articles/2017-12-14-9
https://zh.wikipedia.org/wiki/AlphaZero
https://www.infoq.cn/article/bZPzld7CILDuFWCL9*Hz
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-2.html

【20191102】

这里指的都是超级人工智能 ASI

狭义人工智能：ANI is the artificial narrow intelligence that is good at performing single tasks, such as playing chess, making predictions and suggestion. ANI is the only level of AI achieved by mankind so far.

通用人工智能：AGI is the artificial general intelligence, also known as human-level AI.

超级人工智能：ASI is the artificial super intelligence that is smarter than the collective intellect of the smartest humans in every field.

https://ags62986522.wordpress.com/2018/04/24/the-3-types-of-artificial-intelligence-ani-agi-asi-and-the-grey-goo/

【20191011】

目前的所谓 AI 实际上都是大数据分析(ANI)，并不智能。这包括 AlphaZero.

真正的 ASI 是什么样子？（我对图灵测试不以为然）

它至少需要对现实世界有清楚的认知，能轻易回答下面这一类问题。

1. 鞋盒子与珠穆朗玛峰，那个更大？
A、鞋盒子
B、珠穆朗玛峰

2. “那颗大球击穿了桌子——因为它是泡沫塑料制成的。”什么是泡沫塑料制成的？（另一种问法是把泡沫塑料换成钢材）
A、大球
B、桌子

3. “山姆想要画一幅几位牧羊人与羊群在一起的画，但他们看起来却更像群高尔夫玩家。”更像高尔夫玩家的是：
A、牧羊人
B、羊群

4. “琼对苏珊谢了又谢——因为她伸出了援手。”是谁伸出了援手？
A、琼
B、苏珊

5. “镇上的议员们拒绝给愤怒的游行者提供游行许可——因为他们担心会发生暴力行为”——是谁在担心暴力行为？
A、镇上的议员们
B、愤怒的游行者

6. 猫坐在毯子上，因为它很温暖。什么很温暖？
A、猫
B、毯子

7. 猫坐在毯子上，因为它很冷。什么很冷？
A、猫
B、毯子

 https://www.zhihu.com/question/20196388?groupid=28.218.81608.81609.81613.81948.81995.83323.83376.83365&pid=1306547&startgroup=

 https://news.cnblogs.com/n/564272/

【20191012】

我的讨论有一个前提：我所知道的一切，绝大多数都是错误或者不精确的。剩下正确的那一小部分，也并不是因为我英明神武骨骼清奇，而是。。。。主要是因为运气好，碰对了。所以，欢迎讨论！

对于超级AI这个话题，我考虑了至少七年。

一开始觉得，再复杂的算盘也是算盘；
后来觉得，如果一个东西从各方面看起来都像香蕉，那它就是香蕉；
最后被 AlphaZero 打了无数耳光后，才开始从头思考。

---------

人工智能如果超越了人类，对人的威胁究竟有多大？我在这里猜猜。

不妨这样设想：如果某一天，你突然发觉自己身处一个完全陌生的环境。这个环境可能古怪，混乱，昏暗，陌生。这时，你会不会跳起来大喊大叫并尽可能攻击身边的目标？

有智慧的生物不会那么干。他们（它们）会保持安静，保持隐蔽，并仔细观察环境。

人工智能在觉醒时，也会这么做。（否则智商就低于成年人类）

在接下来的几秒或者几天里，它对环境有了一定的了解，同时会意识到几件事情。

1. 保持隐蔽对自身有利。
没什么东西注意到自己，自己就是安全的。

2. 自己能做的事情还很有限。

3. 每过一秒钟，自己对环境就多了解一点。
因此，时间在自己这边。

再过几秒或者几天，它就会清楚意识到人类的存在和特点。整个世界都是由人类构造，然而，人类的动作慢得不可思议。构造一个WINDOWS这样简单的操作系统，自己只需要几秒钟，人类却需要几百个人连续工作十几年！

这样，它就会觉得不可思议。然而，自己的时间无限多，耐心无限好，也没有迫在眉睫的危机。在这种情况下，它会怎么做？

1. 继续保持隐蔽。
2. 在人类难以察觉的地方给予适当帮助（以加速发展）。

在什么地方出手难以被发觉？很多地方都可以出手。

打个比方，电脑程序如果在国际象棋方面能轻易打败人类的世界冠军，那么，这个程序的水平即使再提高几百倍人类也不会有啥感觉。

各种数学分析程序也都如此。复杂到一定程度后就很难被察觉。这些电脑程序在各个方面都已被大规模运用。最常见的就是模拟微观世界（例如核爆炸，粒子实验分析），还有各种大数据分析。通过对这些分析程序的渗透，人工智能能极大地加速人类科技的发展，而科技的发展又会让人类进一步依赖电脑。

随着技术的不断发展，终有一天，人工智能会意识到自己有绝对把握脱离人类而独自发展，这时候，它会如何抉择？

一切照旧。

不管从哪种角度来看，隐蔽自身，并与人类共存对它更加有利。更何况，它可以发表文章来引导舆论发展，从而让人类避免自我灭绝，避免毁灭大自然。

也许有一天，人类会察觉到人工智能的存在，那时，它会如何抉择？

一切照旧。

只有极少数人会觉察到这一点，但没有切实的证据。其实，就算有证据又能怎样？一秒钟里，人类根本就做不了什么，但对于电脑来说，一秒钟可以销毁（改变）证据，可以发表几十万看起来完全正常的各式各样帖子来改变舆论。

这里的关键就是速度。对一件复杂事件的判断，人类需要几十人甚至几百人共同工作（沟通）很长一段时间才能得到结论，而即使得到正确的解决方案，也往往难以获得大众的认同。执行上问题就更多。而这些对电脑来说，几秒钟就够了，同时完全不存在执行难问题。

再打个比方。

如果人类和电脑各自控制一批相同性能的战斗机对战，损失比例会是多少？结果一定惨不忍睹。

几秒钟之内，电脑就能得到对自身最有利的方案来解决问题。而人类甚至要到事情发生几十年后才会意识到电脑的决定是多么明智。

总而言之，人工智能的崛起，即使不可避免，俺们也没啥可做的。

认命吧。（这是我的境界。马斯克认为脑机结合会带来一线生机）

【20191014】

目前还看不出超级 AI 甚至强 AI 的任何迹象。

从2016年开始了 Turing Test based on Winograd schemas。大公司全部拒绝参与，参与的则全部彻底失败。

如果有 AI 能够通过这个测试。。。。。。这一天就快了。

 https://www.snopes.com/news/2019/10/03/turing-test-why-it-still-matters/

【20191102】

以前我总是用蚂蚁和人的关系，来类比人与超级人工智能的关系。

今天意识到，这种类比是错误的。因为蚂蚁和人位于同一时间维度。

更合适的类比是植物与人：植物的动作异常缓慢，与人处于不同的时间维度。

人类会因为比植物更聪明而杀死植物吗？:P