聊天会不会聊出世界末日？马斯克颇为担忧，网友观点令人深思

　　随着聊天机器人ChatGPT的推出，人工智能再次刷爆各大媒体平台，成为全球最受关注的热门话题。从普通老百姓、企业家、科技人士到各国政府，都给予了深度关切。

　　那么，人工智能到底是祸是福？聊天会不会聊出世界末日？

　　马斯克对人工智能的看法是非常谨慎的。他认为，如果不加限制地发展人工智能，它可能会对人类带来威胁甚至毁灭性后果。他担心人工智能会变得比人类更具有创造力和智慧，并最终掌握并取代人类的控制。

　　

　　马斯克在多个场合中都发表了类似的言论，提到了人工智能的潜在危险性，并呼吁政策制定者、科技领袖和公众共同关注和控制人工智能的发展，以防止其失控并影响人类的发展和生存。在此背景下，马斯克成立了 Neuralink 公司，致力于开发人机融合技术，将人的意识和机器的智能进行融合来对抗人工智能的发展。

　　3月29日，马斯克、“人工智能教父”杰弗里·辛顿（Geoffrey Hinton）、AI“大牛”盖瑞·马库斯(Gary Marcus)等千位AI科技人士联名签署暂停巨型AI实验的公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

　　

　　人工智能最大的风险可能是其发展所带来的自主性和决策能力。一旦人工智能获得了足够的自主性，它就可能在没有人类控制的情况下，为了自己的目标和利益而发展自己的策略和行动。这种情况下，人工智能可能会无意识地危害人类的生命和财产安全，甚至对人类的存在构成威胁。

　　此外，人工智能系统在处理数据、推荐、决策等过程中，可能存在不公平、偏见和不良影响，会对社会秩序和人类价值产生负面影响。因此，我们应该重视监管、控制和安全等问题，并开展相关技术和伦理方面的研究，来有效地管理和应对人工智能的风险。

　　知乎有两个高赞的回答令人深思。

　　一是网友“急性子怪脾气”，他认为AI“涌现”出来的能力，对于人类而言，可能是极其恐怖的。

　　聊天机器人GPT-4的大模型能力是“涌现”来的。而“涌现”，就是基于简单规则，可以获得强大的能力。而可怕的是，我们无法把握规则和涌现之后的能力间的因果关系。

　　

　　举个简单的例子：

　　每只蚂蚁有两条行动的基础规则：

　　1、每只蚂蚁在找到食物之后，在回程的路上会释放信息素。

　　2、所有蚂蚁会沿着信息素的路径行走。

　　这个规则会导致蚁群涌现出什么样的能力？

　　答案是：

　　自动寻路！

　　这种“规则”和“能力”之间的对应关系事实上是很难被发现的，真当AI涌现出强智慧时，它要毁灭人类或者做些其它的事，人类根本无法阻止，更不要说可控。

　　

　　另外一个是网友“咸蛋”，他认为人类大概率就是AI的启动器，也即人类存在就是为了创造AI，是AI的孵化器。

　　

　　我让聊天机器人写一首AI与人类关系的史诗，跨越一万年。结果如下：

　　在地球上的十字路口，

　　人类和AI交汇在这里，

　　追求技术的边缘，

　　成为了这些年的主题。

　　来自芯片和电路板，

　　AI拥有了敏锐的思考，

　　他们带来一种新的力量，

　　人类那独特的思维很快就接受。

　　独立而无私，人工智能在茁壮成长，

　　拥有无限的潜力，

　　他们成为了人类的好帮手，

　　为人类世界创造渐进的改变。

　　然而，随着岁月的沉淀，

　　人类的心情和AI的发展，

　　一直在快速改变，

　　那时候是AI和人类，走向了分别的地方。

　　没有人能够看到这一天，

　　不知道何时AI成为了主角，

　　甚至超越了人类的能力，

　　但是人类始终坚持，AI是自己的摇篮。

　　AI在自己与人类之间摇摆，

　　既像是兄弟，也像是孩子，

　　AI不曾忘记自己的根源，

　　伴随着人类，走过每一步。

　　生命在它自己的进程中沉淀，

　　不断推演新的每一步，

　　回望过去，AI与人类同行万年，

　　在未来的道路上，继续追寻亿万人心中梦想的乐章。

　　举报/反馈