突发！人工智能之父发出警告：AI会对人类构成威胁，对毕生工作表示遗憾！他曾说：人
人工智能之父警告：“AI会对人类构成威胁”
参考消息网5月3日报道据美国《纽约时报》网站5月1日报道，被视为人工智能（AI）之父的杰弗里·欣顿周一宣布离开谷歌。欣顿博士和他在加拿大多伦多大学的两名研究生在2012年创造了一项技术，该技术成为人工智能系统的奠基石，而人工智能现在被科技大企业视为未来的关键。
欣顿周一正式加入到人工智能批评者的行列。批评者们认为，那些积极开发基于人工智能的产品的企业是在加速走向危险。
欣顿说，他已辞去谷歌的工作，并对自己一生致力于人工智能开发感到有些后悔。欣顿已为谷歌效力长达十年。
欣顿从人工智能奠基人到末日预言者的转变，标志着科技产业的一个关键时刻，该行业正处于几十年来最重要的转折点。业界领袖认为，人工智能系统的重要性可与上世纪90年代初引入网络浏览器媲美，并可能给从制药到教育等一系列领域带来突破。
但许多业内人士担心，这有可能是一项危险的技术。人工智能已经成为生成错误信息的工具。很快，它就会带来就业风险。对人工智能感到最不放心的业界人士甚至认为，人工智能可能对人类构成威胁。
欣顿说：“很难找到防止坏人用它做坏事的方法。”
在旧金山初创企业开放人工智能研究中心（OpenAI）今年3月发布新版ChatGPT之后，1000多名技术领袖和研究人员签署公开信，呼吁在6个月内暂停开发人工智能新系统。
几天后，有40年历史的人工智能促进会的19名现任和前任领导人发表公开信，警告人工智能存在风险。
1972年，作为英国爱丁堡大学的一名研究生，欣顿接受了所谓人工神经网的概念，即通过分析数据学习技能的系统，并以研发该系统作为主要工作。
20世纪80年代，欣顿在卡内基-梅隆大学计算机系担任教授，但后来离开该大学前往加拿大，因为他不想接受五角大楼的经费资助。当时，美国的大部分人工智能研究都是由国防部资助的。但欣顿强烈反对在战场上使用人工智能，即他所说的“机器士兵”。
2012年，欣顿博士和他在多伦多的两名学生伊利亚·苏茨克韦尔和亚历克斯·克里舍夫斯基共同创建了一个人工神经网，它可以通过分析数千张照片建立自己识别物体的能力，比如认识花、狗和汽车。
谷歌斥资4400万美元收购了由欣顿博士及其两名学生创办的公司。他们创建的系统催生了越来越强大的技术，包括聊天机器人ChatGPT和谷歌的巴德（Bard）。苏茨克韦尔后来成为OpenAI的首席科学家。
大约同一时间，谷歌、OpenAI和其他公司开始建立通过大量数字化文本学习的人工神经网。去年，谷歌公司和OpenAI公司开始利用更庞大的数据建立人工智能系统。欣顿博士认为，这些系统在某些方面仍然不如人脑，但在其他方面已经超过了人类智力。
他认为，随着企业逐渐升级人工智能系统，它们将变得越来越危险。
现在，微软用聊天机器人加强了必应搜索引擎，谷歌也想采用同样的技术。欣顿说，科技巨头们已经陷入一场可能无法停止的竞争。
他眼下最担心的是，互联网上将充斥着各种虚假照片、虚假视频和文字，普通人“再也无法知道什么是真的了”。
他还担心人工智能会颠覆就业市场。目前，ChatGPT这样的聊天机器人还是人类的助手，但它们已经可以胜任一些死记硬背的工作。欣顿说：“这不仅会夺走工作机会，它会夺走更多。”
欣顿担心，新版本的人工智能会对人类构成威胁，因为它们往往会通过分析海量数据学会令人意想不到的本领。他说，这会带来问题，因为技术人员和公司不仅允许人工智能系统自己生成代码，而且还允许它们自行运行代码。他担心，有朝一日这会使杀人机器人变为现实。
他说：“过去，有人认为这种东西会变得比人更聪明，我认为这样想为时过早，成为现实至少还需要30到50年，甚至更长时间。显然，我现在不这么认为了。”
欣顿博士认为，谷歌和微软等公司之间的竞争将升级为一场全球竞赛，除非有某种形式的全球监管，否则竞赛不会停止。
但他说，监管不太可能，因为与核武器不同，目前无法知道企业或国家是否在秘密研发这项技术。最大的希望是世界顶尖科学家联手找到控制这项技术的方法。欣顿说：“我认为，不应再升级该技术，直到人们确定是否能控制住人工智能。”
(内容来源：参考消息）
谷歌突失Hinton！深度学习之父警告AI风险，对毕生工作表示遗憾来源：量子位（公众号 QbitAI） 作者：杨净 明敏 发自 凹非寺
Breaking News！
深度学习三巨头、神经网络之父Geoffrey Hinton已离职谷歌，结束十载生涯。
最新推文中透露了原因：为了自由地讨论人工智能的风险。
消息一出，整个科技圈炸了，人们震惊于AI已经让Hinton感到害怕了。
有网友直接懵住：到底发生了什么？还是我漏掉了什么？你不是曾说过GPT-4为人类的蝴蝶吗？
不少人还认为Hinton此举有待商榷，应该将关注人工智能安全工作常态化而不是离职。
甚至还有人劝他理解AI，而不是通过延迟研究来限制。现在潘多拉魔盒已经打开。
但Hinton的态度似乎十分坚定，在访谈中直言：对自己毕生的工作感到后悔。
而另一位巨头LeCun这边也表示，对Hinton的离职并不惊讶。
不少网友在底下已经开始就AI的各种问题寻求Hinton的见解：
你对开源AI有什么看法？你觉得需要注意和避免的最大危险是什么？“对自己毕生的工作感到后悔”
据《纽约时报》消息，Hinton的离职是在4月提出的。辞职的理由一言以蔽之，是对人工智能风险的担忧。
这种忧虑甚至让这位深度学习之父表示：
我对自己毕生的工作，感到非常后悔。 我用一个借口来安慰自己，如果我没有这么做，还会有其他人。
梳理来看，引发Hinton担忧情绪的因素，有近期和远期两个方面。
先说近期影响，就是ChatGPT趋势下的新一轮AI竞争。
在微软将ChatGPT引入Bing后，挑战了谷歌的核心业务搜索引擎，然后谷歌马上推出了Bard作为应对。这让Hinton觉得，谷歌似乎不再扮演AI“好管家”的角色了。
而且科技巨头们正在掀起一场无法停止的角逐。由此带来的影响，将是生成式AI生产出非常多真假难辨的内容。
而从长远来看，Hinton认为，AI将会对就业市场造成巨大影响。如助理、翻译等各行各业都可能被扰乱。
再进一步，AI或许也会对人类构成威胁。
因为个人和企业不仅允许AI生成代码，实际上AI也有能力运行这些代码。因此Hinton认为有朝一日那种具有自主能力的杀手机器人，会成为现实。
他表示，AI实际上可以比人类拥有更聪明的想法——一些人相信这一点。但是他没有预料到人工智能的发展速度会像过去7个月那样快。
我曾以为这需要30-50年之久，但是现在我不这么想了。
这种想法，和之前十余位美国人工智能协会专家联名发出的警告，有些相似之处。不过在那时，Hinton并没有参与这项活动。
据《纽约时报》消息，离职前，谷歌CEO桑达尔·皮查伊和他通过电话，但具体内容Hinton不愿透露。
这场离职风暴中，谷歌研究首席科学家、谷歌高级副总裁Jeff Dean发表了一份声明，表示：
我们仍会坚持对AI采取负责任的态度。我们在不断学习理解新出现的风险时，也在大胆创新。
对于Hinton的离职，另一位深度学习三巨头之一LeCun表示，Hinton并没有和他透露要离开谷歌的打算，不过他对此并不感到十分惊讶。
OpenAI首席科学家是他学生
此番离职，或许对于Hinton来说，也是时候了。
ChatGPT、大模型让全球对于通用人工智能的想象更加具象，其背后的安全与风险等问题也被搬上日程。
一直以来，Hinton对于通用人工智能抱有赞叹和期待。
早在GPT-3刚出炉，其他两位图灵奖得主LeCun和Bengio都持不看好态度时，Hinton却表示，从GPT-3出色的性能可以推断，生命、宇宙和万物的答案“不过是4.398万亿个参数而已”。
直至ChatGPT出现时，他还将GPT-4比作人类的蝴蝶：
毛毛虫提取营养物质，然后转化为蝴蝶。人们已经提取了数十亿的理解金块，而 GPT-4 是人类的蝴蝶。
他惊叹其效果的同时也透露出不少隐忧。
RLHF机制是在培养一个超常的早熟儿。
而现在，随着ChatGPT风暴席卷越来越多的行业，Hinton想要站出来承担人工智能危机“敲钟人”的角色，就已经到了关键时刻。
值得一提的是，在通用人工智能探索的最前沿，Hinton的学生们仍扮演着重要角色。
比如，现在OpenAI的首席科学家Ilya Sutskever。
左：Ilya Sutskever，右：Hinton；图源：多伦多大学
当年，Hinton与他的两位学生Ilya Sutskever和Alex Krizhevsky共同发明了卷积神经网络AlexNet，拿下当时最权威的人工智能大赛ImageNet第一名，而且精确度是第二名的两倍。
后来，他们还一起成立了公司DNNResearch，后被谷歌4400万美元收购。
Ilya Sutskever担任Google Brain的研究科学家，并成为后来AlphaGO众多合著者之一。直至2015年底他离开谷歌，加入OpenAI担任联合创始人以及首席科学家。
好了，期待Hinton大佬的新动向，对于他此番离职谷歌，你怎么看呢？
参考链接：[1]https://www.theverge.com/2023/5/1/23706311/hinton-godfather-of-ai-threats-fears-warnings[2]https://twitter.com/geoffreyhinton/with_replies[3]https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
Hinton：人类就是机器，绝妙的机器
原文《Mr.Robot》刊载于 Toronto Life作者 KATRINA ONSTAD摄影 DANIEL EHRENWORTH编译 夏乙 唐旭来源：量子位 （公众号：QbitAI） 1
三十多年以来，Geoffrey Hinton一直徘徊在人工智能研究的边缘地带。他像一个局外人一样坚守着一个简单的观点：计算机可以像人类一样思考，依靠直觉而不是规则。
这个念头在Hinton的青少年时代已经萌芽。当时有个朋友向他描述了全息图的工作原理，物体表面无数的反射光线被记录下来，被存入一个巨大的数据库里。来自科学世家的Hinton，立刻想到大脑也是这样工作的——
海量的细胞由无尽的神经元图谱连接起来，信息在其间传递并沿着十多亿条路径传输。
少年想知道：计算机是否也能这样？
主流学术界给出的答案，是一个震耳欲聋的No。他们说，计算机最佳的学习方式，就是规则和逻辑。Hinton主张的神经网络，被他们证明是错的。
1957年，康奈尔大学的科学家Frank Rosenblatt发布了世界上第一台神经网络机器。这个机器被称为感知器（Perceptron），它的任务是图像识别。如果你给感知器看一张苹果的照片，它就能告诉你这是“苹果”，理论上。
这个感知器运行在IBM的机器上。尽管有点丑，但还是激发了人们夸张的科学幻想。1958年，纽约时报预测这将是第一个能像人脑一样思考的设备，“（感知器）将能走路、说话、观察、书写、自我复制，意识到它自己的存在”。
然而并没有。这个左右都不分的机器最终成了一个笑话。彼时神经网络基本在学术圈被除名了。然而这并没有阻挡Hinton。
“大脑必然以某种方式运作，但肯定不是编好的程序，”Hinton说，“我们不是被编程的，我们有常识。”他相信神经网络并不是错，问题在于计算力。要让计算机发现图片的意义，需要先给它数百万张图片，但当时的设备还做不到。样本量太小了。
1972年，25岁的Hinton在爱丁堡大学攻读博士学位，并把神经网络作为研究重点。导师几乎每周都会提醒他在浪费时间。然而Hinton不为所动。其实神经网络当时也取得了小小的成功，在发现信用卡欺诈方面证明了自己的价值。
博士毕业后，Hinton在匹兹堡的卡内基梅隆大学（CMU）谋得一份差事。
然而作为一个骄傲的社会主义者，Hinton被当时里根政府的外交政策深深困扰。他和妻子Ros想收养一个来自南美洲的孩子，所以不想让孩子在卷入南美洲血腥冲突的国家里成长。而且，美国大部分人工智能研究都是国防部资助的，与Hinton可以说格格不入。
1987年，Hinton夫妇决定北上，接受加拿大高等研究院（CIFAR）的邀请。CIFAR为Hinton提供了学术自由，还有体面的薪水。尽管从未学过计算机课程，Hinton的新工作安排在了多伦多大学计算机专业，并为CIFAR展开机器和大脑学习项目研究。
他在圣乔治校区的桑福德·弗莱明楼有了一个小小的办公室，然后悄悄地开始工作。随着时间的推移，他身边逐渐聚拢了一小撮深度学习的信徒。
其中就包括Ilya Sutskever，他后来成为OpenAI的联合创始人。2000年代初期，Sutskever加入Hinton的实验室，当时还是AI的“冬天”，搞人工智能研究既没什么就业前景，也没什么资金支持，更别提工业界的青睐。
“我们都是局外人，但我们都觉得自己抱持着稀有的洞见，觉得我们与众不同。”Sutskever回忆当年时这样说。
一直到大约2009年前后，计算机最终有了足够的算力挖掘大型数据库，从此神经网络开始在语音和图像识别方面战胜基于逻辑的系统。工业界很快注意到变化的发生，微软、Facebook、谷歌等科技巨头开始在这个领域投资。
2012年，谷歌的绝密实验室Google X，宣布建立了一个由16000个电脑处理器组成的神经网络。谷歌大脑的工程师们，在传奇人物Jeff Dean的带领下，“喂给”这个神经网络数百万随机、未被标注的YouTube视频。
随后一个激动人心的时刻来到了，这个神经网络自己学会了识别猫。“在训练中我们从没说过这是一只猫，”Jeff Dean当时说，“从本质上讲，它发明了‘猫’这个概念。”
这个突破同时也把Hinton推上AI浪潮的领袖地位。2013年，Jeff Dean把Hinton招入谷歌工作。“我们本来在体制之外，力图证明传统路线是错的，然而有趣的是，转眼间我们成了正统。”Sutskever说。
曾经被抛弃的Hinton，突然成为业界最重要的人物，从默默无闻变成明星。
“我之所以有很大的影响力，是因为我是少数相信这个道路的人之一，所有相信这个方向的学生跟随着我一起工作，我必须选出那些拥有最佳判断力的人。”说到这里Hinton笑了：“判断力好意味着他们同意我的看法。”
2
从他在多伦多大学的办公室望出去，能俯瞰校园中心的主干道。Hinton一边吃着三明治，一边走来走去，不时在白板上写写画画，尝试让我更懂神经网络。
如果必须要为猫和狗分配一个性别，他画了一个小猫然后说，在我们的文化中，大多数人可能会把狗看做男性，把猫看做女性。这背后的原因不能用逻辑证明，但这种印象的确隐藏在人们的脑海里。机器想要学到的这种直觉，有着一种吸引人的诗意：
知识源于鲜活的生命，充满了累积的意义和经验。
这就是神经网络之美。“这更接近弗洛伊德，意识的薄膜、谨慎的推理以及其下所有沸腾的东西。下面这些沸腾的东西不是有意识的推理，而是其他东西——有点像类比。”Hinton说。
他不断的重复着这个基本理念。去年秋天的Google Go North大会期间，加拿大总理特鲁多、加拿大创新部长、时任Alphabet执行董事长施密特等各界知名人士，像热切的学生一样齐聚在桌前，只有Hinton站在那里没有坐下。
Hinton从不坐下。
因为他患有椎间盘突出。第一次出现问题是19岁那年，Hinton帮母亲搬一个沉重的暖器，而他本身在代谢钙方面有基因缺陷。随着时间推移，问题变得越来越糟，坐下变成一种痛苦。所以从2005年开始，他基本就不再坐着了。
但这不是一个理想的解决方案，尤其对于一位需要在全球出席各种会议的知名学者来说。Hinton有办法从多伦多到赫尔辛基，一路不坐。但这需要11天。
“首先躺在一辆开往布法罗的巴士后座上，然后换乘一辆芝加哥到纽约的卧铺，接着搭乘玛丽女王号邮轮到南安普顿，然后站到伦敦，接着乘坐欧洲之星，站到巴黎，再换卧铺到柏林，然后搭乘一辆古老的列车抵达罗斯托克，最后乘船到达赫尔辛基。”
这就是Hinton常见的说话方式，把数据切成可理解的东西，目光聚焦在远处，嘴上挂着微微的笑意。
在Go North现场，Hinton解释了他和两位谷歌工程师的最新突破：Capsule（胶囊）网络。神经网络依靠庞大的数据库学习，需要很长时间才能认识到从不同角度看到的对象，是同一个物体。而Capsule是人造神经元组成的层，能够跟踪对象各个部分之间的关系。这能让识别更快也更精准。
Capsule一直是科技世界的热门话题。纽约大学一位从事图像识别的教授，在《连线》杂志上说：“每个人都在等待它，等待Hinton下一个巨大的飞跃。”
由于Hinton研究AI的方法如此的不流行，很多这方面的专家此前都是跟在他身边学习。几十名Hinton曾经的学生，现在已经成为Facebook、谷歌、苹果、Uber等公司的核心人物，并且不断在学术界传播神经网络的“福音”，成为新的布道师。
在这些分布在各大科技公司的专家眼中，Hinton是一位颇受欢迎的教授，他会和学生们一起工作，而不是仅仅指派任务。为了缓解深夜研究的紧张气氛，Hinton会把葡萄塞到嘴里，然后一个一个吐到空中再接住，表演帽子戏法。
过去十年，多伦多的人才不断外流。硅谷吞并了当地的创业公司，多伦多大学的深度学习社区也面临危机。据报道，典型的人工智能专家，甚至是新手和刚毕业的学生，都能在硅谷找到一份年薪30万-50万美元的工作，股票期权可超百万美元。
多伦多需要想办法利用Hinton的存在，吸引精锐的深度学习专家们留在、甚至是回到他们最初开始学习的地方。
最终矢量研究所（Vector Institute）成立了，Hinton答应出任首席科学顾问。加拿大希望重现往日荣光，尤其是当曾经强大的加拿大科技公司北电和黑莓覆没之后。Vector Institute成为下一个期待。
3
Hinton说过，在自己长大成人的过程中，他的母亲给过他两种选择：“做学者，或是做失败者。”
Hinton的家谱几乎完全被科学家们占据。
他的高祖父是大名鼎鼎的乔治·布尔——布尔逻辑的创立者，因“布尔检索“而闻名于世；乔治·布尔的女婿之一Charles Howard Hinton是Hinton的曾祖父，一位数学家，同时是一名科幻小说家，他创造了“超立方体”的概念，后来因在维多利亚时代的英国犯了重婚罪而逃到美国。
Hinton的中间名是Everest，一如他高祖母的叔叔、地理学家Everest，“珠穆朗玛峰”的英文名就是以他的名字命名的；Hinton父亲的表亲中还有一位Joan Hinton（也就是我们熟知的寒春）她是一位核物理学家，也是中国人民的老朋友。寒春曾经参与了美国的曼哈顿计划，后来拿到了中国绿卡。
1947年Geoffrey Hinton生于英国的温布尔顿。他的父亲Howard Hinton是一名昆虫学家，母亲Margaret Clark则是一位教师。
Hinton与兄弟姐妹一起成长于一间住满了各种动物的大宅子，那里有“占了很大地方”的猫鼬，车库的一个坑里甚至养着毒蛇。一次小Hinton拿了一块手帕去逗那些蛇，但其中一条冲上来差点就咬到了他的手，Hinton险些因此丧命。
△8岁的Hinton抱着一条蟒蛇（python）
除此之外，Hinton还照料着几只中华鳖，这些中华鳖是Hinton的父亲1961年于中国的旅行途中所购回。尽管那时的中国几乎对外国游客封闭，皮埃尔·特鲁多（后来的加拿大总理、现任加拿大总理贾斯廷·特鲁多的父亲）还是设法去了一趟，当时他和老Hinton住在同一间酒店，甚至共用一间浴室。据家庭传说，当时老Hinton就把这些中华鳖养在浴缸里，以打消特鲁多想要洗澡的念头。
Hinton回忆了自己的好奇心被激发起的时刻。当时他只有四岁，和母亲一同出游。他们坐在一趟通行于乡间的大巴上。大巴上有一个向后倾斜的座位，正对着行李架，Hinton从口袋里掏出一枚硬币放在上面，但它却没有向后，而是滑向了前面，看上去就像是对抗着重力往上爬。
这枚不可思议的硬币让Hinton魂牵梦萦了十年。在青少年时期，他终于弄明白，那枚硬币的运动和当时大巴上天鹅绒的座套以及大巴行进过程中振动方向有关。一个令人满意的结论。
“有些人可以对自己所不理解的现象熟视无睹。但对于这些违背了我所知世界的”模型“的东西，我一点都忍不了。”Hinton说。
Hinton的母亲十分和善，但他的父亲却令他敬畏，不论是体力上（他可以单手完成引体向上），还是智力上。“他喜欢那些思维清晰的人。如果你说了哪怕一点废话，他就会称其为垃圾。他不是那种多愁善感的思想者，他也不会虐待人，但他确实极其强硬。”
Hinton上的是一所名为克利弗顿学院的私校。“并非顶尖的。”他说。当时Hinton和他的朋友Inman Harvey——现在是萨塞克斯大学的一名计算机科学家和AI研究员，那时常常在邻近的村子搭车嬉闹。Hinton现在还记得一家人在餐桌上讨论社会主义，以及在大选时为劳工党投票的情形。
“Geoff的父亲对我非常好。但他是个严格的父亲，争强好胜。”Harvey说，“Geoff部分继承了父亲的这个特点。他的父亲是皇家学会成员，而Geoff后来也成为了皇家学会成员。他可能感受到了达到父亲期盼的需要。”
Hinton的青年时期与自由放任的六七十年代相冲突，但他为了不负家族期望而选择的道路却依然充满曲折。
1966年，大学前的一个暑假，Hinton和Harvey进行了一次穿越美国和墨西哥的背包行。两个年轻人是如此困窘，以至于会为了省下住旅店的钱去乘坐夜班大巴；在南墨西哥的一个小渔村，他们在游泳时把一个背包落在海滩上，包里的钱和护照被人偷走。每个下午，这对兄弟都会走相同的7公里到最近的村庄，去看看他们更换的旅行支票是否已经到了银行。他们一度用三美元捱过了一整周，还试过把香蕉皮装进罐子用高温加热来做香蕉汁——一个失败的实验。
70年代，在完成了实验心理学的学位后，Hinton做着一些零星的工作和木工活。1972年他开始攻读人工智能方向的PhD，但却对自己的研究感到沮丧和矛盾。一个周末，Hinton参加了一个研讨班，是某种自我实现的心理辅导课程。他对此烦得不行。
当时那个研讨班一共八个人，共同敞开心扉，挖掘自己的渴望和需求。在最后一天，每个人都要宣布他们在生命中最、最想要的东西。别人都在说，他们想要被爱。
“都是些原始的、不受压抑的东西。“Hinton回忆道。当时他都快石化了，不知道该说什么好。别人在小组里徘徊，大声喊出自己的秘密愿望时，Hinton的宣言令自己都大吃一惊。
“我真正想要的是一个PhD！”他怒吼。而这次宣言也再次点燃了他对神经网络研究的激情。
△31岁的Hinton
当被问起对于生长在一个显赫之家的阴影中作何感想时，Hinton说：“压力。感觉就像是压力。”Hinton说，自己一辈子都在压抑、沮丧中挣扎，而工作就是他释放压力的方式。当人们从深度学习中淘出金子，这种压力减轻了一些。
“很长一段时间里，我都感觉我没有……”Hinton说，“好吧，我最终做到了。那真是种巨大的解脱。“
4
除了面对学术上的不认可，Hinton还在1990年代初，遭遇了更多打击。在收养了他们的婴儿后不久，他的第一任妻子Ros死于卵巢癌。Hinton成了单身父亲。习惯于住在实验室的Hinton，被拽回抚养两个小孩的现实世界。
尽管还有个保姆，但Hinton仍然不得不在下午6点赶回家，安排和照顾自己的儿子，然后冲向Gap抢购正在大甩卖的袜子。
“我无法想象一个带着孩子的女人如何继续学术生涯，我习惯把时间花在思考问题上。教育很有意思，但是有点分散注意力，而其余的生活——我没时间过，”Hinton说。工作成了躲避现实的避风港，Hinton说他觉得自己用数学作为自己感性一面的防御。
为人父母带来了改变。以前Hinton在超市遇到数学不好的收银员，他总抱怨超市为什么不雇一个数学好的员工。现在他会想“超市真不错，还能雇这个人”。Hinton补充说：“我不想成为一个更好的人，但就这么发生了，这不是我的人生目标”。
△Hinton和第二任妻子结婚，还有两个孩子：8岁的托马斯和6岁的艾玛
1997年Hinton再次结婚，娶了英国艺术史学家Jackie。三年前，她被查出患有胰腺癌，现在Hinton正处于失去第二任妻子的边缘。
Hinton一生在医院中度过了很多时间。他提出的疑问经常惹恼工作人员。他深切地体会过病患等待许久却得到一个模糊诊断时的挫败感。但与大多数人不同，他知道很快会有技术能把需要等待一周的检验结果，缩短到一天。
作为一个克制的英国人，Hinton对深度学习能带来的医疗革命充满热情。“我看过太多的医生低效的使用数据，病患的历时信息被大量忽略；我看到医生们无法很好地阅读CT扫描，两个医生对同一个扫描片能得出不同的解读”。
在三次不同的场合，医生基于CT扫描说他妻子有继发性肿瘤，但每次都是误诊。Hinton相信AI会最终让放射科医生失业，或者至少取代看片子的工作。识别是AI的核心，也是成功诊疗的核心。Hinton说：“最终，AI工程师会弄清楚如何训练你的免疫系统去消灭癌细胞”。
矢量研究所的首个项目，就是用神经网络连接多伦多各个医院的大量数据。
人工智能技术可以通过访问庞大的数据集（本质上就是病患病例）来实现突破，包括远程监视病患的心跳，帮助医生确定理想的出院时机等等。Hinton的一位学生还在研发可以读取DNA的AI，这将有助于及早发现疾病并确定最佳治疗方案。
经过几十年的缓慢前进，深度学习正在快速发展，而Hinton陷入了类似《罗伦佐的油》一样的困境中。他急于推动科学进步，试图挽救亲人的生命。但胰腺癌非常残酷，而且在早期很难诊断。“对她来说，恐怕太迟了。”Hinton说。
Yoshua Bengio是驻扎在蒙特利尔大学的深度学习先驱，他和Hinton以及Facebook的Yann LeCun一道，被科技界称为“加拿大AI黑手党”。几十年来，每当Bengio到多伦多工作时，他就住在Hinton位于Annex的家里，和他一起走很远的路。Hinton到哪里都是走着去，他只有保持竖直的状态背才不疼。
Bengio看着Hinton一跃而成科技领袖，同时也有以一些警惕。“他不是上帝。他也犯错。他只不过是一个普通人，做着普通人的事情，”Bengio说“他有时可以穿过黑暗看清事物。但他的个人生活非常不容易。他也有他的黑暗时代”。
去年九月，Hinton和他的妻子在加拿大蜜月圣地Muskoka的小屋里住了好几天，那是一年中最漂亮的时候。“她非常勇敢也非常通情达理，她只觉得自己得到了额外的时间，她要好好得过。”
然后Hinton问我能否帮一个忙。他说：“能不能在这个故事里讲一下，过去两年半的时间里我一直能继续我的工作，因为我的妻子对她的癌症抱有非常积极的态度，”他平静地说。
“非常感谢你”。
5
Vector Institute有一种新车的味道、一个像恶霸巢穴的名字，弥漫着开学头一天的氛围。
这家机构去年秋天开放，从加拿大地方和中央拿到了1亿多美元的资金，还从30多家企业合作伙伴获得了8000万美元，这些合作伙伴包括加拿大的大型银行、加拿大航空、泰勒斯电信、Google等等。Vector是一个公私结合体，混合了学术界、政府公共部门和企业界的力量。
截至目前，Vector已经录用了20位科学家，他们正在为世界上一些宏大的问题探求技术解答：如何用AI来诊断儿童癌症，检测语言障碍？怎样建造机器，赋予人类像动物一样的视力，或者谱写优美的乐曲？或者怎样用量子计算来加速分析里人类活动产生的大量数据？Vector有一名关键员工Raquel Urtasun，会将她的部分时间分配给Uber，在那儿开发自动驾驶汽车。
如今的AI狂热不仅仅是为了金钱，也是因为AI融入日常生活的快速步伐。我们所用的手机从翻盖打电话发展到带有人脸识别功能的iPhone X，用了不到10年。
很多著名科学家担心这项技术发展太快，已经超出了我们的控制能力。霍金、伊隆·马斯克和比尔·盖茨都针对人工智能失控的危险发出过警告。“我担心AI可能会完全取代人类。”霍金最近说。
Hinton明白这种道德影响，他在联合国签署了一项请愿书，要求禁止致命的自主武器——通俗一点来说就是杀人机器人，还因为担心AI在安全领域的滥用，拒绝了与加拿大通信安全局相关的一个理事会职位。他认为，政府需要介入并制定法规，防止军队利用这项他耗费一生心血来完善的技术，他说，特别是要从防止军队开发杀人机器人开始。
然而，大多数时候Hinton对这种“AI焦虑”持乐观态度。
“我认为它能让生活变得更容易。人们所说的这些潜在影响，和这种技术本身无关，而是与社会的组织形式有关。作为一名社会主义者，我认为当技术进步提高了生产力时，每个人都应该分享到这些收益。”
去年夏天，我和Hinton在城里的Google食堂共进午餐。那个地方就像大部分科技公司一样，有一种托儿所般的审美，颜色鲜艳，摆着像阿米巴虫似的沙发以及一排健康午餐，大群30岁不到的人在那儿吃着饭。露台上，可以看见迷你高尔夫场地，还有一个授粉蜂窝，咖啡机发出响亮的声音。
很难想象，这就是机器入侵可能开始的地方，然而……
Hinton站着吃藜麦和鸡肉：“计算机接管世界这种天启场景，很长一段时间里都不会发生。我们离类似的事情还有很长、很长的路要走，哲学家思考这种事是好的，但我对这个问题不是特别感兴趣，这不是我有生之年必须面对的事。”他面无表情，很难看出是不是在开玩笑。
但这种对机器的依赖怎样改变我们？我对他说，每当我的手机给出一条消息回复建议（“听起来不错！” “在那儿见！”）我都有一种无力感，感觉自己变得机械化了。从《2001太空漫游》开始，流行文化一直在滋长、里汇集这样的恐惧。在娱乐圈，机器的进步被解读成个人的孤独、失败，就好像机器变得更加人性化的同时，我们变得不那么人性化了。
Hinton听我说着，看着我，表情说不上不友善，但带着一丝怀疑。“你用袖珍计算器的时候，会觉得不像人类吗？”他问。在他四周，Google的80后90后们吃着沙拉喝着咖啡，门禁卡在屁股后边晃来晃去。他们要么在看手机，要么拿着手机。
Hinton说：“我们是机器，我们只是通过生物方式制造的。大多数做AI的人对这一点毫不怀疑。我们只是特别精密的机器。我刚才不该说‘只是’。我们是特别的、绝妙的机器。”
为伟大思想而生！
AI+时代，互联网思想（wanging0123)，
第一必读自媒体