赵志强--人工智能与安全

时间：2023-07-29

　　人工智能与安全

　　课程背景：

　　2017年3月，人工智能首次被写入《政府工作报告》，同年7月，国务院颁发《新一代人工智能发展规划》，提出了“三步走”的战略目标，宣布举全国之力在2030年抢占人工智能全球制高点。今天的中国社会，智能应用已经随处可见，我们正处在智能化的社会之中。

　　当今人工智能科学更准确的是指数据智能，在大数据时代人工智能技术应用得到了非速发展，无论是计算智能，还是感知智能，都已为产业界各类创新提供主要技术支撑，甚至出现认知智能技术的初级尝试应用。所以可以断定，在当今的中国产业界，不了解大数据与人工智能的科技应用，大概率会在竞争中处于劣势。

　　但是，我们也常常听身边的企业家员表示出对智能类应用的安全性担忧，比较有代表性的埃隆·马斯克（Elon Musk）、史蒂芬·霍金（Stephen Hawking）和比尔·盖茨（Bill Gates）都忌惮人工智能（以下简称“AI”），并忧心忡忡地表示在不久的将来，AI会对人类的生存构成威胁。埃隆·马斯克曾宣称人工智能是人类文明持续存在所面临的重大危机。而为什么另一个同样杰出的群体，包括马克·扎克伯格（Mark Zuckerberg）、吴恩达（Andrew Ng）和佩德罗·多明戈斯（Pedro Domingos）在内，又认为“人工智能威胁论”给的理由太过牵强，几乎不攻自破。扎克伯格甚至称那些鼓吹末日将至的人相当不负责，当今人工智能领域最伟大的人物之一吴恩达亦表示，这种焦虑就像是担忧“火星上的人口过剩”，完全没有必要……

　　本课程开课的主要目的是面向非专业人士，尤其是产业界，从人工智能产生的背景、基本原理、技术体系入手，摒弃社会上流行的各类带有商业引导目的的内容，通过大量丰富案例作证，系统性讲授人工智能及人工智能安全问题，对非专业技术人员，能够听得明、学得会、用得好。在深度推进产业智能化与企业智能化应用的同时，对人工智能技术应用带来的一系列安全问题有更为全面的认知与理解。本课程作为提升企业家数字化生存能力素质的重要组成部分。

　　课程收益：

　　● 厘清大数据、人工智能体系中的关键问题；

　　● 熟悉人工智能行为体的分类及对应安全问题；

　　● 了解世界各国人工智能发展战略规划与安全伦理准则；

　　● 熟悉社会常见的人工智能应用，强化对智能的认知；

　　● 熟悉掌握新兴技术成熟度曲线，把握未来技术发展趋势；

　　● 了解人工智能主要流派与基本原理、主流神经网络模型；

　　● 熟悉人工智能安体系与架构及通用人工智能的发展趋势。

　　课程时间：2天，6小时/天

　　课程对象：

　　● 创业者、企业负责人、企业创始团队、董事会成员

　　● 企业高级管理人员，总经理、总工程师、副总经理等；

　　● 渴望掌握新兴技术价值落地的企业中层以上管理人员及工程师；

　　● 高校MBA、EMBA、DBA专业研究生；

　　● 地方政府中、高级管理干部及相关领域公务员；

　　● 国家“十四五”规划中智能制造及战略新兴产业中相关人士。

　　课程方式：理论+案例+实操+演练

　　课程风格：

　　源于实战：以客户需求驱动的咨询引导型培训，以最前沿科技和典型案例演练启迪学员；

　　逻辑性强：理论、实践、研究成果高度结合，用通俗易懂的语言使各类学员听懂并掌握；

　　深入浅出：现场教学既幽默风趣又富有哲理，结合研究成果和实践经验进行现身说法；

　　价值度高：课程内容经过市场实战打磨，是学员由外行变成内行的知识利器；

　　方法论新：经过专门面向非专业人士设计,专业知识+刻意练习+行动学习+问题改善工作坊,对不同学员的诉求一律耐心互动，并能够为大客户实现授课与顾问、工程服务相结合。

　　课程大纲

　　导入1：现在是大数据时代，现在是人工智能时代

　　案例：“我的一天”

　　研讨：(GP-分组对抗记分点)感受智能化，分组讨论描述“你的一天”，并指出哪些应用或名词是和人工智能紧密相关？（除老师事先讲过的，答对一条记1分）

　　导入2：“人工智能威胁论”

　　案例：人工智能的技术发展，对人类来说到底是生存还是毁灭？

　　研讨：(GP-分组对抗记分点)分组汇总每位同学的观点，提交给老师。

　　备注：GP-为短时时间讨论，一般不超过5分钟，LGP为长时间讨论，一般在5-20分钟；GP活动由老师根据现场情况发起或不发起，非固定活动。下同。

　　第一讲：大数据时代特征与人工智能国家战略

　　一、从互联网到大数据时代的演变过程

　　1. 从互联网、Web2.0、移动互联网看人类在线化过程

　　2. 人类在线化过程与行为数据的关系

　　案例分析：以商业购物场景为例，分析人类活动的在线变化及其产生的行为数据

　　小组研讨：(GP)分组设计其他场景,延伸到物联传感网，并总结，老师点评并打分

　　3. 大数据的来源与全球数增长情况分析

　　4. 数据计量单位的换算

　　5. 5G的战略地位与价值

　　6. 大数据的两个重要特征

　　7. 大数据价值的现状

　　二、国际与中国人工智能发展

　　1. 中国：人工智能的国家战略与“智能+”

　　2. 世界各国人工智能发展对比分析

　　3. 解读“十四五”规划给我们的启示

　　小组研讨：(LGP)找出所在行业的有关人工智能方面的国家或地方政策规划，分析原因与机会

　　第二讲：人工智能发展史

　　一、人工智能的起源

　　1. 人工智能产生的背景

　　2. 图灵与图灵测试

　　3. 达特茅斯会议与“人工智能”

　　二、人工智能的三次浪潮

　　1. 第一次人工智能浪潮：推理与探索

　　案例分析：计算机在使用“推理和探索”的兴起与没落

　　2. 第二次人工智能浪潮：知识工程

　　案例分析：专家系统的窘境与问题

　　3. 我们正在第三次人工智能浪尖上：大数据与深度学习

　　案例分析：人工智能发展历程中的里程碑事件

　　第三讲：人工智能原理

　　一、人工智能定义与分类

　　1. 人工智能的定义与正确理解

　　2. 计算智能、感知智能与认知智能

　　3. 人工智能的几大门派其及技术发展方向

　　二、人工智能人才与知识体系

　　1. 学科领域交叉与渗透下的人工智能创新协同

　　2. 世界及中国人工智能类人才培养现状

　　案例分析：中国某顶尖大学人工智能研究院体系及研究领域

　　3. 把握与跟踪人工智能技术发展趋势的方法

　　案例分析：深度分析Gartner曲线

　　实操演练：(LGP)依据现场给出的某人工智能应用,依据Gartner曲线分析其技术发展规律与特点

　　三、数据智能平台技术体系

　　1. 大数据技术平台架构

　　2. 人工智能技术平台架构

　　3. 通用深度学习开源框架与特点

　　第四讲：常见深度学习模型与应用

　　一、传统数据模型与应用

　　1. 常见传统数据算法与模型

　　2. 常见传统数据算法的应用

　　二、深度神经网络(DNN)模型与应用

　　1. DNN模型

　　2. DNN应用场景：搜索排序、推荐排序

　　三、卷积神经网络(CNN)模型与应用

　　1. CNN模型

　　2. CNN应用场景：图像识别、视频分析

　　四、循环神经网络(RNN)模型与应用

　　1. RNN模型

　　2. RNN应用场景：语音识别、自然语言处理

　　案例分析：人机智力大战的巅峰——阿尔法狗

　　第五讲：机器人技术及其应用原理（选讲课程）

　　一、机器人概述

　　1. “robot”一词的来源

　　2. 机器人定义与相关概念

　　3. 机器人发展历程

　　4. 机器人分类

　　二、机器人基本原理及应用

　　1. 机器人控制系统的基本结构

　　2. 工业机器人

　　3. 农业机器人

　　4. 医疗机器人

　　5. 服务机器人

　　6. 特种机器人

　　案例分析：机器人在工业、农业、医疗等领域的应用

　　第六讲：人工智能与安全哲学

　　一、安全

　　1. 人类社会对安全的认知与理解

　　2. 人工智能安全、人工智能与安全

　　二、通用人工智能安全的哲学命题

　　1. 技术革命视角下的人类四次纪元

　　2. 第四次纪元的不可控因素

　　3. 人工智能的安全命题

　　4．通用人工智能的三个哲学命题

　　小组研讨：（LGP）基于哲学上的命题，分组讨论形成各自主张。

　　第七讲：人工智能产业生态与安全

　　一、人工智能产业生态

　　1. 人工智能应用领域

　　2. AI芯片与视觉传感器

　　3. AI通用技术

　　案例分析：主流机器视觉、语音识别、自然语言、知识图谱应用的市场与趋势

　　二、狭义人工智能安全

　　1. 人工智能的安全体系

　　2. 人工智能的安全伦理概要

　　3. 人工智能安全对社会的冲击

　　4. 人工智能安全VS网络安全VS信息安全

　　案例分析1：全球首例自动驾驶车辆撞死行人的案件

　　案例分析2：《2020年度全球十大人工智能治理事件》

　　第八讲：人工智能内生安全

　　一、数据安全

　　1. 数据投毒与反制

　　2. 对抗样本攻击与反制措施

　　3. 数据质量与数据安全之间的管理问题

　　4. 对产业界及管理者的启示

　　案例分析1：深网视界曝出数据泄露事件

　　案例分析2：地下产业链之数据隐私市场

　　案例分析3：网上热传的几家著名科技公司的安全事件解读

　　二、算法与模式安全

　　1. 算法的可解释性与安全

　　2. 模型存储与管理的安全问题

　　3. 开源模型的安全问题

　　4. 对产业界及管理者的启示

　　案例分析1：一支激光笔是如何打败了自动驾驶？

　　案例分析2：医疗领域人工智能诊断技术应用的尴尬

　　三、框架与运行安全

　　1. 架框安全问题

　　2. 主观与客观原因上的运行安全与保障问题

　　3. 对产业界及管理者的启示

　　案例分析：几起自动驾驶车祸背后的安全分析

　　小组研讨：（LGP）结合分组学员企业的情景，研讨应用人工智能内生安全的思路。

　　第九讲：人工智能衍生安全与伦理

　　一、人工智能衍生安全

　　1. 智能系统失误引发的安全事故

　　案例分析1：当自动驾驶、智能机器人、智能音箱、医疗机器人失效后……

　　案例分析2：聊天机器人的偏激言论引发的群体影响

　　2. 人工智能行为体失控要素分析

　　案例分析：“机器人三定律”

　　3. 国际上预防人工智能技术失控的举措

　　二、人工智能伦理

　　1. 人工智能体是否应该赋予“人权”？2. 通过使用人工智能的人权侵犯问题3. 人工智能是否能成为伦理主体4. 人工智能的伦理责任问题案例分析：几起自动驾驶案件的责任追究

　　小组研讨：(GP)现实生活或科幻电影中的“智能人”，及其引发伦理的故事关键词。

　　三、人工智能伦理准则

　　1. 世界各国关于人工智能技术发展的伦理准则

　　2. 人工智能技术伦理准则的共识性与争议性3. 我国专门提出人工智能伦理与法律的“三步走”规划案例分析：解读《2020年度全球十大人工智能治理事件》的处理结果

　　结束语：人工智能安全的未来展望!

　　赵志强老师企业数字化转型领航人

　　20+年IT、大数据与人工智能应用实践经验

　　20+年企业高管，10+年企业科技战略顾问

　　哈尔滨工业大学软件工程硕士/企业管理博士

　　哈尔滨工业大学、东北林业大学校外硕士导师

　　曾任：哈工大大数据（江苏）研究院（产学研机构）|院长

　　曾任：珠海金山软件公司（上市互联网企业）|软件工程师

　　曾任：哈工大大数据集团（高校背景/国企）|高级副总裁兼CTO曾任：新中新集团（大型民营科技企业）|组织与发展研究中心主任/总经理

　　曾任：亿阳信通（上市高新科技企业）|副总经理/智慧城市研究院执行院长

　　擅长领域：IT、大数据、人工智能、区块链、元宇宙、金融科技、智能制造、企业转型升级……

　　城市的“智慧大脑”——

　　※ 中国大数据产业联盟专家委员/黑龙江省智慧城市建设专家委员会专家/黑龙江人工智能产业技术创新联盟副理事长/黑龙江省数据科学与大数据技术专委会委员

　　※ 赋能（省/市/区）政府的战略规划项目，引领推动城市高质量发展：黑龙江农委农业大数据平台规划、山东省荣成市智慧城市项目、哈尔滨平房区城市运营中心……

　　企业的“智囊高参”——

　　※ 拥有丰富的创业、投资经验，曾投资5+家高新科技企业，主导创业融资超亿元

　　※ 主持多个大、中型集团管理咨询与信息化工程项目，主导实施的企业信息化项目曾获黑龙江省“管理创新”一等奖，且服务过的客户多次成为行业或省级标杆。

　　行业的“风向标杆”——

　　※ 国家出版基金管理委员会评审专家（大数据、人工智能类原创国家级精品图书）

　　※ 全国信标委大数据标准工作组成员，参与制定多项大数据国家标准，并连续3年编写工信部《工业大数据白皮书》

　　实战经验：

　　☆ 科研成果丰硕，擅长构建产、学、研一体化的教学运行和管理机制 ☆

　　→ 主持研发大数据通用技术平台并拥有10+项大数据人工智能领域发明专利

　　→ 主持并参与多项纵向、横向科研项目，并且获得黑龙江省科技进步一等奖

　　→ 教育部考试中心指定辅导教材出版作者，包含《数据库技术》、《网络技术》等20+本专业书籍，其专著曾获得全国畅销书奖，且被哈尔滨工业大学出版社授予“畅销图书作者奖”

　　☆ 受邀出席10+场高峰论坛并发表演讲，为大数据产业发展贡献智慧 ☆

　　→ 2017年中国国际大数据产业博览会：《中国大数据、人工智能的发展方向》

　　→ 浙江温州市国家大院名校大数据技术及应用专场推介会：《大数据技术到大数据产业》

　　→ 东北经济产业新趋势发展论坛：《跨界·激活增长——新技术、新模式、新机遇》

　　→太阳岛论坛暨第二届东北振兴论坛、中国·哈尔滨大数据产业推介大会：《驱动大数据提升洞察力助推城市和产业价值创新》

　　→ 2020年世界青年科学家峰会泰顺分会暨泰顺县第二届科技成果推介会：《数据智能技术推动产业模式创新——在智能制造、生态农业领域的应用》

　　→ 江苏省无锡市工信局智能制造论坛：《工业大数据理论、技术与实践——面向智能制造的探索与思考》

　　→ 2021温州苍南县首届科技成果推介会：《数据智能技术推动产业模式创新——在智能制造领域的应用》

　　→ 黑龙江省计算学会、数据科学与大数据技术专业委员会、ACM SIGMOD China、ACM SIGCSE China、中国计算机协会、青年计算机论坛（CCF YOCSEF）哈尔滨“如何全面培养数据科学与大数据技术人才”：《从企业的视角看大数据人才需求与培训》

　　近期部分授课案例：定制化课程满足客户个性化需求

　　主讲课题

　　课程对象

　　《面向大数据建设运营与服务价值创新》（20+期）

　　广东省统计局、江西省省管局、南昌市科技局等

　　《大数据时代人工智能应用与价值创新》（20+期）

　　中国人民银行、铁路局系统、山东省中小企业局、山东省聊城党校等

　　《现代金融科技驱动商业银行智能化转型》（20+期）

　　建设银行总行、恒丰银行总行、中国银行苏州分行、中国民生银行等

　　《区块链技术原理应用及商业价值》（10+期）

　　张家口市工信委、哈尔滨铁路局、深圳市委办公厅等

　　《人工智能与安全》（6期）

　　战略支援部队等

　　《面向企业数字化转型的大数据顶层设计实践》

　　国网福建省电力福州供电公司

　　《企业数字化转型的大数据顶层设计》 10+期

　　上交大总裁班等

　　《工业互联网：智能制造与数字化平台建设》（5+期）

　　公开课

　　《驱动大数据提升洞察力，助力城市大数据产业发展》

　　七台河市金沙新区

　　《大数据洞察与商业分析价值落地》

　　哈工大管理学院MBA

　　《数字化转型的大数据顶层设计》

　　上海鹏欣（集团）有限公司

　　《金融科技变革赋能》 5+期

　　吉林金控集团等

　　《大数据应用及前景—面向民航机场运营与服务价值创新》

　　黑龙江省民航总局

　　《大数据应用与价值创新—面向智能制造与服务价值落地》

　　成都经信委、内江市科技局

　　《科技前沿与扶贫—新技术新机遇新思维新模式》

　　哈工大扶贫干部培训班

　　《工业大数据理论、技术与实践—面向智能制造的探索与思考》

　　江苏省工信厅

　　《大数据时代AI应用与价值创新—新技术、新模式、新机遇》

　　哈工大总裁班

　　《新技术、新机遇、新思维、新发展—大数据人工智能专题》

　　黑龙江省工商联

　　主讲课程：

　　企业数字化转型系列：

　　《面向企业数字化转型的大数据顶层设计实践》

　　《现代金融科技驱动商业银行智能化转型》

　　《工业互联网：智能制造与数字化平台建设》

　　《元宇宙：穿越现实虚拟化的平行世界》

　　大数据价值创新系列：

　　《大数据应用：从认知、实践到价值创造》

　　《区块链技术、原理与商业价值创新》

　　《大数据时代人工智能应用与创新》

　　《人工智能与安全》

　　授课风格：

　　源于实战：以客户需求驱动的咨询引导型培训，以最前沿科技和典型案例演练来启迪学员；

　　逻辑性强：理论、实践、研究成果高度结合，用非常通俗易懂的语言使各类学员听懂并掌握；

　　深入浅出：现场教学风格既幽默风趣又富有哲理，结合研究成果和实践经验进行现身说法；

　　价值度高：课程内容经过市场实战打磨，使学员由外行变成内行的知识利器；

　　部分服务客户：

　　政府组织：黑龙江省民航总局、江苏省工信厅、吉林省工信厅、广东省统计局、江苏省无锡市工信局、南京市工信局、黑龙江省公安厅、江西省省管局、黑龙江省农业农村厅、内江市科技局、温州市顺泰县科技局、四川省内江市科技局、菏泽市工信委、菏泽市经信委、南京市六合区统计局、昆明市西山区人民法院、四川攀枝花市经信局贵阳市观山湖区、南昌市科学技术局、雅安市统计局、温州市苍南县科技局、浙江省温州市国家大院大所联合院、成都市经信委、黑龙江省七台河市检察院、山东省中小企业局、广东省廉江市检察院、山东省聊城党校、山西省太原市工信局、哈尔滨铁路局、秦皇岛海事局、张家口市工信委、广东省兴宁市中小企业局、潍坊市工信局、深圳市委办公厅、战略支援部队、广东省湛江市人大……

　　国有企业：中粮集团、北京925卫星总装厂、中航工业集团、中国移动、中国联通、中国南方航空、……

　　银行行业：中国人民银行、九江市人民银行、建设银行总行、恒丰银行总行、中国民生银行股份有限公司佛山分行、中国银行股份有限公司苏州分行……

　　电力行业：国网福建省电力福州供电公司、国家电网松滋分公司、国家电网新源水利发电厂

　　制造企业：哈电集团、建龙化工、上峰水泥、黑河热电厂、同力水泥、北京925卫星总装厂、河南6456工厂、河南省建投集团、深圳几米集团、河南同力水泥集团、深圳康凯斯……

　　高等院校：哈尔滨工业大学、黑龙江大学、东北林业大学、东北农业大学、成都信息工程大学、承德石油高等专科学校、盐城工学院、河南省特种设备安全检测研究院……

　　其他：哈尔滨新中新集团、安徽省投资集团、河北建投水务投资集团、辽宁兴达集团、黑龙江省工商联、重庆市南岸区工商联、内江市产业园区、浙江省乐清经开区企业家联盟、黑龙江农场……

　　部分客户评价：

　　您高度洞察适合中国产业环境下的科技战略规划路径，并能提供可操作实施方案，这足以使我们企业在未来国际竞争格局中领先一步。真诚邀请您能作我集团的科技战略顾问，把您的实践经验也带到我们集团。

　　——中国某科技集团总经理

　　今天听了您的课我终于弄明白智能制造具体是怎么回事了，您在制造企业的实践经验分享对我很有启发，现在看我集团只是完成了信息化及部分智能功能，要智能化还有很长的路要走。

　　——中国某制造企业集团董事长

　　您的课程专业理论性较强，您讲的既有理论深度又有现实理解，大数据创新模式案例很多是老师自己的参与的项目，所以课程逻辑清晰，环环相扣，非常落地有干货。