7月（yuè）27日，在微博、新（xīn）浪新闻主办的（de）人（rén）工（gōng）智能领域行业峰会——2022新智者大会上，360公司创始人周鸿祎分享了（le）题为《筑牢AI安全基座 护航智能新时代（dài）》的（de）演讲，从数字安全的（de）角度，带给我们关于（yú）网（wǎng）络（luò）安全的全新视角和定义。

2022新智者（zhě）大会-360公司创始人周鸿（hóng）祎-主（zhǔ）题演讲（jiǎng）

以下是周鸿（hóng）祎（yī）分享实录（lù），内容经编辑略（luè）有删减：

尊敬的各位领导、各位同仁、各位来宾，感谢大会（huì）组委（wěi）会的（de）邀（yāo）请（qǐng），非常高兴（xìng）参加（jiā）“2022年（nián）新智者大会”。

我叫（jiào）周鸿祎，虽然说可能很多人都认识我，但是很多人（rén）都问我一个（gè）问题，为什么你老喜（xǐ）欢（huān）穿红衣服？那（nà）是因（yīn）为（wéi）我的名字老（lǎo）被叫成周鸿“伟”，所（suǒ）以我穿一个红衣服，就是给（gěi）大家（jiā）提示一下，我是鸿祎（yi），不是鸿（hóng）伟（Wei）。

本（běn）次（cì）会（huì）议的主题是“融（róng）合生态，价值共创”。当前发展数（shù）字经济，以人工智能为代表的数（shù）字技（jì）术赋能产业变革，推动（dòng）整个社会经济（jì）进入智（zhì）能化的新阶段（duàn）。

我是绝对（duì）支持数字经济，支持新技（jì）术人工（gōng）智能的。但是，我们做（zuò）安全（quán）的人，稍微有点变（biàn）态，天天（tiān）都在琢磨这个技术（shù）有啥风险，这（zhè）个技（jì）术有什么不安全的地（dì）方。

那么（me），我（wǒ）们今天谈（tán）数字（zì）经济、人工智（zhì）能里不安全的问题，也是为了保（bǎo）证让（ràng）我们建（jiàn）设数字中国，促（cù）进数（shù）字经济能（néng）走得更稳、更远。

简单（dān）来总结，当（dāng）前一（yī）个大的趋势是（shì）数字化（huà）发展，数字化（huà）已经成为国家战略。这里边包（bāo）括我觉（jiào）得最重要的大家（jiā）应该关注（zhù）的是（shì）产业数字化，是红（hóng）海中的蓝海。为什么这么讲呢？未来所有（yǒu）的传统行业，都值得用数字化重塑一遍它的产（chǎn）业链、供应链、价值链（liàn），甚至是商业（yè）模式。

数字经济已（yǐ）经成为（wéi）当代的主旋（xuán）律。很多（duō）人老误以为数字经济=虚拟经济，其实（shí）所（suǒ）有用数字化技术打造的经济成果，都是数字（zì）经（jīng）济。中国在这方面已经遥遥（yáo）领先（xiān），我们数字经（jīng）济占GDP的比重（chóng）已经（jīng）超（chāo）过30%。

所以（yǐ），未来5-10年，所有的企（qǐ）业都将转（zhuǎn）型升级成数字化企业。

如果没有数字（zì）化的企业（yè），可（kě）能就（jiù）消失或者被淘（táo）汰了。

我（wǒ）们（men）经常讲互联网的上半场，我的理（lǐ）解互联网的上半场是消费互联网的（de）数字（zì）化。也（yě）就是这个互联网公（gōng）司，把中国老（lǎo）百姓的吃（chī）喝玩乐（lè）、衣食住行，各种生活方式（shì）充分实现了数字化。所以，这些（xiē）传（chuán）统互联网公（gōng）司，当仁不让成了（le）主角。

但是（shì），未来10年（nián），我觉得是互联（lián）网的（de）下半场，主角就不再（zài）是互联网公司，而是各种（zhǒng）传（chuán）统企业，各级政府（fǔ），他们才会（huì）变成大数据、数字化真正的玩家，把各种产业场景用数字（zì）化（huà）再（zài）重新（xīn）塑造一遍（biàn）。

简单讲，数（shù）字化发展的几个核（hé）心技术。为了（le）让大家（jiā）记，我编了一个字母歌，叫I、M、A、B、C、D、E。

I，IoT，物联网技术，主要是（shì）未来用来把（bǎ）这个世界（jiè），把所有的商业流程（chéng），所有数字化，主（zhǔ）要是依靠物联网设备。

M，移动通（tōng）信，5G，实际上（shàng）是为数（shù）字时代准备的，并不是说仅仅方便我们个人为了看（kàn）视（shì）频，能够快速，实际上为了通过5G，把各种现（xiàn）实世界数字化的数据传到（dào）云（yún）端。

C是Cloud computing，云计（jì）算；A是（shì）人（rén）工（gōng）智能（néng）；B是区块链；D是大数据；E是（shì）边（biān）缘计（jì）算（suàn）。

所以（yǐ），这里边的（de）逻辑，我（wǒ）觉（jiào）得最重（chóng）要是以AI为核心（xīn），AI是一个大数据的基础，才有了深度学习，所以AI也是数（shù）据基础。

数据又来源于哪儿呢（ne），来源于IoT，大量对这个世界的数字化，通过5G，传到（dào）云端。通过大数据系统管理起来（lái）。

所以，未（wèi）来我们谈（tán）数字经济（jì），我们谈数字化战略，都（dōu）脱离不开这几个（gè）技术。当然（rán），还（hái）有一个（gè）是我（wǒ）们今天要说到的，有一个技术（shù）跟它（tā）们都不能并列，是“安全（quán）”。因为只（zhī）有“安全”，给它们提供了坚实的基（jī）础，这些技术才能够充分发挥作用，而不至于成为风险的来源。

我可以举一个（gè）简单的例子（zǐ）。

最近的“俄（é）乌（wū）冲（chōng）突”相当于是一场开卷考试，是新的时代（dài）下数（shù）字世界对（duì）抗冲突的真（zhēn）实预（yù）演，有（yǒu）几个特点，我给大家总结一下。

第一（yī），网络战和传统战争相（xiàng）结（jié）合，已（yǐ）经演变成（chéng）一场数字化战争（zhēng）。

在战前，网（wǎng）络战已经不是传（chuán）说中的幻想小（xiǎo）说。实际上在传（chuán）统作战发生（shēng）之前，网（wǎng）络战已经开打。俄乌双方的政府部（bù）门，还有银行、电（diàn）信、电力等关键（jiàn）基础设施，均遭（zāo）到了网络打击。那（nà）除了网络攻击之外，星链、卫星、互联网、人工智（zhì）能、无人机（jī），人工智（zhì）能（néng）技术，传统武器、传统攻击方法融（róng）为一体，打了一场新型的数字战争。乌克兰获（huò）得（dé）了北约和美（měi）国的支持（chí）。在数（shù）字化（huà）技（jì）术方面，弥补（bǔ）了弱（ruò）势，而俄方由于在数字化方面落（luò）后，所（suǒ）以不免有扩大的损（sǔn）失（shī）。

第二，网（wǎng）络攻击的（de）手段无所不用其极。

此次，双方除了使用包括原来常规的基（jī）于漏洞的APT攻击，还把DDoS拒绝服务攻击，特别是数据查处（chù）攻击（jī）、供应（yīng）链攻击各种网站攻击，各（gè）种传统手段，包括新的（de）手段结合起（qǐ）来，所以这一（yī）次战争（zhēng）（后面我会讲）还（hái）有一个特点，不仅是数字化战争（zhēng），还是第一次人工智能参（cān）战（zhàn）的数字战争。

第三，这（zhè）一次是一场数字（zì）时代的人民战争。

正因为双方都大量使用了数字化（huà）技术，而数字化的技术，真正的高（gāo）手在民间。所以（yǐ），很多高（gāo）科技公司走向（xiàng）攻防的（de）前沿，民间的黑客（kè）成为（wéi）主力军。

比如美（měi）国（guó）有很多高科技的公（gōng）司，哪怕（pà）是民间公司，实（shí）际上都参（cān）与了战斗。包括IBM、微软、谷歌，他们对俄罗斯禁运芯片（piàn），或（huò）者终止服务（wù），包（bāo）括埃隆马斯克，提供星链、卫星、互联网等（děng）技（jì）术。

然（rán）后（hòu），民间的网安（ān）公（gōng）司也纷纷参（cān）战。也（yě）就是（shì）包括俄（é）罗斯的卡巴斯（sī）基，还（hái）有欧洲（zhōu）的（de）很多传统杀毒软件公司都纷纷参加，成为网络攻击（jī）攻防的（de）重要力量。

本（běn）来俄罗斯在乌克兰的系统里，预埋了一些（xiē）后门和漏洞。但（dàn）是，美国（guó）的网络战（zhàn）部队和美（měi）国（guó）的一些安全公司出手。帮助乌克兰做了漏洞和（hé）预埋后门的清理（lǐ），使得（dé）俄罗斯原（yuán）来（lái）预设的网（wǎng）络打击（jī）效（xiào）果大打折扣。

乌克（kè）兰还（hái）组织了30万国际黑客，又叫“IT志愿军”，这30万黑客冲到（dào）俄（é）罗斯的网（wǎng）络空（kōng）间里，大打出手，导致（zhì）俄罗斯的网军精力难以（yǐ）兼顾，处处（chù）被动。

所（suǒ）以，我们可以从俄乌的例子来看，这（zhè）是人类历史上第一次数字（zì）化战争，也是第一次AI战争。体现（xiàn）了双（shuāng）方（fāng）谁的数字（zì）化技术（shù）落（luò）后，谁就要挨打这（zhè）个（gè）机（jī）制。

过去（qù）我们有句老话（huà）讲“落后就要（yào）挨打”。通过俄乌战争，我们可（kě）以把（bǎ）这句话改成（chéng），今天在数字化的时代（dài）里，谁在（zài）数字化体系上（shàng）落（luò）后，谁（shuí）就要挨打（dǎ）。

我们可（kě）以看到，这（zhè）次俄乌战争表面上是两个（gè）国（guó）家（jiā）的武力冲突。但实际上背后是俄罗斯和西方两大数字（zì）体系的（de）碰撞。结果不言而（ér）喻，西方强大（dà）的数（shù）字体系，不（bú）再区分军（jun1）工、民用，也不再区分国（guó）企、民企，也不再区分企（qǐ）业、个（gè）人，把整个的数（shù）字化力量综（zōng）合在一起（qǐ），在这（zhè）方面俄罗斯就应该说（shuō）处于下风吧。

为什（shí）么（me）我又讲这是（shì）人（rén）类历史上（shàng）第（dì）一次AI战争（zhēng）呢？因（yīn）为在军（jun1）事冲突过程（chéng）中，你会发（fā）现这一次AI（人（rén）工智能（néng））活跃于战场的各个（gè）领域，扮演着非常（cháng）重要的角色。甚至包（bāo）括AI的武器（qì），直接参与了战场的攻击，参与了战场的情报支（zhī）持，辅助战场决（jué）策，被用于心理战（zhàn）的这（zhè）种虚假宣传，下（xià）面呢（ne）我讲一一详细来给大家做一些例子的说明。

第一个，AI的武器直接参（cān）与战场攻击。

我记得当年阿西（xī）·莫夫（fū）在讲“机（jī）器人三原则（zé）”的时候，有一个重要的原则，就是机器人不能（néng）伤害人。实际上今天（tiān）各种无人战车、无人飞机，已经应（yīng）用在战场（chǎng）上。这里（lǐ）面举一个（gè）例子（zǐ），乌克兰军队使用（yòng）美国的弹簧刀无（wú）人机，具备监（jiān）视、侦察（chá）和（hé）打击功能。既是无人机，又是（shì）一个自杀式导弹，在人工智能的加持（chí）下，单（dān）兵就能熟练掌握（wò），有效打击俄军的机动目标，成为（wéi）战场规则（zé）的改变者（zhě）。

那（nà）今天弹簧刀无人机可能还是在被遥控，最后（hòu）打击的瞬间可能还是由人来下指令。但是，从人下指令，到它自（zì）动识（shí）别、自动（dòng）判断、自主（zhǔ）发起攻击（jī），我觉得这（zhè）就是（shì）一层薄薄的窗（chuāng）户（hù）纸。

第二（èr）个，AI参与战场情报支持。

乌（wū）克兰国防部使用Clearview AI面部识别技术，通过人工（gōng）智能来识别俘虏和尸体（tǐ）。该公司拥有（yǒu）一个包括来自网络（luò）的100亿张面孔（kǒng）的数据库（kù）。其中，仅来自（zì）俄（é）罗（luó）斯社交媒体的图像就高达20亿张。这种技术通（tōng）过战场上（shàng）传来的（de）俄罗斯战俘或者尸体的面部照片，可以对死者的身份进行（háng）匹配。

第三个，AI辅助战场（chǎng）决策。

这次（cì）我（wǒ）们（men）都知道说乌克（kè）兰派出很多小（xiǎo）分队，对俄罗斯的运输线进行各种灵活的打（dǎ）击（jī），打完（wán）了就跑。这（zhè）个前提（tí）是要（yào）有（yǒu）完全，应该（gāi）说（shuō）尽在掌握之中的战场（chǎng）态势感知。

这（zhè）一次（cì）呢（ne），Seekr和Semantic AI的增强智（zhì）能平（píng）台相结合，应用深度分析技术，来（lái）发现人（rén）员地点，事件之间的隐（yǐn）蔽（bì）连接，自动（dòng）生成报告和动态仪表盘（pán），从而帮（bāng）助指挥者做出更（gèng）明确的选择。所以，这一次整个战场（chǎng）态（tài）势（shì）感知，大（dà）数据分（fèn）析（xī）应该说AI功（gōng）不（bú）可没。

第（dì）四个，打（dǎ）仗既是认知战，也（yě）是心理战（zhàn），也是宣传战。

所（suǒ）以，前面网上流传了（le）一个（gè）叫（jiào）Deepfake的视频，所谓Deepfake就（jiù）是利用AI做（zuò）的深度伪（wěi）造（zào），内（nèi）容是泽连斯基宣布他投（tóu）降，这个视频害的泽连（lián）斯基不得不公开辟（pì）谣。但还是有大量（liàng）的AI水军机器人在网（wǎng）上狂（kuáng）炒，制造舆论（lùn）。

所（suǒ）以（yǐ），在这个过程中，AI发挥了巨大的作用（yòng）。

第五个，AI基础算力（lì）设施的（de）服务断供。

我们讲运（yùn）行AI需要（yào）算（suàn）力（lì），算力需要（yào）大（dà）数据等（děng）基础设施。但如（rú）果数据（jù）中心（xīn），云服务都被（bèi）终止，那么各（gè）种（zhǒng）无人（rén）机（jī），自动驾驶（shǐ）坦克各种大脑就失去了重（chóng）要的能（néng）源。

在本次俄乌冲突中，西方对俄罗（luó）斯采取了（le）“六断”（断网（wǎng）、断供、断（duàn）服（fú）务（wù）、断证书、断域名、断舆论（lùn）），包括说微软、IBM和甲骨文这些公（gōng）司对俄停（tíng）止SSL证书，停止域名解（jiě）析，停（tíng）止互（hù）联（lián）网接（jiē）口，中断（duàn）国（guó）际传输网络，停止了各种软件跟（gēn）服务，芯片和硬件（jiàn）供应商，比如（rú）英特尔对俄（é）断供，甚至包（bāo）括脸书、推特等就彻底把俄（é）罗斯的很（hěn）多（duō）帐号给禁掉，彻底将俄孤立（lì）。再试（shì）图把俄罗（luó）斯在数字（zì）化的世界（jiè）里彻底抹（mò）去。

而俄罗斯由于缺乏市（shì）场化的（de）数字产业支撑，完全被动挨打，这个都让（ràng）俄罗斯算（suàn）力、产品和服务的基础被掣肘。

所以，大（dà）家想一（yī）想当未来发生冲突的时候，实（shí）际上就成了数（shù）字体系的对抗。这个数字体（tǐ）系的强壮与否，已（yǐ）经（jīng）不完全取（qǔ）决于军队或（huò）者仅（jǐn）仅是军工（gōng）企业（yè），可（kě）能跟每（měi）一家数字化的（de）公（gōng）司（sī），每一家（jiā）研究数字技术的科技人员，都有密切的关系。

所（suǒ）以，我们（men）可（kě）以得出（chū）一（yī）个结（jié）论（lùn），安全是数字化的基（jī）座，在一切皆可编程（chéng），万物均要互联，大数据（jù）驱（qū）动业务、软件重新（xīn）世（shì）界的趋势下（xià），整个全世（shì）界的安全环境也（yě）更加的（de）脆（cuì）弱，这其中（zhōng）AI也不例外。

一切皆可（kě）编程，我刚（gāng）才讲过了，就意味着（zhe）所有（yǒu）的东西都是软件。比如说汽车也（yě）是（shì）软件，无人机（jī）也是软件（jiàn），所以漏（lòu）洞（dòng）无处不在。有漏洞，就（jiù）有可能被人利用（yòng），被（bèi）人（rén）利用就可能被人攻（gōng）击（jī）。

我稍微解（jiě）释一下漏洞的原理，过去大家只要觉得说自己的电脑口令不丢失，帐号不泄漏，就没（méi）有安全（quán）的问题。实际上“漏洞（dòng）”的出现改变（biàn）了这一切，漏洞改变了整个网络攻防（fáng）的游戏规则。基于一个我知道，而（ér）你不（bú）知道（dào）的漏洞（dòng），可能别人就能以一种完全意想不到的方法来（lái）控制你的（de）系（xì）统。

举一个（gè）例子，比如（rú）说利（lì）用一个（gè）常见的浏览器漏洞，可能你在浏览一张美女图（tú）片的时候，你在享受看图片的时候，可能（néng）在这个图片里面编码的一（yī）个代码，就神不知（zhī）鬼不觉在你的电脑上开始运转（zhuǎn）起来。

前（qián）两天，有一（yī）个WannaCry勒索病毒利用了一个（gè）漏洞，更是匪夷所思。一台电脑向另外一台电脑的网卡发送了一个数据包（bāo），两（liǎng）台电（diàn）脑毫无感觉，这个（gè）数据（jù）包就能够（gòu）在接收机器的电脑（nǎo）上运行，从而控制这台电脑（nǎo），所以应该讲，漏洞现（xiàn）在是（shì）无孔不入。

关（guān）于漏洞最典型的例子，是（shì）去年年底阿帕奇基金（jīn）开源项目的Log4j2的组件，被（bèi）发现存在着远程代码执行漏洞。这个软（ruǎn）件（jiàn）被大（dà）量应用于关键业务系统底层开发（fā），这个漏（lòu）洞就（jiù）意味着我们很多重要的系统，被漏洞的利用者能（néng）够洞（dòng）开。

万物均（jun1）要互联，万物互（hù）联带来的好（hǎo）处就不讲（jiǎng）了。所以，今天的车联网、智慧城市、工业互联网都（dōu）是万物互联的典（diǎn）型例子。但是，这也意味（wèi）着在虚拟世界（jiè）里（lǐ）的攻击（jī），往往会变成物理世界的伤害（hài）。在过去（qù），大家（jiā）中了病毒（dú），只（zhī）是（shì）说文件丢（diū）失，大不了电脑不用了，邮件不收了，网不上了。但是，今天虚（xū）拟世界里（lǐ）的伤（shāng）害，都可以转成对物理（lǐ）世界的攻击。

所以（yǐ），我（wǒ）们可以看到，导致工厂（chǎng）停工，大面积（jī）停电，社会停摆。

我（wǒ）举两个例子，今（jīn）年2月-3月，三家丰田的供应商遭到黑（hēi）客攻击，丰田不（bú）得不停（tíng）止其14家日本工厂（chǎng）的运营，导致每月的生产能力下降了5%。

前几年，在委内瑞拉、乌克兰都出现了利（lì）用网络（luò）攻击，攻击（jī）变电站设备，远程（chéng）拉闸，导致大面（miàn）积停电，所以这里就不是美国科（kē）幻电影里的幻想。

再举一个真实的（de）例子（zǐ），我们现（xiàn）在大家（jiā）都会买智能网联车或（huò）者新能源车，但（dàn）是说句不好听的话，你（nǐ）买了车，你不要（yào）以为这（zhè）车就是你（nǐ）的了，实际上是（shì）听车厂（chǎng）的。

我们（men）的车每时每刻都需要跟车厂保持联系，不（bú）断（duàn）的（de）从车厂（chǎng）各种更新的指（zhǐ）令、更新（xīn）软件，也不断把各种数据传（chuán）回车厂（chǎng）。

一旦黑客破解了这个车厂的协（xié）议，或者破解了车厂的（de）云（yún）端服务器，就可以远端（duān）对你的车进行遥控，那（nà）么可（kě）能就会出（chū）现更大的风险（xiǎn）。在2017年，我们曾经帮助某全球知名的一个知（zhī）名车企，发现了大（dà）概19个漏洞。通过（guò）这些漏洞，这个车厂（chǎng）在2017年以后出的全球600多万辆车，都可以远程启动、远程熄火、远（yuǎn）程开门、远程开天窗，一旦（dàn）这些漏洞被（bèi）黑客掌握（wò），后果（guǒ）不堪设想。

大数据驱（qū）动业务，我们现在对大数据都非常重视。数据变成重要的（de）战略资产（chǎn），数（shù）据变成整个信息（xī）化社会的重要的（de）像石油一样的（de）基础血液。但是，反（fǎn）过来说（shuō），数据一（yī）旦遭到了（le）攻击，可能就意味着业务停转，数据安全直接影响业务安（ān）全。

那2022年1月，我们国家台湾地区的台达（dá）电（diàn）遭到勒索（suǒ）软件攻击，有1500台（tái）服务器，12000台电（diàn）脑在（zài）本（běn）次攻（gōng）击中（zhōng）数据被加密（mì），被（bèi）勒索（suǒ）1500万美（měi）金（jīn）。

还有（yǒu）一个去年5月份（fèn），美国东（dōng）海岸一（yī）家（jiā）输油管道公司（sī）受到了攻击，当时这个（gè）事情很出名，美国东（dōng）海岸很多（duō）加油站都供不上油（yóu）了，害了美国（guó）总统都为之出来做了一些讲话。美国交通部（bù）甚至都要宣布，在美（měi）国东（dōng）部要进入（rù）紧急状态。当时我们也觉得这是一件很诡（guǐ）异的工（gōng）业互联网攻击。

后来调查下来发现，其实比我们（men）想（xiǎng）得（dé）要简单。因为来（lái）自俄罗斯的黑客，直接把这家美（měi）国油管公司的财务数据给（gěi）加密了，导致整（zhěng）个财（cái）务数据（jù）系统崩（bēng）溃之后，就没有（yǒu）办法向客户提供油料了。所以（yǐ），整个的（de）业务（wù）就中止了。

这几年我们在国内也接到不少公司（sī）的报案，他们受到勒索攻击的这种侵犯。实（shí）际上一旦核（hé）心数据被加（jiā）密，整个业务（wù）系统立刻停摆。

所以，这里边我也讲一（yī）下勒索软件或者（zhě）勒（lè）索攻击，已经变成现在成长速度最快，获利（lì）最高（gāo）的一种（zhǒng）新的黑（hēi）产的商业模（mó）式。

过去我们很多人（rén）很迷信，我的数据（jù）很（hěn）加密，别人也拿（ná）不走，但是勒（lè）索攻击者脑洞很清奇，他们不拿走你的数据，把（bǎ）你的数据（jù）再加密一（yī）点，就像我说的，我们家有一个（gè）保险柜，你来了之（zhī）后（hòu）不用（yòng）打开它，再带一个更大的保险柜，把我的保险柜锁在你的保险柜里，这（zhè）样我只能乖乖地找你去要保险柜的（de）钥匙，所以这就是（shì）勒索攻击的核心秘密。

所以，我们可以看到数字化（huà）技术（shù），固然一方面给我们创造（zào）了自动化（huà），非常美好的科技的（de）这种未来，美好的生活，更高的生产力、更高的效率。但是它同（tóng）时也有安全上的隐（yǐn）患。

当然了（le），前面讲人工智能技术本质也是软件，本（běn）质也是（shì）基于数据，也有很多（duō）破绽。所以，总结（jié）起来，我觉得人工智能安全（quán）有七大安全（quán）挑（tiāo）战（zhàn）：硬件、软件、通信协议（yì）、算法、数据、应用和社会伦（lún）理。

下面我将（jiāng）给大家（jiā）逐（zhú）个解释（shì）一下。

第一个，硬件（jiàn），可能会（huì）出错。因为（wéi）我（wǒ）刚才讲，今天的数（shù）字化世界（jiè），我们很多数据（jù）是来自于物联网设备（bèi）及各种传感器。如果这个传感器数据出错，传（chuán）给系统的数据本身信号就是错（cuò）的，那么系（xì）统当然就会做出（chū）错误的判（pàn）断。

比如说美（měi）国波音公司（sī）的737Max前几年出了几次空（kōng）难，实际上是自动（dòng）压机头和（hé）自动提升的软件出了错（cuò）误。因（yīn）为机头升降仰角（jiǎo）读取的传感器读出了错（cuò）误，以至于AI发生了错误判（pàn）断。

包括今（jīn）天我们比较看好的无人驾驶车，都会装有（yǒu）激光雷达，用激光雷达（dá）来（lái）对前方的路（lù）障进行识别。但（dàn）是，如果我用类似的激光（guāng）笔或者对激光雷达进行干扰（rǎo），可能无（wú）人（rén）驾驶车，就（jiù）会发生错误的判断（duàn）。所以，硬件是整个AI数字化（huà）很重要的基础，硬件有（yǒu）可能会带来错（cuò）误（wù）的数据。

第二个，软件存在漏洞（dòng）。特别是（shì）我们今天（tiān）的AI训练，很多（duō）都是基于开源（yuán）框架，这些开源框架本身（shēn）软（ruǎn）件都有很（hěn）多的漏洞。在过去的时间里面，我们360已经挖取（qǔ）了（le）不少的漏洞。

比如说最近有（yǒu）一（yī）个（gè）AI编程神（shén）器（qì）的软件，自动生成代码中有40%存在漏洞，这个漏洞比一个（gè）优秀的人（rén）工（gōng）工程（chéng）师（shī）的漏洞还要多（duō）出10倍以上。

第三个，通信协（xié）议可能会（huì）被劫持（chí）。你比如说，刚才我（wǒ）们讲了无人驾驶汽车，跟（gēn）车厂之间是有特殊的（de）协议，来进行软件的更新和远程控制。如果这个（gè）协议（yì）被破获之后，无人驾驶车（chē）就可能会失控。

那么，伊朗曾经通过GPS信号的欺骗，把美（měi）国的一架无（wú）人机迫降到（dào）伊朗的（de）机场，这种GPS的信号（hào）欺骗也是一种（zhǒng）通信协议的劫持。

第四个，算法可以（yǐ）被欺（qī）骗、被（bèi）误（wù）导。谷歌曾（céng）经有一个AI算法，把黑人识别成猩猩，惹出（chū）了很大的风波。现在我（wǒ）们有一些人（rén）工智能漏洞挖（wā）掘团（tuán）队，发现当你走在街上，面对（duì）满大街（jiē）人工智能的基于人脸识别的摄像头，你如果不想被他认出来你是一个人，你穿（chuān）上（shàng）特（tè）殊条纹或者特殊图案的T恤，摄像头（tóu）就会不认为你是一个人（rén），它就对你不会做面部识别，这就说明了算法是可以通（tōng）过一种特殊的（de）组合数（shù）据（jù）来进行欺骗和误（wù）导的。

更重要的数据可以被污（wū）染，或者（zhě）我们称之为（wéi）数据投毒。因为（wéi）数据是宝（bǎo）贵（guì）的数字资产（chǎn），AI的深度学习是要（yào）基于大（dà）量的（de）数据训练。但是，如果我们在训练过程中，我们给的数据是有误的，有可能训（xùn）练出（chū）一个完全不一样的AI的结（jié）果。

比如说，如果（guǒ）我们在训练如何（hé）识别猫的这样一个训练集的时候，我们给了很多狗的图片（piàn），那将来这个AI可能就（jiù）会把（bǎ）狗误认为是猫。

AI比较独有（yǒu）的两个特点（diǎn），我们也在这儿提（tí）一下。就（jiù）是应用上（shàng）可能会危害人（rén）类的（de）根本利益，这里面的案例有（yǒu）两个，主要（yào）是涉及到社会伦理的问题。

第一，AI在（zài）5G上战场（chǎng）直接（jiē）攻击人类。原来阿西（xī）·莫夫就希（xī）望（wàng）说（shuō），只要有（yǒu）AI能力的，把这些机器都称之为（wéi）叫机器人，机器人永远不要伤害人（rén）类。但是现在看来这个原则已经（jīng）被打（dǎ）破。所（suǒ）以，我们可能（néng）有一个建议说，因为（wéi）现（xiàn）在各国都在AI跟武（wǔ）器结合方面（miàn），世界各（gè）国都（dōu）在展开军备竞（jìng）赛（sài），这也是未来（lái）大国角（jiǎo）力的焦点。

所以，AI武器应该把最后（hòu）的决定（dìng）权，应该（gāi）让人来做最后的控制，而不是完全让AI做自动的判断、自（zì）动的决策。包括深度伪造（zào）技术，前面已经讲了，这个技（jì）术也涉及到对人的利（lì）益的伤害（hài）。不仅可以用于（yú）网络诈骗，制造色情视频，甚至伪造（zào）新闻，误（wù）导舆论。

你比如说，最（zuì）近有人用（yòng）马斯（sī）克的视频，深度（dù）伪造。伪造了一个（gè）他鼓动粉丝购买（mǎi）特定的虚拟货币（bì）的事件，害得马斯克（kè）不得不（bú）出来辟谣，说这个（gè）视频是别人用Deepfake来伪造的。

AI最大的一个问题，也（yě）是现在我们国家很多学者（zhě）都在讨（tǎo）论的，AI在社会伦理（lǐ）上（shàng），有可能超出现有的社会法律（lǜ）和道德（dé）的规（guī）范（fàn）。

比如说，有一（yī）个电车（chē）难题，如何认（rèn）定无（wú）人（rén）驾驶车出（chū）事（shì）以后（hòu）的责任。比如说在高速（sù）行驶之中，自动驾驶（shǐ）汽（qì）车，如果避（bì）让行人，可（kě）能会撞上（shàng）旁边的障（zhàng）碍物，导致车主（zhǔ）人身伤亡；如（rú）果不避让，就会（huì）导致行人伤亡。在这（zhè）种情况下，就有两个问题，AI的（de）程（chéng）序应该如何来做出判断。第二（èr）个，如果出（chū）了车祸，到底（dǐ）这个责任应该算是AI的，算是车厂的（de），还算是驾驶员的，所以这（zhè）些问题应该（gāi）说都还没有一个明确的答案。

前面我（wǒ）们讲（jiǎng）了数字化技术（shù）带来了诸（zhū）多挑战，但（dàn）是今天（tiān）也（yě）有很多人，对安全的（de）认识还（hái）停留在计算（suàn）机安全（quán）和网络（luò）安全的时代，以为安全就是杀杀（shā）病毒，防防木马（mǎ），用防火墙（qiáng）隔离等传统手（shǒu）段。

面（miàn）对大数据、人工智能各（gè）种复杂（zá）的安全挑（tiāo）战，我觉得网络安全还应该重（chóng）新被定义，要（yào）将（jiāng）计算机安全、网络安（ān）全升级到数字安全，才能跟得上整个行业的发展要求，才能跟得上国家的产业数字（zì）化的发展要求，才能保障我们（men）进入数字文明（míng）时代。

当前一个重要的变化是，人工智能安全已（yǐ）经上升为国家安全的重要组成部（bù）分，《国家安全战（zhàn）略（luè）（2021年（nián）-2025年）》明确提出加快提升网络安（ān）全、数据安全、人工智能安全（quán）等领域的治（zhì）理能力，这也（yě）是国家战略层面首次（cì）提出来，人工智能（néng）安全的概念，说明人工（gōng）智能安全是数字（zì）安全的一部分（fèn），也是平常我们所说的“非（fēi）传统安全”。

反过来，说了半天AI的问题，我们讲（jiǎng）数字化技术（shù）也是一把双刃（rèn）剑。人工智（zhì）能技术高速发展，带来安全（quán）挑战的同时，也为解决（jué）网络安（ān）全、数字安（ān）全（quán）的（de）风险提供了新的技术手段。

现在AI技术已经广泛利用于（yú）大数据的分析、威（wēi）胁情报（bào）的（de）处理（lǐ）、智能（néng）防（fáng）御等领域，特别（bié）是（shì）在（zài）恶意代码的样（yàng）本检测（cè）、恶意代码流量分析、漏洞挖掘、僵（jiāng）尸网络检测、网络（luò）黑灰产（chǎn）检测等方面发挥了巨大的作用。360这几（jǐ）年连续帮（bāng）助国家发现了50个境外的国家级黑客组织（zhī），与我（wǒ）们对AI的使用都是分（fèn）不开的（de）。

在AI数据分析方面，人工智（zhì）能在海量数据分析方（fāng）面，发（fā）挥了（le）积（jī）极重要的作用（yòng）。因（yīn）为大数（shù）据的数量（liàng）浩如（rú）烟海，依靠人（rén）工去做发（fā）现是基本不可（kě）能的。必须借助（zhù）人工智能（néng），去对多维度海量（liàng）、鲜活的安全大数据进行（háng）实时的分析，用（yòng）算力来代替（tì）人力，然后再从中挖掘出安全的线索（suǒ），再由（yóu）安全（quán）专家来进（jìn）行跟进。

在AI情报处理方面，人工（gōng）智能可以（yǐ）参与漏洞的挖（wā）掘（jué），筛选（xuǎn）恶意的样本、恶（è）意的网址，对APT的攻（gōng）击行为进行自动化（huà）的分析跟学习（xí），实现针（zhēn）对威胁（xié）攻击的智能化检测、监测、预警和响应。

未来在（zài）AI智能防御方（fāng）面，人工智能可以发现未知的病毒木马，对DDoS攻击进行监测（cè）和预警，并对APT的（de）攻（gōng）击溯源进行定位，有（yǒu）效提高安全运营的效（xiào）率，大幅度提高我国的安全防御（yù）能力。

作为中国数（shù）字安全的领（lǐng）军企业，360一直高度重视（shì）人工智能安全，率先（xiān）在行业里进行（háng）布局，积极构建人工智（zhì）能安全能力（lì）体系（xì）。我们（men）确立了“数据制胜”为核心的（de）新战法，核心就是（shì）无论任何的攻击，首先要强（qiáng）调（diào）能（néng）够想办法利用大数据分析，能（néng）够看见攻击。看见攻击，那（nà）么随（suí）后对它进行阻断，进行溯源，进（jìn）行封堵，进（jìn）行清理，就（jiù）变得（dé）比较简（jiǎn）单。如果（guǒ）看不见，那什么都是抓瞎。

所以（yǐ），如何利用人工智能技术，从全网大（dà）数（shù）据（jù）中进行（háng）分析，建立全局视角（jiǎo），并且从（cóng）中构（gòu）建起看（kàn）见的（de）这种能力（lì）。

在新的战法指导（dǎo）下，360应用人工智（zhì）能数据分析（xī）技术，对自（zì）身积（jī）累（lèi）的全球最大（dà）规模的安全大数据进行实时分析，形成360全网安全大（dà）脑的原型，为行业（yè）或者（zhě）企业提供强（qiáng）大的数据和（hé）情报支撑，实现对网络威（wēi）胁进行有效的（de）分析、预警、发现和（hé）阻断（duàn）。

面对人（rén）工智能自身（shēn）的安全（quán）挑战，360也（yě）积极参与人工智能漏洞挖掘。我们一共发现了150多个机器学习框架和供应链的漏洞，涉及到Tensorflow、Caffe、PyTorch等主流深度学习AI开（kāi）源框架。我们发（fā）现了多款人（rén）脸识别设（shè）备的安全漏（lòu）洞，利（lì）用漏洞可以（yǐ）实现远程控制、隐私的窃取、模（mó）型文件的窃取。360的AI安全（quán）实验室发现了多款（kuǎn）移动APP、人脸（liǎn）识别功能方面存（cún）在（zài）的（de）数（shù）字泄漏（lòu）的安（ān）全风险。

所以（yǐ），未来利用AI解决安全，也大（dà）有可（kě）为。

360将AI安全作为公司业务发展的重点（diǎn）方（fāng）向，愿意与行（háng）业（yè）、产业（yè）一（yī）起（qǐ）开放协（xié）同创新。我们积极（jí）承担安全大脑，国家新（xīn）一代人工（gōng）智（zhì）能开放创新平（píng）台（tái）的建设，目前360安全大（dà）脑（nǎo）开放平（píng）台（tái）的能力，已经落地于工业互联网、物联网（wǎng）、智能网联车、智慧城市（shì）、数字政府等多个场景，并且赋能教育、运营商、信创等诸多（duō）行业。

360还牵头研（yán）发了人工智能安全评测与风（fēng）险监测预警平台，入（rù）选工信（xìn）部的人（rén）工（gōng）智（zhì）能产（chǎn）业创（chuàng）新任务揭榜单位名单。

作（zuò）为中国数字安全（quán）的领（lǐng）军企（qǐ）业，360愿意开放（fàng）自身的安全（quán）大（dà）数据，将产业（yè）力量联合起来（lái），共（gòng）建AI安全（quán）生态（tài），集中推动数字安全的创（chuàng）新，其成果也将最终沉淀于安全大脑（nǎo）人工智能创新开放平台的建设。

360还将在（zài）安（ān）全大脑人工智能开放（fàng）创新平台建设（shè）的基础之上（shàng），倡导建立人工智能与开放（fàng）创（chuàng）新（xīn）体系，建（jiàn）立平台化机制，实现（xiàn）核心研究成果的对接与转换，赋能人工智能与安（ān）全相关的中小微企（qǐ）业、高校、科研院（yuàn）所，赋能中小微初创（chuàng）的（de）安全（quán）企业，全球行业（yè）、AI产业，共享技术成果，推（tuī）动产（chǎn）业健（jiàn）康（kāng）快速发展，提升国（guó）家人工（gōng）智能安全整体的（de）防御能（néng）力（lì）。

在过去的（de）20年里面，360核心做的就一（yī）件事，就是“安全”。希望在（zài）未来越来越富有挑战的安全环境（jìng）里面（miàn），我们做（zuò）到真正能（néng）看（kàn）见攻击，发现威胁，抵御威胁。

未来360将携手合作伙伴，共同夯实（shí）AI安（ān）全（quán）能力，把服务于国（guó）家和（hé）社会的数字安全（quán）能力复制到（dào）各个行业里，为数字（zì）中国的建设，各个行业的数（shù）字化转型贡献力量。

谢谢（xiè）大家！