神经符号 AI，或为下一代 AIoT 的新解法

大数据文摘授权转载自AI科技评论
作者｜黄楠
今天，AIoT 应用在生活的各个方面持续和显著增加。AIoT 通过智能传感器采集各类信息存储在云端、边缘端，再经由大数据分析、人工智能技术对海量信息进行处理，建筑起一个万物智联的数字世界。

据 Gartner 预测，到 2022 年结束，将有超过 80% 企业级 IoT 设备与 AI 联动。其中，无线传感器（WSN）的部署总量也呈迅猛增长态势，贝哲斯咨询预计到 2028 年，全球无线传感器市场规模预计将达 7841.98 亿元。
然而，随着连接性和自动化水平的提高，恶意用户能够对传感器轻松实施不同类型的攻击，每个漏洞都可能成为安全隐患，威胁到网络系统中每个节点，进而威胁到整个 AIoT 生态的安全性。
作为深耕 AIoT 领域的华人学者之一，宋厚冰在物联网领域的研究始于 2012 年，博士毕业后，宋厚冰就一直从事 CPS（网络物理系统）、物联网方面的研究，当前谷歌学术引用量已超过2万次。今年，他凭借在大数据分析和人工智能与物联网集成的贡献当选 IEEE Fellow，其近年来的研究主要聚焦在网络物理系统、网络安全和隐私等问题上。

宋厚冰

宋厚冰指出，物联网是 CPS 的网络基础设施，系统从计算和物理组件的无缝集成构建并依赖于它们的工程系统，其中，物联网中的安全性问题，特别是 WSN 在被委托执行关键任务时、其安全性问题至关重要，而此前大多数使用的系统并未能嵌入可以保护患者隐私的强大安全服务。
基于 AIoT 存在的漏洞和安全问题，宋厚冰带领团队探索并提出了反无人机 CPS 和“旋转记忆”。近日，AI 科技评论沿该方向与宋厚冰教授进行了一次深入对话。

应对攻击的三个组件：预防、检测、缓解

由于容易部署且成本低廉的特点，WSN 在 AIoT 中具有广泛的应用：采集人类相关活动和行为观察的信息，例如智慧医疗、居家养老，工业环境现场检测，例如智能制造、工业自动化，环境事件检测，例如地震、水污染、光污染等......但无线传感网络也是一个非常复杂的系统，容易遭受的攻击点更是不计其数。
针对无线传感器的相关安全攻击类型，可分为主动攻击和被动攻击两大类。被动攻击可分为窃听、节点故障、节点篡改/破坏、节点中断和流量分析等多个类型。在被动攻击中，攻击者通常以隐藏或伪装的方式，对网络功能组件进行破坏。以窃听为例，窃听可以很容易地侦听 WSN 中传感器节点之间的无线通信，并且不需要对任何传感器节点进行捕捉。而在主动攻击类别中，攻击者会影响目标网络的功能和操作；主动攻击者发出可以被 WSN 元素感知的无线电发射或动作，例如在物理层或网络层中的 DoS （拒绝服务）攻击，就会导致网络元素丢弃数据包。宋厚冰教授认为，这种不良影响的结果可能才是攻击者的真正目标。主动攻击可进一步划分为干扰、泛洪、DoS、黑洞、虫洞等类型，可以通过安全机制的入侵检测来发现。基于所面临的网络安全攻击问题，宋厚冰教授指出，可预防、检测、缓解三个基本组成部分，来提出对应的解决方案：预防，旨在防患于未然。通过设计路由协议，使对方无法破坏节点/消息、或是使路由方案功能失调，就安全方案的成本和无线传感器在抵御威胁的有效性上来说，这是最有效的方法。

保护 WSN 免受 DoS 攻击的解决方案但要注意的是，入侵防御机制虽然可以抵御外部攻击者对无线传感器网络和物联网的攻击，但机制不是专门为抵御内部攻击者而设计的，可能无法有效应对新威胁。因此，检测就是应对内部攻击提出的解决方案。在攻击事件中，当对方开始设法为推进预防组件采取措施，这意味着针对攻击的防御已经失败。目前，为相关攻击的检测组件设计的安全解决方案将负责和工作，尤其是对识别被攻击的节点。应对持续攻击，内部攻击的唯一方法是使用入侵检测系统（IDS）。经检测系统搜索发现入侵后，可发布缓解机制，以最大程度地减少正在进行的攻击的不利影响。缓解是发生在最后一部分的机制，旨在缓解攻击发生后，为保护网络所采取安全措施，例如在袭击中使用了“关闭网络中受影响的节点”或“禁用计算机的端口”等。通过预防、检测、缓解这三个组件，构成一个完整的安全结构，以防御 WSN 以及物联网可以应对各种攻击时多方面入侵。

对话宋厚冰：CPS 研究之路

AI 科技评论：能否请您分享一下您从求学、工作到成为资深教授的历程？宋厚冰：从 2012 年 8 月博士毕业到 2022 年 11 月入选 IEEE Fellow，一路走来我花了 10 年多一点（时间）。这一路算是比较顺利，但是此前我的求学过程有点曲折。我有 1 个学士学位，2 个硕士学位和 1 个博士学位，拿到 2 个硕士学位后都短期工作过，不像其他很多人本硕博一口气读完。我本科学自动化，第一个硕士学控制，第二个硕士学交通，读博士期间先在土木工程系读了 2 年交通，然后又转换专业到电子工程主攻光通信，3 年后毕业。可能很多人好奇，为什么我会在专业上绕了一个大圈、浪费时间。我本科学的是自动化，第一个硕士学控制，在西安交通大学跟随蔡远利教授学习，将控制科学与技术用于交通系统以保障交通安全、提高交通效率和改善环境。2004 年，我在西安交大获得硕士学位后，回到了山东老家，在山东省科学院短暂工作过一段时间。之后我开始考虑出国留学的事情，并在 2005 年 8 月毅然辞掉了工作赴美留学。我先是在德克萨斯大学埃尔帕索分校土木工程系，用了 16 个月拿到我的第二个硕士学位。2007 年 1 月，我进入德克萨斯 A&M 交通研究院担任工程研究员。2007 年 8 月，我选择进入弗吉尼亚大学土木与环境工程系攻读博士。起初，我希望能够将计算机的知识应用到交通研究上，但这个想法很快被打破了，当时的那位导师是纯粹的交通专业背景出生，对计算机并不了解，这也导致了在课题上我们出现了一些分歧。两年后，当我的课程全部上完后进入研究阶段，这个问题也依然没有解决。为此他建议我尝试换一个专业，选择自己感兴趣的方向。幸运的是，我遇到了我的第二位导师 Maïté Brandt-Pearce 教授。她接收了我作为她的学生，所以在2009 年 8 月，我又转入同校电子与计算机工程专业攻读博士学位。读博期间，我最主要的课题是研究光纤通信领域中的非线性薛定谔方程的化简问题。那会我经常空暇时间都呆在图书馆里，不仅是电子工程系，数学系和物理系的图书馆我都会去逛逛，很快我发现，在数学问题上，化简问题可以用数学公式表达出来，将公式应用到光纤通信领域时，可以很好地解决非线性薛定谔方程的化简问题。这里我很感谢我的导师有充足的耐心，还容许我提出跟她完全相悖的技术路线，我们在国际上首先破解了困扰光纤通信领域长达 15 年之久的非线性薛定谔方程的化简问题。我也因此只用了 3 年就博士毕业。2012 年 8 月，我获得博士学位，加入美国西弗吉尼亚大学理工学院电子与计算机工程系任教，先是做了 2 年的访问助理教授，又做了 3 年的终身制助理教授。期间我创建了网络化全球安全与优化实验室（Security and Optimization for Networked Globe Laboratory，简称“SONG Lab”）。2013 年 2 月，在西弗吉尼亚州高等教育政策委员会的资助下，我创建了西弗吉尼亚信息物理融合系统（CPS，Cyber-Physical Systems）卓越研究中心并担任首任主任。2014 年 1 月，西弗吉尼亚州埃尔克河化工厂泄露后，我领导团队开发了一套 CPS 应用于实时水质监测和水污染快速检测，这项研究获得时任美国西维吉尼亚州的资深联邦参议员 John Davison "Jay" Rockefeller IV 的高度赞赏。在 2017 年西弗吉尼亚大学设立最高研究奖“金熊学者奖”中，我很荣幸成为了首届的获奖者。2017 年 8 月，我加入美国安柏瑞德航空航天大学（这所高校也被誉为“天空中的哈佛”）电子工程与计算机科学系任教。SONG Lab 发展迅速，目前已有三位优秀博士毕业生从 SONG Lab 走出，先后加入美国高校担任终身制教职，我们团队也先后在主要国际会议上拿到11个最佳论文奖。

宋厚冰（左三）和学生合照2023 年 1 月，我将入职美国马里兰大学巴尔的摩县分校信息系统系，担任终身教职。AI 科技评论：数十年的学术生涯中，有哪些重要的人与事？宋厚冰：数十年的学术生涯中，我非常感激三个人。第一个是我在西安交大的硕士导师蔡远利教授，他治学严谨，言传身教，为人师表，领我进入科研的大门。我在美国培养出的前三个博士生全部一毕业即在美国高校找到终身制教职，就得益于当年他培养我的路数。第二个是我在弗吉尼亚大学的博士导师 Maïté Brandt-Pearce 教授，现任弗吉尼亚大学副教务长。她在我校内转换专业时毅然接收我作为她的博士生，对我读博第一年没有任何科研产出没有任何怨言。在她的悉心指导下，我得以在3年内顺利拿到博士学位毕业。第三个是我在 IEEE 通信学会的 mentor，IEEE Fellow、美国亚利桑那州立大学薛国良教授，他曾任 IEEE 通信学会副主席。他是我最敬重的学术前辈，也是我的山东老乡。薛教授治学严谨，提携后进，甘为人梯，是我们华人在美国学术界的杰出代表和学习的榜样。没有他的指导和鼓励，我不可能在博士毕业 10 年内长大为 IEEE Fellow。AI 科技评论：您的主要研究方向是什么？从什么时候开始关注 CPS、IoT 或工业互联网这些方向？宋厚冰：SONG Lab 的研究宗旨是在三个热门领域的交叉结合部发现与创新，其分别是CPS（包括无人系统 nmanned systems，自主系统 Autonomous Systems）/IoT、人工智能/机器学习/大数据分析，以及网络空间安全。我入门 CPS 是在 2012 年的春天，那是我博士毕业前最后一学期，当时恰好看到 John A. Stankovic 开设的一门课程 Cyber-Physical Systems，我非常感兴趣，就选了这门课，也是在这个时候我才真正接触到 CPS 。上课期间，我发现，交通是 CPS 中的一个重要应用领域，如果将交通 CPS 作为切入点，或许我有别人无法比拟的优势。因此很自然地，当我 2012 年秋天前往西弗吉尼亚大学任教时，我就瞄准了 CPS。2013 年 2 月，我很幸运地拿到了一笔资助，创建了西弗吉尼亚 CPS 卓越研究中心，并担任首任主任。这也是我从事 CPS 研究的真正起点。研究中心针对智能电网、车联网、紧急响应、矿井监控、桥梁监控、山体滑坡预警等开发了多个 CPS。2016 年，我与德国亚琛工业大学的 Sabina Jeschke、Christian Brecher 两位教授合作编辑出版了《Industrial Internet of Things》一书，截至目前该书已被引用 1300 余次。同年，我还出版了《Cyber-Physical Systems》。2006 年，赵伟教授（IEEE Fellow、时任澳门大学校长）在美国国家科学基金会计算机与网络系统分部主任任内领导科技界，主持并开创了 CPS 领域的研究，建立了第一个 CPS 的科技计划并拨付科研经费予以实施。《Cyber-Physical Systems》的出版恰逢 CPS 提出十周年，这本书也很幸运地邀请到赵伟教授来作序。此后三年，我还陆续出版了《智慧城市》《CPS 安全》等多本书。

宋厚冰已出版书籍AI 科技评论：据说许多研究 CPS 的人都不愿意称自己是做 IoT 的，是这样吗？CPS 与 IoT 这两块的发展脉络是怎样的？宋厚冰：我觉得不存在这种情况。美国科技界喜欢用 CPS，而欧洲和亚洲、尤其是中国科技界喜欢用IoT，但其实 CPS 与 IoT 密切相关。IoT 是 CPS 的网络基础设施，用一个网络将所有的物体进行连接，在网的基础上去开发不同的应用和服务。而 CPS 的核心研究领域还包括自主性，控制，数据分析和机器学习，安全，设计与验证等，IoT 这张网只是当中的一个部分，因此 CPS 相比 IoT，它的范围也要广泛很多。

第三波人工智能元年：神经符号 AI

AI 科技评论：据您观察，国内外这几年的物联网研究在趋势、侧重点与特色上分别有什么不同？物联网经历过哪些低潮期与辉煌期？在大环境下，您个人的选择是怎样的？宋厚冰：2014 年，智慧城市研究热开始升温，此后一年里，CPS 研究社区开始意识到大数据分析是从物联网迈向实时控制的关键，大数据分析开始热了起来。2017 年左右，CPS 研究社区的关注点开始转到物联网的可靠性和可控性上，到 2018 年左右，CPS 研究社区开始转向 Artificial Intelligence of Things（AIoT）。目前，AIoT 市场正处于迅猛发展阶段，预计到 2028 年将达到千亿美元以上规模，AIoT 技术的发展也将会延续 AI 的发展。AI 的发展实际上也是四种信息处理能力，即感知、学习、抽象和推理的发展。AI 发展可分为三波：第一波 AI 是手工知识（Handcrafted Knowledge），大概发生在上世纪七十年代至九十年代，人们创建规则集表示已有知识，以专家系统为代表，四种信息处理能力中，只存在感知和推理，没有学习和抽象；第二波 AI 是从本世纪初到现在的统计学习（Statistical Learning），近年来以深度学习为主，人们建立统计模型并在大数据上进行训练，其中感知、学习、抽象得到提高，但推理仍然有限，而且没有情境适应能力；第三波 AI 的特征是情境适应（Context Adaptation），今年是第三波 AI 的元年。为什么 AI 在今年发展到了第三波？原因在于第二波 AI 的发展遇到了根本挑战：统计上表现出色，但是就个体而言结果可能不可靠。这就需要建立与现实生活一致的情境解释模型、以解释和驱动决策，这一挑战不可避免地被 AI 带进了 AIoT 中，因此 AIoT 也必须具备情境适应能力，方能实现即时正确决策。我认为，从现在到 2030 年左右，AIoT 技术进步的核心将聚焦在如何解决这一挑战上。目前来看，神经符号 AI（neurosymbolic AI）是最有希望的。神经符号 AI 是神经网络（第二波 AI）和符号 AI（第一波 AI）的组合，拥有三大优势：精度更高，数据效率更高，高透明度和可解释性。借助神经符号 AI，人工智能将变得越来越智能，AIoT 也将会变得越来越强大。但是，我们不得不承认，神经符号 AI 仍然存在多重挑战，比如表示学习、场景感知和理解、强化学习和规划等。在攻克这一挑战的征途中，并不排除有神经符号 AI 之外的颠覆性技术腾空出世。站在我个人的角度上，我的研究方向选择同物联网研究的大趋势密切相关。SONG Lab 主要在大数据分析和 AI+IoT 集成两方面发力。我在 2017 年出版了《智慧城市》一书，邀请到 John A. Stankovic 作序，该书曾于 2018 年 4 月登上 IEEE Xplore 首页；2019 年还出版了《大数据分析》一书，由爱立信公司 CTO Christoph Bach 先生作序。目前，SONG Lab 在神经符号 AI 领域已深耕一年有余，我们也将会推出神经符号 AI 及其在 AIoT 应用的系列研究成果。AI 科技评论：您在 AIoT 这块的研究与成果分别有哪些？宋厚冰：AIoT 是我的核心研究领域之一。在这个领域，我主要是回答两个根本性问题：第一个问题是如何开发 AI 策略与技术快速检测异常事件，对于检测各种各样的异常包括入侵、威胁、漏洞、恶意软件、AI 中的偏见等问题，我都非常感兴趣；第二个问题，如何设计、建造和验证既可靠又安全的 AI 系统，比如自主系统。SONG Lab 在 AIoT 中有两个成果，一个是我们开发的反无人机 CPS。2017 年，我们关注到美国机场出现的无人机干扰问题，当时恰好进入我组内的两名访问学生刘永鑫同学和王健同学此前都是从事无人机研究的，因此有了做反无人机 CPS 的想法。在以往的机场解决无人机干扰问题时，常用的方法是将其打下来，这就很容易带来纠纷问题。为此我们在反无人机 CPS 中，通过对无人机频率和协议解码，向无人机发送假的协议，当无人机进入机场范围时，用协议牵引无人机远离机场，在安全环境中降落，有效解决了机场无人机干扰问题，同时也大大减少和避免了纠纷的出现。

反无人机 CPS另一个成果就是“旋转记忆”。所谓“旋转记忆”，简单来说，就是为了在不相互干扰的情况下、同时表示当前和过去的刺激，大脑本质上是“旋转”感觉信息以将其编码为记忆。这个成果被誉为“AI 模型新革命”，是 SONG Lab 和美国普林斯顿大学神经科学家 Timothy Buschman 实验室几乎同步做出来的，二者不同的地方在于，SONG Lab 完成了数学证明，而 Buschman 实验室则是通过做老鼠实验。AI 科技评论：在 AIoT 或工业互联网一块，您觉得国内的研究社区可能忽略了哪些重要方向？您个人的看法是怎样的？宋厚冰：其实我对国内的研究社区不熟悉。不过根据 exaly.com，在 AIoT 或工业互联网顶尖期刊 IEEE Internet of Things Journal 或 IEEE Transactions on Industrial Informatics，看总体的引用量，中国并不比美国差，但在世界 Top 100 被引用最多的作者里面，来自国内的学者为数不多，这当中可能存在的一个原因就是缺乏原创性科技创新。今天无论是在物联网、还是聚焦在工业互联网中，出现了不少趋同的现象，可能某个研究先提出来后，很快就会有别的跟上，因此像在业界，就很容易存在某些研究投入、名气很大，但最后并没有好的结果能出来。这当中原创性的科技创新还是很重要。AI 科技评论：在学术研究中，您比较秉承的原则是什么样的？有哪些您欣赏的人与团队？宋厚冰：我的原则是独一无二。在发掘和挑战 AI 研究难题时，独特性是第一位的。我经常挑战自己和我的学生：什么是我们的秘密武器？什么是我们的独特优势？如果其他研究团队可以做出跟我们同样或类似的结果，那么我们的研究就是没有意义的，必须立刻停止，否则就是浪费时间。我在弗吉尼亚大学读博士期间，面对困扰着光纤通信领域长达15年之久的薛定谔方程的化简问题时，将该方程从基于 Vloterra 级数的三重积分化简成一重积分，进而推导出描述长距离光纤通信系统的二维离散时间模型，并开发出一系列数字信号处理技术改进系统性能，这些技术包括限制编码技术和均衡技术等，是国际上首次。我的偶像是“人工智能之父” Herbert A. Simon ，曾获图灵奖（1975 年），诺贝尔经济学奖（1978 年）和美国国家科学奖（1986 年）。Herbert A. Simon 作为认知科学与人工智能的创始人之一，在计算机科学与心理学的结合方面做出了卓越的贡献，使认知心理学和计算机科学相结合产生了人工智能这一新学科，他也是认知心理学、符号学、经济管理等数十个学科的先驱和巨匠，是唯一一位获得了诺贝尔经济学奖和图灵奖及世界人工智能终身成就奖的科学家。他是我的榜样，因此我一直坚持的信条就是，在学术研究上，要做，就要做别人做不到的，否则就不要做。AI 科技评论：从不知名的求学小卒到 IEEE Fellow，您觉得您做对了哪些选择、做对了什么事情？未来五到十年的目标是什么？宋厚冰：回首长大历程，我觉得我在三个人生关键时刻做出了正确的选择。第一个是赴美留学，这是个很重要的节点，如果当初我没有做出这个选择，那我的终身都会发生改变。我花了一整年时间去挑战非线性薛定谔方程的化简问题，破解这个困扰光纤通信领域长达15年之久的难题是我引以为豪的科研成果之一。第二个是换专业回归到电子与计算机领域。如果我没有转回电子计算机领域，或许我会有一份稳定的职业，但我极有可能后悔终生，因为我将是 AI 领域的一个看客，而不是一个积极的创新贡献者。第三个选择是任教初期即彻底转换研究方向到 IoT、CPS、大数据分析和 AI。我的博士论文做的是光通信，但在毕业后，我还是毅然决然地选择了 CPS，因为我很确定自己对这个领域是感兴趣的。当然迈出这一步需要极大的勇气，但今天看来，我觉得这一步的话非常重要、也是个正确的选择，否则我就没有机会为 AI 领域发展作出贡献。当选 IEEE Fellow 是一个新起点，意味着在科学家长大三个阶段“吸纳、证明、输出”中，前两个阶段我已经走完，开始步入第三阶段：输出。未来五到十年，在研究上，我准备瞄准 AI 领域的高可信与可解释两个根本挑战，发力神经符号 AI（neurosymbolic AI），在应用 AI 到网络安全和 AI 系统的安全两方面做出原创突破，回馈世界；在人才培养上，计划培养若干名博士生成为杰出科学家，无论是进入世界一流研究型大学担任终身制教职或进入工业界工作或创业，努力在博士毕业后八年内当选 IEEE Fellow；在技术转移上，计划推出几款 AI 产品商业化，造福人类。

神经符号 AI，或为下一代 AIoT 的新解法

浏览过的版块