“AI应用风险由AI治理”

 

互联网泛在化趋势越来越明显，不但性能越来越高，而且覆盖范围也越来越广。基于此，人们不断挖掘互联网的用途并持续增加互联网节点，在此基础上逐渐演化成了物联网。浙江大学国际联合商学院数字经济与金融创新研究中心联席主任、研究员盘和林10日告诉《环球时报》记者，物联网的基本特征就是附带了大量的传感器，由此产生了海量的数据。这些数据结合机器学习算法，延伸出了智能来改善物联网。

 

“所以现在各类带电的终端，智能家居、汽车、5G基站等都在和AIoT结合。”盘和林说，这种结合的趋势分为几个阶段，先是联网和布局传感器，然后产生数据，继而基于数据去添加智能，这种应用的广泛性使得未来AIoT的扩张势不可挡。

不过盘和林指出，当前AIoT的发展还不及预期，原因在于AIoT资费上。在他看来，通信是有成本的，降低成本才能让更多终端节点介入。所以未来AIoT的深入还需要通信运营商的支持，既要从技术上支持，也要从降低资费上支持。

 

随着AIoT的持续扩容，未来互联网节点数量不是按照现有速度增长，而是几何式跳跃增长，但附带智能的大量联网终端可能导致隐私泄露、网络安全、数据安全等一系列问题。盘和林说：“规模太大，管不过来了。一套AI系统出了问题，或导致此类设备整体瘫痪。单个智能失控可能好解决，如果集体失控，那会是很大的问题。

”

对于AI应用可能出现的风险，盘和林认为，需要在AI应用之前就准备好预防措施，其中最关键的是形成AI治理AI的机制。盘和林举例称：“比如AI大模型存在伪造图像的问题，那么假图像和真图像怎么分辨？肉眼不行，用AI检测反而可行。甚至还可以要求AI生成图片时，在代码中植入一个水印，图片上看不出来，但算法能发现其中的问题。”