Reference: Y. Jia, Caffe Talk
其实,归根结底,Scalabe 是因为硬件总是有限的。过去几年,人工智能网络已经从 AlexNet、VGG-19 的浅层网络的迅速成长成超深层的 ResNet,以及多个网络相辅相成的生成对抗式网络(Generative Adversarial Network)。虽然,以 NVdia 为首的硬件公司也在不断突破,但是其增长速度恐怕无法与目前的神经网络相媲美。
因此,对于每一个深度学习神经网络的实现,在每一个层次实现时,除了计算的高效性外,将大规模网络裂解(partition)并且映射(mapping)到有限的硬件上就成为了一个踏踏实实的问题。表现在接口设计、数据结构的选择等各个层次。而只有那些可以规模化扩展的人工智能硬件,才能在算法日新月异的今天立于不败之地。
Sensable 传感,也要智能
如果你还觉得传感器和人工智能计算是两个完全独立的模块的,恭喜你,你已经被时代抛弃了。大会上,北京文安与 Bosch 都秀出了新一代的图像传感/VR 传感器。毫无例外的,人工智能算法已经与传感器拥抱,同时出现在前端。
Reference: R. Liu, Bosch Sensor Talk
传感器,作为实时推理(Real-time Inference)的最前端,是模拟信号与数字化的人工智能算法间的桥梁。他可以是摄像头,可以是 lidar/radar,可以是音频,林林总总。当信号越原始,越早地进入神经网络处理,他就越容易带来意想不到的效果。紧密拥抱传感器的 AI 算法已经在 end-to-end Learning 领域迸发出了不一样的火花。未来的人工智能硬件,将不可逆地与传感器结合,成为 IoT 时代的大趋势。