神经网络(GNNs)是一种针对学习图表示的神经网络结构，已经成为一种流行的学习模型，用于预测节点、图和点的构型的任务，并在实践中获得了广泛的成功。本文选取了广泛应用的消息传递神经网络和高阶神经网络的逼近和学习特性的新兴理论成果，重点从表示、概括和外推三个方面进行了综述。本文总结了数学上的联系。