关于观测、测量
数据采集、设备/设施监测做得多了，有时会“细思极恐”。“恐”来自于理论上讲，其实所有的测量/观测都是近似、简化 […]
数学
AI技术路线之一：用能量模型（EBM）取代概率模型（Probabilistic）？🤔—但问题是，在信息技术领域，对于用数学方法解决现实问题，从历史上看，概率论往往胜出。
近期，杨立昆(Yann LeCun)教授发表演讲Shaping the Future of Artificia
AI技术路线之一：用能量模型（EBM）取代概率模型（Probabilistic）？🤔—但问题是，在信息技术领域，对于用数学方法解决现实问题，从历史上看，概率论往往胜出。 Read More »
用物理信息神经网络（PINNs）求解非稳态麦克斯韦方程
论文PINNs for Solving Unsteady Maxwell’s Equations:
用物理信息神经网络（PINNs）求解非稳态麦克斯韦方程 Read More »
无归一化Transformer：用Dynamic Tanh (DyT)取代层归一化（Layer Normalization, LN）
论文Transformers without Normalization的研究证明了Transformer可以
无归一化Transformer：用Dynamic Tanh (DyT)取代层归一化（Layer Normalization, LN） Read More »
浅谈神经网络的归一化（Normalization）
在神经网络中，归一化（Normalization） 是一种用于调整和标准化神经元激活值的方法，主要目的是 加速
浅谈神经网络的归一化（Normalization） Read More »
基于神经特征函数匹配（Neural Characteristic Function Matching, NCFM）方法的数据集蒸馏：GPU 内存使用量减少300倍以上，处理速度提升20倍
深度神经网络（DNN）在各种任务上取得了巨大成功，其中一个关键因素是大规模训练数据的可用性。然而，在存储受限的