多分辨率哈希编码的InstantNeuralGraphicsPrimitives如何实现？

本文共计960个文字，预计阅读时间需要4分钟。

NVIDIA最新技术5秒训练NERF+Instant Neural Graphics Primitives with a Multiresolution Hash Encoding，实现了完全连接的神経網絡的参数训练和评估，评价如下：该技术通过多分辨率散列编码，有效提升了训练效率，实现了即时神经图元生成，具有显著的创新性和实用性。

InstantNeuralGraphicsPrimitiveswithaMultiresolutionHashEncoding如何评价NVIDIA最新技术5秒训练NERF

Instant Neural Graphics Primitives with a Multiresolution Hash Encoding

---

痛点完全连接的神经网络的参数训练和评估的成本都很高。

目的降低成本——在不牺牲质量的情况下减少浮点和内存访问操作的数量搭建小型神经网络。通过使用完全融合的CUDA内核来实现整个系统并专注于最小化浪费的带宽和计算操作。

过程利用可训练特征向量的多分辨的哈希表其值通过随机梯度下降进行优化。

要素多分辨率结构允许网络消除哈希冲突的歧义。

---

Adaptivity重点

• 用不同的网格映射到相应的固定大小的特征向量数组上。将特征向量分组
  • 粗分辨率11映射
  • 细分辨率利用哈希表的思想将特征向量数组视为哈希表并使用空间哈希函数索引。
    • 哈希碰撞导致碰撞训练梯度靠近平均值这意味着最大的梯度——那些与损失函数最相关的梯度——将占主导地位。
    • 因此哈希表自动对具有最重要精细细节的稀疏区域进行优先级划分。