把神经网络当成汇编代码去逆向，是种什么体验

大家总觉得神经网络是靠数据“喂”出来的黑盒，但华尔街量化巨头Jane Street整了个狠活：他们手动写了一个网络。没有经过任何训练，参数全是整数，硬是用神经元逻辑门拼出了一个MD5哈希算法。

这道谜题被一个叫Alex的大学生给破了。他像逆向工程闭源软件一样，剥离冗余节点、分析拓扑结构，硬生生看出了参数里藏着的32个周期模块，甚至还顺手揪出了一个连出题人自己都没发现的代码Bug。

这件事最性感的启发在于，神经网络正在成为一种新型的“汇编语言”。未来的AI安全和可解释性研究，将彻底告别玄学调参，转变为硬核的“编译器审计”。当模型越来越大，谁能像看C++源码一样看懂神经元权重之间的连接逻辑，谁就拿到了通往未来的入场券。

blog.janestreet.com/can-you-reverse-engineer-our-neural-network/