DeepMind创始人Demis Hassabis提议效仿金融业FINRA模式建立AI监管机构。方案建议用动态指标(benchmarks)定义“前沿模型”并进行发布前测试,小模型和学术界则免检。
这套方案在圈内激起争议。支持者认为这为技术失控建立了缓冲;但务实派指出,指标一旦公开,厂商极易通过技术手段压线避税,引发反向古德哈特定律。更深层的审视在于,在巨头竞争激烈的当下,极力渲染科幻式的AGI毁灭论并推动准入制,很可能沦为大厂排挤开源和新对手的政策护城河。它看似在防御未来的未知风险,却避开了失业、分配不均等眼前的现实危机。
x.com/demishassabis/status/2076957440109625718
#人工智能# #AI创造营# #AI监管# #DeepMind#