首页
学习
活动
专区
圈层
工具
发布

用古董算法给AI验身:一场终将被语言同化的猫鼠游戏

开发者利用2022年前的网文与AI生成文本训练了一个传统的SVM分类器,仅凭TF-IDF特征就在句子层面达到了85%的检测准确率。该工具在测试某创作平台热门标签时,发现超过30%的网文疑似由AI生成。目前该项目已开源,并在前端实现了无需服务器的浏览器本地检测。

这种检测之所以有效,是因为商业模型在对齐微调时留下了特定的统计分布特征。但争议也随之而来:低容错率极易误伤那些文风严谨或非母语的创作者。随着时间推移,这种对抗将陷入两难:要么AI通过对抗训练彻底抹除特征,要么人类在长期阅读AI文本后发生语言退化,主动迎合机器的文风。比起单纯的统计分类,记录创作痕迹的编辑历史或许是更可靠的证明。

blog.lyc8503.net/en/post/llm-classifier/

#人工智能# #AI创造营# #大语言模型# #技术思考#

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OMrq5NeMFZQPqjPd_zK2ZTmw0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。
领券