随着AI技术在网文领域的应用日益成熟,信任危机也随之而来。
近日,腾讯正式推出“朱雀”AI大模型检测系统,旨在帮助识别AI生成的文字内容。
据介绍,“朱雀”AI生成文本检测系统,通过学习大量AI生成文本与人类创作内容,有效识别AI生成的文本。
该系统经过大量正负样本训练,涵盖不同领域和不同大语言模型生成的文本,采用对比分析法进行检测。
当下,网文行业众多工作室均采取Ai工具辅助生成小说,用以批量投稿,赚取利润。
而“朱雀AI生成文本检测系统”的诞生及连锁反应是否会对相关工作室造成影响尚待观察。
相关资料:
“朱雀”AI生成文本检测系统由腾讯混元安全团队的朱雀实验室推出。
朱雀实验室是腾讯安全平台部于2019年成立的顶级安全实验室,专注于AI大模型领域的安全攻防实战与前瞻安全技术研究,团队成员包含了来自AI安全、Web安全、IoT安全、移动安全与云原生安全等领域的安全专家。近年来,该实验室聚焦于AI与大模型基础设施安全、大模型内生安全、大模型赋能安全与大模型安全性评测等多个方向,产出了大量行业领先的研究成果,团队通过将前沿研究成果与蓝军实战演练相结合,持续保障与提升了腾讯AI大模型业务的整体安全性。