AI Blog
西湖大学研发 AI 文本检测模型,助力辨别人工智能创作
科理AI| 2025-03-14| 返回列表

  近日,西湖大学的研究团队成功研发出一种能够检测人工智能生成文本的新模型。该团队的负责人张岳教授在接受采访时表示,这一模型采用无监督算法,可以有效判断一篇文章是否由 AI 创作,尤其在人工智能迅速发展的当下显得尤为重要。

6387756302752006349990303.jpg


  张岳教授提到,随着科技的不断进步,AI 在创作领域的应用日益普及。然而,AI 生成文本的问题也随之而来,例如 “AI 幻觉”。这种现象指的是 AI 在生成内容时,有时会编造虚假的细节,导致产生与事实不符的结果。在教育领域,如果学生的毕业设计中大量使用 AI 生成的内容,就可能引用不存在的参考文献,这不仅会影响学生的实际能力评估,还可能传播错误的信息。

  为了解决这个问题,张岳教授强调,准确判断文本是否由 AI 创作是确保内容真实可靠的第一步。目前,传统的文本检测方法大多依赖于有监督学习,但这种方法的局限性在于它只能判断训练数据中包含的文本,面对新的模型或领域时,其效果会大打折扣。因此,张岳团队研发的无监督算法不需要预先标记的数据,通过自动发现数据中的模式和结构,提升了检测的准确性。

  张岳教授和团队已经展示了该模型的 Demo 版本,并引起了众多用户的关注。他们正在与一些实际应用场景进行合作,进一步推广这一模型。

6387756302748649005004395.jpg


  科理AI凭借科理30多年的管理实践经验,与国际前沿技术相结合,助力企业全面导入AI。作为国内外AI战略及技术方案的领先者,为企业打造一站式全价值链服务:

  AI战略培训,由专家深入剖析前沿趋势,助力企业把握AI应用之道;

  AI顶层规划,从业务梳理到架构设计,构建全面、可持续的AI解决方案;

  AI全面导入框架,建立AI CoE卓越中心,为企业搭建持续创新和优化的AI管理框架;构建ISO/IEC 42001人工智能管理体系,确保AI应用的质量、安全及可靠,合规使用AI技术。

  AI解决方案,针对企业运营管理需求精准发力;

  企业AI培训,企业AI战略培训、企业AI 大模型培训、DeepSeek应用培训、AI管理体系培训、企业AI人才体系建设培训;

  科理AI,以战略为引领,技术为驱动,助力企业构建智能化产业生态体系,赢得市场竞争的主动权。

  (来源:AI BASE)

Copyright© QualiSys Consultancy Services Ltd.
版权所有:科理咨询(深圳)股份有限公司 | 粤ICP备10082873号-5