】 【打 印】 
【 第1页 第2页 第3页 第4页 】 
大模型落地,跑得快更要跑得稳
http://www.CRNTT.com   2024-07-15 11:36:39


 
  合力推动人工智能健康发展

  “目前来看,让大模型完全不犯错几乎不可能,但减小犯错几率,减弱错误危害性,是可以做到的。”常永波说,安全治理需产学研共同发力,中国信息通信研究院已开展一系列标准和测评研究,头部厂商也在加速构建自身的安全和治理体系。

  蚂蚁集团安全内容智能负责人赵智源介绍了相关经验。一方面,在大模型产品投入应用前,企业需做好全面评测,对暴露出的安全问题展开针对性防御,把好入口关;相关产品进入市场后,也要时刻监控可能出现的风险隐患,进行技术补救和改进。另一方面,模型技术通常跑在安全技术前,行业研究要保持一定前瞻性。

  “我们很早就开始探索基于安全知识构建视觉领域生成内容风险抑制的技术。在多模态大模型发布后,我们又将这一技术集成到多模态基座中,降低风险内容生成比例。”赵智源介绍,蚂蚁集团已构建起面向产业级应用的大模型安全一体化解决方案“蚁天鉴”2.0版本,形成包括大模型基础设施测评、大模型X光测评等在内的测评和防御技术链条,并已运用于金融、政务、医疗等专业场景下的AI应用全流程。

  常永波说,大模型落地门槛正在大幅降低,大量中小企业在模型安全治理方面的能力较弱,有些甚至不符合基本的合规要求。解决这些问题,需要监管的进一步引导和头部厂商的能力释放。

  “我们现在已把‘蚁天鉴’的测评能力框架开源,将来也会把检测能力以及对风险的认知更多分享到平台上,它可以适配较多模型。希望我们提供的开放能力能帮助大模型行业持续健康发展。”王维强说,模型厂商离用户最近,可第一时间发现安全隐患,并通过和监管保持良性沟通互动,助力大模型安全落地。

  清华大学长聘副教授李琦认为,大模型安全应用是一个新兴领域,研究和应用尚处于起步阶段。随着新的实践不断深入发展,相关技术也会持续升级,为建构大模型安全实践范式打造高价值参考体系。

  人工智能治理是全球性问题。WAIC 2024开幕式上发布的《人工智能全球治理上海宣言》提出,高度重视人工智能的安全问题。宣言强调,以发展的眼光看问题,在人类决策与监管下,以人工智能技术防范人工智能风险,提高人工智能治理的技术能力。宣言呼吁,推动制定和采纳具有广泛国际共识的人工智能的伦理指南与规范,引导人工智能技术的健康发展,防止其被误用、滥用或恶用。


 【 第1页 第2页 第3页 第4页 】


扫描二维码访问中评网移动版 】 【打 印扫描二维码访问中评社微信  

 相关新闻: