守牢安全底线
3月7日，中共中央政治局委员、外交部长王毅在十四届全国人大二次会议记者会上表示，人工智能目前进入爆发式发展的关键阶段。中国主张发展与安全并重，既要拥抱新事物新机遇，也要装好刹车再上路，共同推进人工智能全球治理。
安全问题始终贯穿人工智能发展全过程。大模型的爆发式发展，更加重了社会对其安全性的关注。
周鸿祎把大模型引发的安全风险分为技术安全、内容安全和人类安全三个方面。技术安全主要涉及大模型技术本身引发的如网络、数据等方面的风险；内容安全则是指控制、滥用、误用和恶意应用大模型带来的法律及道德问题；而人类安全则是大模型足够强大后，人工智能是否安全可控的问题。
为此，他建议，我国应未雨绸缪，重视大模型安全。例如，研究制定保障大模型安全的标准体系，推动通用大模型开展安全评测、接入安全服务等，降低大模型的安全风险。
大模型安全既包括应用层面安全，同样也包括产业链安全。
“大模型作为驱动新质生产力的重要技术底座，其本身也要构建在自主可控的国产软硬件基础之上，以及安全的产业链环境之中。”刘庆峰建议，为进一步推动自主国产大模型发展，要加快我国大模型开发者生态体系建设和运营，支持国产大模型向开发者开放，开展大模型评测体系和开源社区建设，降低研发和使用成本。同时，应鼓励央企国企优先应用国产大模型，尤其是在关键敏感领域和核心战略领域。
（来源：科技日报） |
