据透露,此次“二轨对话”有四个重点领域:禁区目标;均衡性与人类监督;禁区数据;国际准则建立。
双方在一些领域达成共识。共同的担忧是,基于机器学习的现代人工智能系统的行为和故障往往出人意料,需要对“可解释人工智能”进行更多研究,需要更多的测试和评估机制。其它担忧包括:人工智能系统运行的速度,这可能导致冲突迅速升级;人工智能武器系统的日益扩散以及非国家行为体利用此类系统的可能性;此类武器造成平民伤亡的潜在风险。
双方专家都肯定三件重要的事情:第一,使用人工智能武器系统应符合习惯法和国际法的原则,特别是区分和相称的原则。这将需要人工智能武器系统的开发者和系统的操作者都接受培训,并负责确保充分遵守习惯法和国际法。
第二,人工智能武器系统应在适当的人类监督或控制下运行,特别是考虑到这些系统的技术局限性。 |