-引言-

人工智能（ArtificialIntelligence,AI）是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学[1]。自年人工智能被提出以来，到如今，人工智能技术的发展已走过了60年的历程。近年来，随着数据规模的爆发式增长、电子计算能力的提升以及深度学习、强化学习等算法日趋成熟，人工智能技术迎来了其发展的第三次浪潮[2]。在自动驾驶、医疗、教育、金融等领域，人工智能技术成果斐然。

然而，随着人工智能技术如火如荼的发展，在实际应用中也发现了其一系列的隐患。例如，年3月，Uber的一辆自动驾驶汽车发生致命事故，经调查人员调查后发现，该公司的技术发生了灾难性的故障，而这种故障很容易预防[3]。再例如，在图像上添加精心设计的微小扰动，即可干扰人工智能系统，使其对图片做出完全错误的分类。由此可见，现在的人工智能系统还缺乏安全性和可靠性。基于此，人工智能系统的测试与评估工作在人工智能技术正确发展的道路上显得尤为重要。

作为美国军事技术领头羊，牵头组织多军种联合科研计划、安排、协调和管理跨军种科研项目的美国国防高级研究计划局（DefenseAdvancedResearchProjectsAgency，DARPA），近年来，对人工智能测试及评估领域的研究给予了高度重视。在此，我们根据DARPA在年2月发布的财年DARPA研究项目预算整理了其中与人工智能测试与评估有关的项目，下面我们分成人工智能测试评估理论研究、应用实践项目两部分来进行详细的介绍。

01人工智能测试评估理论研究项目

GARD

项目简介：

最近研究发现，机器学习（ML）和人工智能（AI）系统容易遭受到欺骗攻击。欺骗攻击是指敌对势力将工程数据输入到机器学习系统中，意图导致系统产生错误的结果。对手可以通过欺骗攻击和控制自主系统，改变基于机器学习的决策支持应用的结论，并损害依赖机器学习（ML）和人工智能（AI）技术的工具和系统。然而，目前用于ML和AI防御的技术已经证明是脆弱的，存在以下两方面问题：一方面，现在防御的

转载请注明:http://www.aideyishus.com/lkyy/477.html