时讯：美政府发布国家安全十大技术领域，提出“以人为中心的威胁形势”

2023年6月12日，美国国土安全部科学技术局下属的技术中心发布了名为《技术中心研究议程》的战略框架，该框架提出10个技术研究领域，共28个重点方向，调整并聚焦其研究组合，展示其未来三年的优先事项和目标。本文聚焦“人工智能和自主系统”以及“社会科学”领域，详细介绍其重点细分研究方向和技术指标。

美国土安全部科学技术局将人工智能列入研究议程

(资料图片仅供参考)

机构介绍：科学技术局科学与工程办公室下属的技术中心（Science & Technology Directorate Technology Centers），隶属于美国国土安全部

编译：网安观察员 温暖街灯

全文摘要与关键词

1. 《技术中心研究议程》技术清单：10个领域28个重点方向

2.人工智能和自主系统：可信赖AI，对抗性AI，AI和自主系统的高级应用

3.社会科学：

①动机驱动（以人为中心的威胁形势，开发新的方法、数据和分析技术）

②改变行为和社会影响（技术格局如何影响社会互动、行为和威胁向量）

③技术接受与限制（公众、组织如何接受或拒绝新技术）

4.机构情况：国土安全部科学技术局负责加强国家整体安全的科学研究，该局下属技术中心研究包括：生物识别和身份技术、数据分析技术、危害意识与表征技术、建模与仿真技术、互操作性和兼容性技术、传感器和平台技术、社科技术等。

01未来的10个研究领域

《技术中心研究议程》提出的十大研究领域及其重点研究方向如下：

《技术中心研究议程》提出了的十大研究领域，每个技术领域都包含有重点研究方向和要达成的技术指标。本文对其中“人工智能和自主系统”和“社会科学”部分进行详细介绍。

02人工智能和自主系统重点方向+技术领域

重点研究方向1： 可信赖的人工智能和自主系统

旨在实现以下三个目的：

1. 根据技术和任务指标有效评估人工智能和自主系统的性能

2. 为做出关键决策的操作员提供对人工智能和自主系统的适当信任和信心

3. 激发公众对国土安全部部署的人工智能和自主系统的信任

欲达成的技术指标：

一是了解可解释性在人工智能应用中的重要性，并评估可解释性在依赖人工智能的国土安全部任务中的有效性。“可解释性”通常涉及人类用户可以理解人工智能和自主系统结果的程度。

二是评估和推进人工智能/辅助系统的稳健性，以确保人工智能在国土安全部任务空间的实施的可靠性。“稳健性”通常涉及人工智能和自主系统在数据存在噪声或存在干扰的情况下的稳定程度。

重点研究方向2：对抗性AI（即人工智能的恶意使用）

在通信和技术堆栈的所有层（数据、软件、硬件、网络和通信）中，必须防范使用AI发动攻击的复杂对手。

欲达成的技术指标：

一是在学术界和情报界识别、描述和分类已知的对抗性攻击，以提高更广泛的国土安全部和联邦机构对此的理解和认识。

二是了解针对数字和非数字基础设施（例如物理设备和电磁频谱）的攻击的有效性及其对国土安全企业(HSE)任务的潜在影响。

三是了解在零信任架构环境以及传统信息技术、运营技术和电磁频谱中阻止、保护、检测和应对针对数字和非数字资产的对抗性人工智能攻击。

重点研究方向3：AI 和自主系统在国土安全部独特任务中的高级应用

旨在推进人工智能和自主系统在计算机视觉、自然语言处理、预测建模等各个子领域的能力，以推动人工智能和自主系统在国土安全部执行生物识别、媒体和错误/虚假/恶意信息分析、数字取证等任务和需求中的运用。

欲达成的技术指标：

一是了解人类和人工智能和自主系统如何最有效地协作以成功执行国土安全任务。调查人工监督和与人工智能和自主系统的交互，以优化国土安全部运营环境中的人机系统和性能。

二是应用以下人工智能和自主系统相关技术，根据国土安全部的任务来确定和开发用例，这些用例将受益于人工智能和自主系统的应用。自然语言处理和生成以及机器翻译，包括transformer（变换器）模型、社交媒体监测、自动战略沟通以及媒体和分析；事件、图像、文本、视频、语音和其他来源中的异常检测。

三是确定在国土安全部内实施人工智能的挑战。涉及实时嵌入式AI组件、反馈情况（包括深度强化学习）、安全AI边缘应用程序（包括分布式传感器）以及执行器和计算。

四是对在国土安全高性能计算任务中采用高端AI芯片的效果进行评估。

03社会科学重点方向+技术领域

国土安全部科学技术局在其2021年发布的《人工智能与机器学习战略计划》中强调，人工智能/机器学习这一研究领域是跨学科的，需要将技术研究与社会科学相结合。此次发布的战略框架再次对社会科学领域及其重点技术方向进行了细化。

重点研究方向1： 动机和驱动因素

旨在提高对以人为中心的国土安全部特定任务的潜在动机和驱动力的理解，并产生必要的知识、基本理解和工具，以管理风险，找到解决问题的方法，并为国土安全部任务的未来变化做好准备。

欲达成的技术指标包括以下三个：

一是分析、描述和解释不断演变的以人为中心的威胁形势及其对国土安全部任务的影响，并绘制社会结构和流程的原因和后果。

二是揭示并解释支持国土安全部关键任务领域和解决方案的动机。人类行为和社会现象是国土安全部任务的核心，例如恐怖主义和有针对性的暴力、人口贩运、网络安全事件或非法移民。

三是调查和开发新的社会科学方法、数据和分析技术，使国土安全部能够一致、定量和客观地描述和检查任务领域的问题。

重点研究方向2：改变行为和社会影响

旨在提高对技术格局的变化如何影响社会互动、行为和威胁向量的认识和理解。

欲达成的技术指标包括以下三个：

一是描述社交参与环境/平台的数字前景，包括社交媒体、元宇宙/游戏化/沉浸式技术等不断发展的技术和生态系统。

二是识别和分析人类行为的潜在变化以及物理空间和网络空间的社会变化的融合可能会加剧现有的威胁载体并产生新的威胁载体，以及对国土安全部任务的潜在影响。

三是在给定这些环境/平台和社交界面的情况下，确定预警信号/指标的差异，并确定国土安全部应对当前和新出现的威胁和风险的能力。

重点研究方向3：技术接受与限制

旨在促进国土安全部任务对新技术的接受。

欲达成的技术指标包括以下两个：

一是了解公众、组织和员工（包括政府项目）接受或拒绝新技术的原因和方式。

二是确定人类最好地利用新技术的方式，包括如何与数字界面交互，并创建将吸取的经验教训纳入国土安全部运营的方法。

04机构简介

国土安全部科学技术局 (S&T)是国土安全部的科学顾问和研发部门。科学技术局成立于2003年，根据国土安全部的使命从事加强国家整体安全的科学研究，开发和转化使前线人员能够有效、安全地完成任务的技术。科学技术局由科学技术局副部长办公室领导，由企业服务办公室、创新与协作办公室、任务和能力支持办公室、科学与工程办公室等四个主要办公室组成。

国土安全部科学技术局现任负责人：迪米特里.库斯涅佐夫（Dimitri Kusnezov）博士，于2022年9月8日被指定为科学技术局副部长（Under Secretary for the Science and Technology Directorate）。作为国土安全部部长的科学顾问，库斯涅佐夫博士负责研究、开发、创新、测试和评估活动，以支持国土安全部的运营部门和全国的应急响应人员。在加入国土安全部之前，库斯涅佐夫博士曾担任能源部长高级顾问、国家核安全局首席科学家、高级模拟和计算主任等职务。库斯涅佐夫博士在普林斯顿大学获得理论核物理学博士学位，曾耶鲁大学任教十多年，担任理论物理学教授。

科学技术局科学与工程办公室下属的技术中心（Technology Centers）的专家负责就对国土安全至关重要的科学、工程和技术领域问题项科学技术局、国土安全部组成单位等提供建议，并服务于白宫和跨机构科技委员会、国际双边多边小组和国土安全部特别倡议小组。技术中心主要从事生物识别和身份技术、数据分析技术、危害意识与表征技术、建模与仿真技术、互操作性和兼容性技术、传感器和平台技术、社科技术等的研发。

参考文献：https://www.dhs.gov/science-and-technology/publication/technology-centers-research-agenda

标签：