您的位置:首页 >科技 >

全球热点!Team8 CISO Village发布《CISO指南:GenAI风险管理》

2023-05-18 16:02:05    来源:互联网

Team8 CISO Village出品

无论是 ChatGPT、Midjourney、Copilot还是其他,Generative AI已经并将对所有行业和企业产生深远影响。

在此背景下,Team8与我们的CISO Village社区合作,为CISO准备了一份指南,用于评估 Generative AI和ChatGPT的企业风险和机遇。


(资料图片)

尽管益处多多,安全主管的担忧正在增加。虽然许多CISO感到广泛启用GenAI的压力,但他们明白不加选择地这样做可能会带来广泛的风险。就像最初引入的互联网、云、智能手机和社交媒体一样,我们发现自己落后于技术采用曲线,并面临成为业务推动者的机会。

事实上,这份报告得出的结论是,与GenAI相关的风险是可以管理的。

CISO提出的关键问题:谁在我的组织中使用该技术,目的是什么?员工与GenAI交互时如何保护企业信息(数据)?如何管理底层技术的安全风险?我如何平衡安全权衡与技术提供的价值?

虽然GenAI的许多固有风险存在于任何云或基于AI/ML的技术中,并且应该由现有政策涵盖,但需要假设GenAI被广泛采用的新政策,包括非技术人员。

在本文中,我们讨论了这项新技术带来的各种企业风险、威胁和影响,我们探讨了威胁建模、制定政策时的考虑因素、与内部利益相关者(如工程和法律团队)的互动,以及其他相关方面。

作为CISO社区,我们面临着一个历史性的机遇,它也可以影响监管以及世界各地个人(包括我们组织的个人)的安全、隐私和安全。

最后,重要的是要注意安全社区继续研究这个关键主题。随着更多协作项目的形成和行业最佳实践的记录,我们的主题、发现和建议将由Team8和CISO Village进行更新和扩展。

报告要点

高管们,其中包括CISO,发现自己落后于技术采用曲线,而员工和业务部门正在迅速采用Generative AI(GenAI)技术。

CISO正在问的关键问题:谁在我的组织中使用该技术,目的是什么?当员工与GenAI交互时,我如何保护企业信息(数据)?我如何管理底层技术的安全风险?如何在安全性权衡与技术提供的价值之间取得平衡?

通过与相关利益相关者合作,为组织制定定制政策,可以管理与GenAI相关的风险。

尽管GenAI的许多固有风险存在于任何基于云或AI/ML的技术中,但需要新的政策来假设GenAI的广泛采用,包括非技术人员的广泛采用。

企业中与GenAI相关的最严重风险源于四个根本问题:

GenAI对内部运营和流程的影响;

信任第三方安全的必要性;

采用导致的法律和监管风险;

尽管数据泄露风险确实存在,但媒体对其进行了不必要的炒作。

可以通过应用以下策略来管理这些风险:

识别相关风险及其对组织的影响;

制定组织政策,说明如何以及谁可以使用这些工具,将上述风险降低到可接受的水平;

根据提供给客户的安全性和政策可定制性,选择合适的GenAI提供商,例如选择退出和数据保留;

在企业控制下审查潜在的内部替代方案。

关于Team8 CISO Village

这是一个由来自世界领先企业的CISO组成的社区。主要重点是促进世界上最著名的公司之间的合作,目的是分享信息和想法,就行业和技术趋势和需求进行深入讨论,并为各方创造价值和商业机会。

标签:

相关阅读