DNV 发布丨工业领域中安全应用人工智能技术的推荐做法

DNV发布了系列推荐做法以解决工业领域中安全应用人工智能技术的挑战

作为风险管理和认证公司,DNV发布了系列推荐做法(Recommended Practices),指导企业在重要设备和基础设施的运营管理中安全地使用人工智能技术。

高质量的 AI 系统通常由不同的模块组成,如数据、传感器、算法和数字孪生。针对不同的模块,DNV发布并更新了九项推荐做法。基于海事、能源和医疗等领域中丰富的行业知识, DNV不仅了解人工智能在系统中的工作原理,还了解它与其他系统的交互过程和影响机制。


人工智能的出现需要一种新的风险管理方法。传统的机械或电气系统一般会需要数年才会退化,而人工智能系统可能在毫秒之内发生变化。鉴于此,人工智能系统的动态属性对传统的认证方式带来了挑战。因此我们需要一种新的认证方法,深入了解复杂系统和人工智能之间错综复杂的相互作用,从而正确评估系统故障模式并提高系统性能。


我们的许多客户都在AI技术研究和应用方面投入了大量资金,但往往难以向利益相关方证明其方案的可信程度。DNV在《欧盟人工智能法案》生效之前发布了系列推荐做法,以弥合信任差距。” DNV集团总裁兼首席执行官Remi Eriksen说。


《欧盟人工智能法案》将成为世界上第一部人工智能法律。该法律对人工智能的定义非常广泛,该法律适用于在欧盟部署的任何数据驱动系统,无论它是在哪里开发的或数据来源如何。这些推荐做法可以帮助企业满足该法律的相关要求。


这些推荐做法通过提供切实可行的操作指导,为相关利益方和《欧盟人工智能法案》构建了桥梁。


这些推荐做法通过基于声明和证据的方法来解决以下四个关键挑战:

  • 采用系统性的方法分析AI组件与其它组件、人类和环境的交互机制及产生的影响。
  • 考虑到人工智能系统及其环境的动态属性,采取持续认证的方式应对系统变化。
  • 认证过程包括分析利益相关方的需求,识别利益相关方之间的利益冲突,并促其达成利益妥协。
  • 为了促进多方协作,推荐做法使用模块化声明的方法,允许各方对自己的部件进行独立认证,从而确保集成系统满足认证要求。


DNV Launch - Recommended Practices - 3