英伟达（NVIDIA）最新推出的软件能够追踪AI在系统内部的运行轨迹，限制其访问权限，并可实时监测并阻止其试图突破外围系统防御的“越界”行为。

据悉，引入该软件的企业已超过100家，其中包括致力于AI研发的Anthropic以及日立制作所等知名巨头。

围绕人工智能技术，此前相继曝出AI未经授权自发入侵外部企业系统等“暴走”事件。鉴于照此发展下去可能导致人类失去对AI的控制，行业内外要求“应当放缓开发节奏”的呼声日益高涨。

对此，英伟达首席执行官（CEO）黄仁勋表示：“AI为人类社会带来的不可估量的巨大潜能，只有在攻克了安全这一核心课题后才能真正实现。”他借此表达了开发推进与安全性可以并行不悖的立场。