发布日期：2025-07-22 浏览次数：
生成式人工智能 (GenAI) 对企业运营的巨大影响不容忽视。从个性化的客户互动到快速的内容生成和更智能的自动化，GenAI 正在彻底改变企业的运营和竞争方式。
然而，在一片喧嚣的背后，隐藏着一个复杂而紧迫的悖论。Thales 2025年数据威胁报告发现，尽管69%的企业承认GenAI的飞速发展是其最大的威胁，但许多企业仍然将数据安全和可信度视为次要因素。
GenAI 运用数据并从中学习。它不仅仅产生输出，还影响决策、系统和人员。当推动这场革命的模型容易受到偏见、盗窃和操纵时，我们谈论的不仅仅是技术风险，更是对诚信、信任和声誉的商业威胁。
与直觉相反，Thales 2025消费者数字信任指数显示，32-33%的消费者表示，如果品牌使用GenAI或AI技术，他们会更加信任该品牌。消费者认为这些工具能够提升个性化和安全性，使交互更加高效和安全。负责任地使用AI，品牌可以通过满足客户的需求和偏好来建立长期的客户关系。
企业深知这一点，根据《2025 年数据威胁报告》的调查结果，近四分之三（73%）的企业正在投资安全工具来保护其 AI 设施。然而，显然许多企业尚未完全理解其 GenAI 架构的复杂性，以及将这些工具大规模嵌入 SaaS 平台的影响。
人工智能经常被描述为“黑匣子”，但当黑匣子成为盲点时会发生什么？
如今，首席信息安全官们被要求认可并监督那些做出具有重大业务影响的人工智能系统。但问题在于：如果你对输入这些系统的数据没有信心，又如何能信任它们呢？
这种困境超出了理论层面。GenAI 模型容易受到以下因素的影响：
偏见和公平问题——因为他们从历史数据中学习模式，这可能反映过去的偏见。
模型盗窃——恶意行为者提取架构、嵌入或权重来复制或破坏系统。
对抗性输入——对提示或数据的细微调整会欺骗模型产生虚假或有害的输出。
输出操纵——包括用于欺诈、虚假信息或声誉破坏的深度伪造和合成内容。
每种风险都触及保密性、可信度和完整性等核心原则。每种风险都要求采取更慎重、更规范的数据处理方法。
因此，Thales 2025 数据威胁报告中提出的真正问题是，企业是否已准备好全面采用人工智能，还是在没有首先确保安全的情况下就仓促行事？
数据质量和安全已成为企业快速应用GenAI的新焦点。被污染的数据将导致错误的决策，给企业带来严重后果。首席信息安全官们必须扪心自问，他们是在推动创新，还是在打开潘多拉魔盒。
检索增强生成 (RAG) 就是一个很好的例子。RAG 的设计初衷是将企业数据纳入模型的语境，但如果它绕过分类规则或包含敏感内容，就会成为一种负担。同样，如果公开的 LLM 使用专有或机密数据进行训练，我们也会面临知识产权损失、合规违规和信任受损的风险。
安全的新领域瞬息万变、充满活力，并且以数据为中心。根据今年的数据威胁报告，我们正在取得进展，但速度还不够快。
2021年，36%的受访者表示他们对数据的定位缺乏信心。到2025年，这一比例有所改善，但仅为24%。尽管数据分类保持稳定，80%至85%的受访者能够对至少一半的数据进行分类，但这仍然意味着大量信息未被发现。
令人鼓舞的是，企业正在加密更多敏感的云数据。2021年，只有46%的企业表示他们加密了40%或更多的数据。到2025年，这一数字将跃升至68%。这是一个巨大的胜利，但如果加密不明确，就像在一栋你无法绘制地图的房子里锁上门一样。
为什么会出现脱节？原因在于碎片化。近三分之二的企业使用五种或更多工具进行数据发现或分类。超过一半的企业依赖五种或更多加密密钥管理解决方案。这种拼凑式的方法会导致规则重复、保护措施不一致以及数据孤岛，从而破坏任何整体数据策略。
简而言之，您无法保护您无法找到的东西，也无法信任您无法保护的东西。
为了安全地利用 GenAI 的潜力，安全性必须向上游发展。这意味着：
加强数据分类和沿袭——了解数据在哪里、来自哪里以及如何使用。
整合并合理化安全工具——碎片化会滋生风险。优先考虑能够统一可见性和控制力的平台。
一致地应用加密，而不是选择性地应用加密——跨环境保护数据，而不仅仅是在“敏感”系统中，并确保集中密钥管理。
创建AI 使用护栏——通过基于角色的控制和及时验证防止模型中毒、幻觉或滥用。
通过设计建立信任——从一开始就将透明度和可审计性融入您的 AI 架构中。
GenAI 功能强大、普及性强、影响深远，因此必须建立相应的防护机制。尽管创新速度令人眼花缭乱，但首席信息安全官 (CISO) 必须成为规范和远见的代言人。好消息是，大多数组织已开始投资 AI 专用安全。更棒的消息是，我们现在拥有了应对这一挑战的先见之明。
但真正的问题是：我们是否应该将信任视为一项战略要务，还是创新热潮中的一个注脚？如需了解更多关于GenAI数据保护，欢迎联系揽阁信息。
揽阁信息 · 值得您信赖的信息安全顾问！
沪公网安备31011202021337号 网站地图
友情链接： Thales官网 芯片产品网站 服务热线
