【TechWeb】12月4日消息，麦肯锡最新研究表明，GenAI（Generative AI，生成式AI）每年对全球经济的贡献将达7.9万亿美元。GenAI不仅对全球经济产生重要影响，也为各个行业带来变革机遇。

  随着GenAI在各行各业的影响力更加深入，关于GenAI的安全性问题也受到更多关注。

  Steve Schmidt一方面强调，LLMs和GenAI是帮助安全人员改善安全成果的最新工具；另一方面，他又对如何安全使用GenAI服务提出了经典的“三连问”，并通过自答的方式，细致阐述了亚马逊云科技在打造GenAI服务时如何保证服务的安全性。

  和其他行业一样，在安全领域，LLMs和GenAI能够在一定程度上帮助安全人员改善、提效安全工作，Steve Schmidt表示，GenAI就是亚马逊团队用来帮助客户更有效地工作、同时提高安全标准的又一种工具。

  新功能一：Amazon Inspector的新功能使用机器学习模型和自动推理来帮助用户识别代码漏洞，并提供修复漏洞的代码补丁的指导。研发人员验证了Amazon Inspector所提议的代码功能符合标准要求之后，就可以合并代码，快速有效地解决安全问题。

  Steve Schmidt向TechWeb强调，GenAI驱动的Amazon Inspector能做的不止是指出不正确的代码，并且还会直接给出开发者所需要的正确代码。这是一个很强大的能力，能加速开发者的速度，也能训练他们如何编写安全的代码。

  新功能二：Amazon Detective的新功能是一项调查潜在安全问题的服务能力，可帮助客户分析、调查并快速确定安全发现或可疑活动的根本原因。

  Amazon Detective使用GenAI来创建关于安全威胁或入侵的技术指标的文本描述，人类工程师的角色则是确认机器的分析是不是正确，这样做才能够帮助安全工程师提高工作效率，让他们更高效，且更享受他们的工作。在以前，这项工作需要具备特定专业相关知识的安全工程师才能完成，他们要手动转写报告并详细说明发生了哪些事情。

  Steve Schmidt强调，“亚马逊的所有代码在进入生产阶段之前都要经过审查，多年来咱们进行的大量代码审查和庞大的代码库规模使我们也可以有效地训练和精细调整这个模型服务，最近亚马逊开始使用定制的大型语言模型来加速代码审查。”

  随着人工智能的每一次创新，都一定会出现新的挑战和机遇。对于安全团队来说，帮企业理解这些创新飞跃带来的利益和风险是很重要的。

  “当业务部门确定AI将帮他们实现特定目标时，有三个重要问题有助于塑造安全需求与业务工作流的一致性。我建议你们在自己的环境中考虑这三个问题。”Steve Schmidt表示。

  Steve Schmidt将这样的一个问题进一步进行了拆解：如果你正在用你的公司数据训练大型语言模型，模型是如何访问那些数据的？在训练过程中，你能否保持数据在传输和静止时的加密，以及你如何验证这一点正在发生？用于访问该数据的权限是否已被限制为尽可能最少？

  你和你的团队还需要探索你们正在使用的模型的隔离级别。如果你为了获得更相关的结果而向模型提供公司数据，其他人能否看到你数据的片段？

  “查询本身也可能是敏感的，应该是你的数据保护计划的一部分。”Steve Schmidt强调。

  当用户开始向GenAI大型语言模型提问时，他们发出的查询中往往会添加更多细节和具体实际的要求，这会带来更好的结果。但是，如果你的员工查询了AI聊天机器人，那么这次查询的输出和员工对结果的反应，是否也会被用于训练模型？

  Steve Schmidt指出，大型语言模型生成“非确定性”的输出，这是该技术的一个重要特征。

  大模型可以识别大量不同的问题，其中一些问题可能是工程师没注意到的；大模型也可能没办法识别每个可能的安全问题，因此不能成为唯一识别问题的方式。要理解GenAI的局限性。

  “如果有人告诉你他们的GenAI能力可以完全替代你的安全工程师，请保持怀疑。” Steve Schmidt说道，安全团队不能将所有决策权交给AI，更合适的方法是，用大模型帮助有才华的工程师更有效率、更有效地工作。

  “这三个问题：‘我们的数据在哪里？’、‘我的查询及有关数据会发生啥？’、‘这些模型的输出是否足够准确？’指导了我们的安全团队如何思考GenAI和大语言模型服务，以及亚马逊内部业务人员使用这一些工具的方式。”Steve Schmidt总结道：“任何一家公司在使用GenAI服务时都要搞清楚这3个问题。在我们看来，客户应该控制自己的数据并能够以安全可靠的方式使用个人选择的模型。这也是Amazon Bedrock为客户提供私有定制基础模型的原因。”

  据介绍，亚马逊云科技提供的Amazon Bedrock有两个组成部分，底层基础模型，它是在大量数据上训练的，但它不一定适合于所在企业的工作方式。所以通过定制化能力，让企业客户用自己的训练数据来微调模型，这个训练内容是企业自己的，不会被放回基础模型中，也不会与第三方模型开发者共享。

  每日头条、业界资讯、热点资讯、八卦爆料，全天跟踪微博播报。各种爆料、内幕、花边、资讯一网打尽。百万互联网粉丝互动参与，TechWeb官方微博期待您的关注。