一方面，天生式AI具有巨大的潜力和代价，可以改变生活、事情和教诲等多方面，诸多企业都在积极利用天生式AI为业务赋能，加速数智转型的进程。但另一方面，天生式AI也可能引发数据隐私和安全问题，或是被用于网络攻击。
当然，技能本身是中立的，它的利用和影响取决于利用它的人。对付更多企业来说，既要应对天生式AI带来的安全威胁，也要精确合理地确保天生式AI安全落地，保障天生式AI系统的安全。
近日，亚马逊首席安全官Steve Schmidt接管了《华尔街日报》的访谈，对天生式AI时期下的企业安全热点议题揭橥了不雅观点，并提出了可行建议。Steve还从亚马逊安全团队的自身实践切入，展示了当下企业安全面临的寻衅变革以及应对方法，包括从代码初始阶段提升安全效率、数据安全策略制订和推进的做法及建议，以及安全团队利用AI对抗黑客和人才短缺等领域所做的努力。
利用开箱即用的天生式AI运用，从代码阶段推动安全行业升级
作为云打算领域的引领者，亚马逊和亚马逊云科技很早就开始拥抱天生式AI技能，并且在去年上半年推出了全托管式天生式AI做事Amazon Bedrock、用于代码天生的智能做事Amazon CodeWhisperer以及专为企业业务量身定制的天生式人工智能事情助手AmazonQ。
Steve Schmidt表示，利用天生式AI提升安全代码的编写事情能够有效推动全体行业进入更高等别的安全领域。
详细到安全层面，在最初的阶段编写更加安全的代码是天生式AI带来的重大影响，对任何企业都是如此，从安全和本钱的角度考虑，一开始就编写安全的代码比在编写完成后、已经进行了集成测试乃至交付给客户后再去修正咬好得多。事实上，代码的编写办法是信息安全中最大的杠杆成分之一，开始阶段的眇小问题可能导致严重的安全后果，而天生式AI在这方面可以发挥很多浸染。
拿Amazon CodeWhisperer来说，作为具备内置安全功能的AI编码助手，它可以帮助开拓者基于注释天生代码，追踪开源参考，扫描查找漏洞，同时其定制功能许可客户安全地将Amazon CodeWhisperer连接到内部代码存储，以创建多种定制，这为Amazon CodeWhisperer供应了天生符合企业利用内部库或API、最佳实践和架构模式的代码所需的高下文。客户可以细致掌握哪些开拓者可以访问这些定制，并且每个定制都与Amazon CodeWhisperer根本模型隔离。
利用天生式AI时的寻衅及建议
在谈到企业在利用天生式AI要把稳的安全问题时，Steve Schmidt认为以下三个问题要优先考虑。
首先是数据来源，企业须要知道用数据演习模型的全体事情流程中，数据的来源是哪里，以及数据是如何被处理和保护的。
其次是对查询数据的保护。由于演习数据并不是企业须要关注的唯一敏感数据集，当企业和用户开始利用天生式AI和大模型后，会很快节制如何让查询更有效，并在查询中添加更多细节和详细哀求以得到更好的结果。但查询这个过程也可能涉及到敏感信息，企业须要清楚这些数据如何被天生式AI做事处理以及查询结果是如何产生的。
末了则是AI模型输出的准确性。从安全角度来看，天生式AI的利用场景定义了风险，由于不同的场景对输出的准确性各有不同，企业须要担保输出的结果是准确且符合最佳实践的。
结合亚马逊内部的实践履历，Steve Schmidt也给出了企业利用天生式AI进行创新时的三条建议。
第一，辅导员工安全地利用AI。安全团队说“不”很随意马虎，但绝非精确的做法，企业在利用天生式AI时最好的做法是教诲、奉告、辅导、设置防护栏，并利用能够知足预设目标的云做事，同时还须要精确理解这些做事如何利用和保留数据。
第二，提高数据的可见性。企业须要通过可见性工具理解员工如何利用数据，同时须要限定在事情需求之外的数据访问。一旦监控到员工在非事情需求之外对敏感数据进行访问，可以及时加以制止。在其他情形下，如果员工利用的数据不太敏感，但违反了政策，企业也可以主动联系员工理解其目的并寻求办理之道。
第三，通过机制办理问题。机制作为可重复利用的工具，是许可企业随着韶光流逝准确驱动特定行为的，例如在员工涌现违规操作时，系统可以通过弹窗等办法来提示员工，并建议利用特定的内部工具，同时可以根据干系问题进行报告。
利用天生式AI对抗网络威胁
在网络安全领域，天生式AI会被黑客用滥用在网络攻击领域，也会被安全事情职员当做绝佳的防御工具。例如在2023年3月，微软推出了Security Copilot工具，这是一个可以强化安全防护能力的工具，该工具可以通过自动化任务，搜集来自多个来源的安全数据和警报，从而快速检测和相应威胁，以帮助安全团队提升事情效率。
事实上，通过天生式AI模型构建自动相应流程可以对预定的韶光进行快速相应和输出，尤其是在人工交互领域，大模型可以让不懂技能的管理职员在安全事宜发生时快速理解事宜原貌。拿亚马逊来说，Amazon Detective有一个基于天生式AI的流程来构建安全事宜的笔墨描述，这意味着安全工程师可以拿到准备好的内容，对其进行调度，确保准确，用于阐明正在发生的事宜，从而节省数小时的韶光。
借助天生式AI环节网络安全人才短缺
天生式AI技能的一大用场便是把繁重的事情从工程人才身上移走，以让他们专注于那些真正须要专业知识或者人类判断力的事情。Steve Schmidt认为，借助天生式AI提升安全工程师的效率可以有效缓解安全人才短缺。例如利用人工智能和机器学习技能更快更有效地识别和解决问题。近期天生式AI在检测客户账户非常行为方面发挥了很大浸染，可以更加准确地隔离和提醒个别用户的高度可疑行为。通过引入天生式AI，企业的安全团队可以将精力集中在计策业务操持和更高代价的任务上，而不仅仅是创造和相应事宜。
随着天生式AI时期的到来，人工智能将和企业安全相互影响。考虑到天生式AI的强大能力，企业须要通过强有力的安全方法来持续监视、定期更新和修补来应对风险，让天生式AI为企业产出更多代价。Steve Schmidt的建议，无疑很好反响了亚马逊云科技在构建天生式AI创新安全体系方面的丰富履历和积极探索。
(8666838)
