作家：张侠 博士 亚马逊云科技 首席企业政策参谋人色片网址
Hongkongdoll leaks曩昔两年，以生成式 AI 为代表的东说念主工智能迅猛发展，正在颠覆和改造九行八业，成为企业竞争和发展的政策制高点。生成式 AI 在为企业带来技艺革命和业务发展的千般契机的同期，也为企业带来信息安全、企业合规、转型和发展的繁多挑战和雄壮风险。企业高管需要纯属和了解生成式 AI 所带来的安全问题，并开动入辖下手安排部署开展与负株连的 AI 干系的做事。在此咱们针对干系话题为全球作念先容共享，供您参考。
1. 东说念主工智能带来的风险和挑战
生成式东说念主工智能带来的技艺高出必须尊重法治、东说念主权和东说念主性庄严，符合咱们包容、阴私和平正的社会价值不雅。东说念主们但愿生成式 AI 具有可用性、安全性、可靠性、透明性、可解释、简直赖、合德合规正当。在传统的信息安全、网络安全和信息治理的基础之上，生成式 AI 的遒劲革命性和变革性，带来了独有的需要讨论和应付的问题。
生成式 AI 带来的风险挑战跨越各个范围，从技艺、交易、说念德、法律到社会，主要触及到以下方面：（1）复杂模子枯竭透明性和可解释性；（2）产生子虚信息和子虚信息；（3）模子变成偏见，有损平正；（4）公司秘要和个东说念主阴私线路；（5）生成式 AI 新技艺的糜费；（6）常识产权包摄与本色剽窃；（7）高风险决策和株连包摄；（8）做事岗亭流成仇经济影响；（9）法规缺失，监管、说念德和社会问题；（10）算力耗能对环境的冲击；（11）东说念主工智能的过度依赖；（12）违抗东说念主权、挟制东说念主类生涯；（13）被坏心使用——数据毒化、模子操控、敌意挫折，等等。
2. 东说念主工智能应用风险评估
企业采纳东说念主工智能应用的风险涵盖平庸千般的风险，包括政策、财务、运营和法律风险等。东说念主工智能系统风险侧重于与东说念主工智能应用系统的引申和操作干系的影响，而机器学习模子风险触及机器学习模子固有的罅隙和不细目性。企业东说念主工智能系统可能基于多个不同的机器学习模子全部做事，以致株连到多个不同的东说念主工智能系统。企业要抽象讨论东说念主工智能模子的特定应用的细节以及行为完满东说念主工智能系吞并部分的相应用例，针对每个用例和不同级别评估各类风险，即模子风险、东说念主工智能系统风险和企业风险，以细目相应的应付风险的策略。
东说念主工智能的风险经管不错最大截止地减少不细目性或潜在负面影响，同期最大化积极正面的孝顺。左证 NIST 风险经管框架，风险不错被揣摸为事件发生概率与相应事件成果严重进度的乘积。风险评估是一项以东说念主为本的步履，需要统共这个词组织的奋勉。 这包括确保统共干系利益干系者都参与评估历程（举例家具、工程、科学、销售和安全团队），模样用户若何与东说念主工智能系统交互以杀青特定有缱绻的特定场景或情况，识别与用例干系的潜在无益事件，以及评估社会不雅点和表率若何影响某些事件的感知可能性和成果。
3. 东说念主工智能安全经管
东说念主工智能安全经管是一个快速发展的新范围，需要政策制定者、开发运维东说念主员和其他利益干系者积极共同奋勉，以谨防各类新出现的风险。确保东说念主工智能系统的安全性和执意性关于充分发扬东说念主工智能的后劲，同期镌汰误用和伤害的风险至关垂危。东说念主工智能安全的考量需要柔软下述五大主要方面：
合规和治理：为业务提供的扶直同期，最大截止镌汰风险所需的政策、法度和流露。法律和阴私： 使用或创建生成式 AI 处分决策的具体监管、法律和阴私条目。安全戒指：引申用于镌汰风险的安全戒指。风险管控：识别生成式 AI 处分决策的潜在挟制和建议的缓解纪律。弹性韧性：若何构建生成式 AI 处分决策以保持可用性并本旨业务 SLA。
升迁东说念主工智能安全经管不错通过下述花样来杀青和加强：
叛逆性检会和罅隙测试：使用千般化且具有代表性的数据集，并将模子置于模拟挫折场景中，以确保模子执意性，镌汰挫折的风险。模子应该经过严格的罅隙测试，包括对数据投毒的测试。透明性和可解释性：争取东说念主工智能系统透明且可解释，这有助于识别劣势和罅隙，并增强东说念主工智能决策的株连感。数据安全防护：引申遒劲的数据治理框架来小气数据主权、安全和阴私。驻扎未经授权探望敏锐数据，采纳匿名数据集和对敏锐信息引申加密。东说念主员全程参与：在高风险应用中，看守对东说念主工智能决策的东说念主类监督关于减少子虚或意生人为至关垂危，相等是针对医疗保健、自主兵器等要害范围。如期审计和监控：对部署后的东说念主工智能系统进行无间监控，关于谨防和减弱新出现的安全挟制至关垂危。如期审核有助于在问题导致疼痛性成果之前实时发现处分问题。说念德和法律框架：依据政府和海外组织为东说念主工智能安全制定的法规，企业要制定明确的指示目的，确保业务和开发东说念主员对东说念主工智能系统的安全部署追究。
4. 负株连的东说念主工智能（Responsible AI）
负株连的东说念主工智能是指以说念德、透明、追究且符合社会价值不雅的样式开发、部署和使用东说念主工智能的试验。它是为了确保东说念主工智能技艺的想象和使用优先讨论平正、阴私、安全以及个东说念主和社区的福祉，同期减弱愤懑、伤害和糜费等风险。负株连的东说念主工智能涵盖了平庸的原则、指南和最好试验，旨在确保东说念主工智能造福统共东说念主，同期最大截止地减少潜在的负面影响。底下为全球先容界说负株连的东说念主工智能的一些中枢原则和讨论身分。
负株连的东说念主工智能的治理的一些要素包括：（1）建树明确的任务和权责；（2）公平和包容性的想象；（3）确保透明度和可解释性；（4）优先讨论数据阴私和安全；（5）细目正确的监督级别；（6）促进对生成东说念主工智能伦理的吞并。
负株连的东说念主工智能的最好试验是企业东说念主工智能神志尽早地全方向和安全合规团队全方向的精良合营，让他们参与神志的统共这个词历程，而不是只行为后期的评审员。在这个历程中要深爱对安全团队 AI 的培训，欺诈透明性和可解释性来加强对 AI的吞并和掌执。生成式 AI 的安全最好试验还包括：把东说念主长久放在首位，东说念主要充分参与 AI 神志的每个要道； 左证具体用例逐一进行评估风险；监控统共这个词 AI 迭代生命周期；测试，测试，再测试。
5. 亚马逊云科技的最好试验
亚马逊长久把安全干系的做事放在统共做事的首位，是排位最优先的做事（Job Zero）。正如亚马逊云科技 Responsible AI 主页中所说，“生成式东说念主工智能的快速发展带来了充满但愿的新革命，同期也建议了新的挑战。在亚马逊云科技，咱们死力于于负株连地开发东说念主工智能，采纳以东说念主为本的花样，优先讨论解释、科学和咱们的客户，在统共这个词端到端东说念主工智能生命周期中整合负株连的东说念主工智能。“
亚马逊还建议了负株连的东说念主工智能的八大复旧：
平正性：讨论输出对不同群体中利益干系者的影响。可解释性：吞并并评估系统输出。阴私保护：顺应地赢得使用 AI 应用和保护数据和模子。安全性：驻扎无益系统的输出和糜费。可控性：用机制监控和教养东说念主工智能系统步履。准确性和老成性：即使特不测或叛逆性输入，也确保杀青正确的系统输出。AI 治理：将统共这个词 AI 供应链，包括提供者和部署者，纳入最好试验统已经管。透明性：使利益干系者大概在与东说念主工智能系统的互动中作念出贤惠的经受。
亚马逊云科技为企业保举下述斥地负株连的东说念主工智能的法子花样：
赢得企业高管的扶直；组建多元化跨学科的团队；优先引申解释培训，将负株连的 AI 融入企业文化；将 AI 智力与东说念主类监控相都集；强化模子的解释性和透明性；针对具体用例评估、管控和镌汰风险；柔软数据阴私和尊重常识产权；部署引申安全护栏；测试，测试，再测试；全生命周期长久保持警悟。
亚马逊云科技的全托管服务 Amazon Bedrock 整合了多种东说念主工智能安全和负株连的东说念主工智能的功能，以确保模子的使用安全、合适说念德且符合最好试验。该服务包括遒劲的安全纪律，举例数据加密、探望戒指和身份经管，以保护敏锐信息并驻扎未经授权的探望。此外，Amazon Bedrock 通过提供内置机制来扶直负株连的东说念主工智能，匡助开发东说念主员处分东说念主工智能模子中的偏见、确保平正性并保持透明度。它允许进行模子监控和审计，以确保问责制和投降说念德准则。亚马逊还强调投降监管圭臬，匡助用户将其东说念主工智能部署与法律和说念德框架保持一致，促进东说念主工智能应用中负株连的革命。
Amazon Bedrock Guardrails 可匡助您引申针对您的生成式 AI 应用法度量身定制的保护纪律，并与您负株连的东说念主工智能的政策保持一致。Guardrails 在基础模子保护之上提供了极度的可定制的保护纪律，通过以下样式提供业界最好的安全保护：阻挠多达 85% 的无益本色；针对 RAG 和汇总做事负载过滤迥殊 75% 的幻觉反馈；使客户大概在单一处分决策中定制和应用安全、阴私和真实性保护。
智能之旅是咱们这一代企业狡计者和职工的的责任，而东说念主工智能的安全经管和杀青负株连的东说念主工智能，是通往智能说念路行动的安全护栏。通过将负株连的东说念主工智能试验镶嵌东说念主工智能政策中，企业不错灵验鼓励革命与转型，同期镌汰管控风险色片网址，培养客户信任，确保东说念主工智能系统产生积极的社会影响。企业不应该以东说念主工智能安全和负株连的东说念主工智能为借口拖延行动，要是您的企业还莫得引申负株连的东说念主工智能经管，目下即是时分开动入辖下手构建经管机制，为企业的智能之旅添砖加瓦。
