火星网校
美国AI企业将在推出大模型前接受安全评估，OpenAI、Anthropic积极支持
发布时间：2024-10-02 13:48:09 浏览量：135次
美国AI企业将在推出大模型前接受安全评估，OpenAI、Anthropic积极支持
尽管AI技术为人类带来了诸多卓越的应用体验，且能够显著提升生产与工作效率，然而，其存在的数据隐私泄露、数据安全与合规性问题、技术滥用以及失控风险等，致使全球各国对AI技术秉持审慎的发展态度。
8月30日消息，人工智能企业OpenAI和Anthropic已经同意在推出新模型前交给美国政府评估安全，以确保这些模型的安全性和减少潜在的社会风险。
目前，这两家人工智能领军企业已经与美国政府下属的AI安全研究所签署了谅解备忘录，承诺在发布重大新的人工智能模型之前，先让美国政府进行评估，包括模型的能力、可能带来的风险以及减轻这些风险的策略。
2024年1月，美国商务部国家标准与技术研究院发布《人工智能风险管理框架》，旨在对人工智能系统全生命周期实行有效的风险管理。
2024年10月，美国第一次在政治对话中真正纳入人工智能的议程，并发布总统行政令《安全、可靠和值得信赖的人工智能开发和使用》，明确了美国政府治理人工智能的政策法律框架。值得一提的是，该行政令动用《国防生产法》的紧急权力，强制要求人工智能企业进行安全测试并与政府分享测试结果。
为进一步强化AI安全研究，美国商务部长吉娜·雷蒙多于2024年新月宣告成立美国人工智能安全研究联盟，该联盟将归属于美国人工智能安全研究所，并获得200多家领先的人工智能利益相关者的支持。该联盟的成立昭示着美国在AI安全研究领域的重大进展，汇聚了包括谷歌、英伟达、英特尔、苹果、IBM、摩根大通等知名企业。
2024年5月，美国参议院人工智能工作组发布《推动美国在AI领域的创新：参议院AI政策路线图》。
由此可见，过去一年多来，在生成式预训练人工智能及相关技术引发越来越多关注和担忧后，美国在人工智能（AI）安全研究方面采取了一系列措施，以确保AI技术的安全、可靠和可信地开发和使用。
对于AI大模型的安全评估，美国政府表示，这一举措将有助于他们共同评估安全风险并缓解潜在问题。
目前，OpenAI和Anthropic的高层均对合作表示支持，并强调了安全在AI发展中的重要性。
OpenAI首席战略官Jason Kwon表示：“我们非常支持美国AI安全研究所的使命，并期待一起合作，制定AI模型的安全最佳实践和标准。我们相信，该研究所在确保美国在负责任开发AI方面的领导地位上扮演着关键角色。我们期望通过与研究所的合作，能为全球提供一个可以借鉴的框架。”
Anthropic公司也表示，建立有效测试AI模型的能力非常重要。该公司的联合创始人兼政策负责人Jack Clark认为：“确保AI安全可靠对于让这项技术带来积极影响是至关重要的。通过这样的测试和合作，可以更好地发现和减少AI带来的风险，推动负责任的AI发展。我们为能够参与这项重要工作感到自豪，并希望为AI的安全性和可信度设立新的标准。”
想了解更多关于数字艺术教育领域的信息？欢迎点击咨询：点击咨询
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
3. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
4. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
6. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
8. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
-
AI技术的快速发展为各行各业带来了许多创新应用,其中之一就是AI小说生成视频。这种技术利用人工智能算法和语言模型,将文本转化为视频剧情,加上配图、...
最新文章
