火星网校
“AI应该要像航空和核能一样，拥有严格的安全规范”
发布时间：2023-12-01 06:09:39 浏览量：195次
【文/观察者网 陈思佳】ChatGPT在全球掀起了人工智能热潮，让生成式人工智能的概念进入公众视野。但AI技术的高速发展也让人们产生了新的担忧，AI会不会被用来作恶？AI会不会对社会运行产生负面影响，甚至威胁人类的安全？
7月7日，在第六届世界人工智能大会（WAIC）的“人工智能风险与安全”论坛上，多名海外专家通过视频方式，讨论了对AI技术应用前景和潜在安全风险的看法。他们普遍认为，当前的AI技术还存在很多信息安全方面的漏洞，未来应用前景也具有不确定性，研究人员和监管机构应当引起重视，尽早制定安全措施。
美国非营利研究机构“人工智能安全中心”董事丹·亨德里克斯（Dan Hendrycks）认为，与人类相比，AI系统具有更强的适应性，强大的能力可能导致AI系统在很多领域取代人类的工作，甚至直接参与到决策过程中来。
他警告说，企业AI竞争可能导致安全措施遭到削减，导致公司在安全方面“走捷径”，“一个无限制的市场可能导致AI接管所有决策”。另一个令人担忧的问题则是，人类可能过度依赖AI系统的决策，“我们可能失去控制的机会，越来越无法看到甚至理解AI的行为……这可能带来更大的风险。”
亨德里克斯认为，AI开发者需要保持谨慎和安全意识，不能尝试淡化规模化的社会风险，为应对意外事件做好准备。有关机构和组织应该要考虑如何开展更加安全的AI系统研发，安全人员需要明确制定使AI系统更加安全的措施。
美国加州大学伯克利分校计算机科学教授斯图尔特·罗素（Stuart Russell）谈到了如何防止AI“反客为主”的问题。在他看来，AI需要构建成以人类利益为核心动机结构的形式，“事实上，我们感兴趣的不是具有智能的机器，而是对我们有益的机器。”
他注意到，AI的“黑箱”模型并不透明，人们并不理解其内部运作方式。他举例说，在今年早些时候曾出现过“令人毛骨悚然的微软Bing聊天机器人敦促科技专栏作家离婚”的新闻，“至少表明上来看，AI可能主动追求某种目标。”
因此罗素认为，人们应该利用“可以理解的组件”构建AI系统，并确保不会部署和运行不安全的AI系统。“人工智能对社会的潜力是巨大的，为进一步发展创造了不可阻挡的动力。但如果我们继续按照我们过去的方向发展，我认为我们可能会失去控制……AI要像航空和核能一样，拥有严格且不可绕过的安全标准，并且需要通过国际合作确保安全标准得到遵守。”
加州大学伯克利分校计算机科学教授宋晓东（Dawn Song）则重点讨论了信息安全问题，她指出，高速发展的AI技术加剧了敏感信息泄露和恶意内容传播的风险。
宋晓东表示，在与谷歌研究人员的早期研究中，他们发现攻击者可以通过简单查询的方式，从GPT-2等模型中提取训练数据中的个人身份信息。尽管GPT-3.5、GPT-4等模型加强了对个人身份等信息的保护，但攻击者依然能通过特定的提示“欺骗”AI，从而获取敏感信息。
另一个潜在风险是，攻击者可能滥用AI技术以生成恶意内容，“而且，通过人工智能辅助生成的内容数量可能超过人类生成内容的数量，我们将很难区分AI生成内容和人类生成的内容，尤其是生成式AI技术还在不断改进。”
她强调，人们迫切需要建立防御机制应对恶意操纵生成的内容，并构建大语言模型可信度的评估体系。
针对高速发展的AI技术，包括中国、美国和欧洲在内的诸多国家已开始推动AI立法工作，探寻有助于AI技术发展和监管的路径。
欧洲议会在6月14日以499票赞成、28票反对和93票弃权的结果，通过《人工智能法案》草案，正式进入最终谈判阶段。草案将AI风险划分为不可接受的风险、高风险、有限风险和低风险四个级别，对风险较高的应用程序实施严格的监管。
草案还为AI使用场景划定禁区，严格禁止“对人类安全造成不可接受风险的AI系统”，包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。实时远程生物识别技术在最新投票中还被调整为“不可接受的风险”，禁止AI在该领域的应用。
美国消费者新闻与商业频道（CNBC）称，尽管草案正式成为法律还需要时间，但欧洲议会已经为立法扫清“主要障碍”，欧盟这项法案或将成为全球首批正式的AI法规之一。
美国政府则从今年4月起开始研究是否需要对ChatGPT等AI工具进行审查。作为潜在监管手段的第一步，美国商务部在4月11日就相关问责措施公开征求意见，包括新AI模型在发布前是否应该通过认证程序等问题。
美国国会参议院民主党领袖查克·舒默在6月提出“人工智能安全创新”框架，主张在鼓励创新的同时推进安全、问责制、基础和可解释性。他呼吁美国国会在该框架下加快对AI立法的进展，希望能在“几个月内”制定联邦层面的AI法案。
中国的AI立法相关工作也已经提上日程。今年4月，中国国家互联网信息办公室发布了《生成式人工智能服务管理办法（征求意见稿）》，这是国内生成式人工智能（AI）领域的首份监管文件。
据澎湃新闻报道，7月6日，在世界人工智能大会科学前沿全体会议上，科技部战略规划司司长梁颖达表示，人工智能法草案已被列入国务院2023年立法工作计划，提请全国人大常委会审议。展望未来，梁颖达表示，我国将鼓励人工智能前沿研究和原始创新，鼓励人工智能技术开源发展，坚持科技向善的理念，发展负责任的人工智能。
本文系观察者网独家稿件，未经授权，不得转载。
热门课程推荐
热门资讯
-
想将照片变成漫画效果？这篇文章分享了4个方法，包括Photoshop、聪明灵犀、VanceAI Toongineer、醒图，简单操作就能实现，快来尝试一下吧！
-
2. AI视频制作神器Viggle：让静态人物动起来，创意无限！
Viggle AI是一款免费制作视频的AI工具，能让静态人物图片动起来，快来了解Viggle AI的功能和优势吧！
-
3. 华为手机神奇“AI修图”功能，一键消除衣服！原图变身大V领深V！
最近华为手机Pura70推出的“AI修图”功能引发热议，通过简单操作可以让照片中的人物换装。想了解更多这款神奇功能的使用方法吗？点击查看！
-
4. AI显卡绘画排行榜:4090无悬念，最具性价比出人意料
在AI绘图领域，Stable Diffusion的显卡绘图性能备受关注。本文整理了Stable Diffusion显卡的硬件要求和性能表现，以及2023年3月显卡AI绘图效率排行榜和性价比排行榜。欢迎查看最新的AI显卡算力排行榜。
-
近年来,人工智能逐渐走入公众视野,其中的AI图像生成技术尤为引人注目。只需在特定软件中输入关键词描述语以及上传参考图就能智能高效生成符合要求的...
-
就能快速生成一幅极具艺术效果的作品,让现实中不懂绘画的人也能参与其中创作!真的超赞哒~趣趣分享几款超厉害的AI绘画软件,提供详细操作!有需要的快来...
-
7. 零基础10分钟生成漫画，教大家如何用AI生成自己的漫画
接下来,我将亲自引导你,使用AI工具,创作一本既有趣又能带来盈利的漫画。我们将一起探索如何利用这个工具,发挥你的创意,制作出令人惊叹的漫画作品。让...
-
8. 10个建筑AI工具，从设计到施工全覆盖!肯定有你从来没听过的
讲述了建筑业比较著名的AI公司小库科技做出的探索,在这儿就不多说了。今天,我们试着在规划设计、建筑方案设计、住宅设计、管道设计、出渲染图、3D扫...
-
AI技术的快速发展为各行各业带来了许多创新应用,其中之一就是AI小说生成视频。这种技术利用人工智能算法和语言模型,将文本转化为视频剧情,加上配图、...
-
以下是一些免费的AI视频制作网站或工具,帮助您制作各种类型的视频。 1. Lumen5:Lumen5是一个基于AI的视频制作工具,可将文本转换为视频。 用户可以使...
最新文章
