|
IT之家 10 月 12 日消息，布朗大学的计算机科学研究人员发现了 Open AI 的 GPT-4 安全设置中的新漏洞。他们利用一些不太常见的语言，如祖鲁语和盖尔语，即可绕过 GPT-4 的限制。研究人员使用这些语言来写通常受限的提示词，发现得到回答的成功率为 79%，而仅使用英语的成功率不到 1%。
这一测试结果表明，Chat GPT 在非常用语言限制功能上存在安全漏洞，这可能会给犯罪分子可乘之机。人工智能存在哪些潜在的安全隐患？我们应该如何防范？小安带您来看。
人工智能潜在的隐患
人工智能在促进社会发展进步的同时，也伴随着一些风险隐患。以 Chat GPT 为代表的 AI 应用，若被不当使用或滥用很有可能影响到国和政治安全、社会稳定、企业利益和个人用户权益等诸多方面。
01 国家政治军事风险
民族或政治偏见带来的严重不公平问题 Chat GPT 等 AI 应用可能对不同的政治信仰、国家、种族、团体、人群、个体进行有失公平的区别对待，在具有复杂历史背景的问题上与美国官方立场保持一致。
基于用户画像进行情报收集和影响政治主张 一方面，AI 平台通过收集个人信息进行画像，获取到国家或军队涉敏人员，再通过诱导或黑客技术等方式获取其设备上的涉密信息或情报。另一方面，还可基于用户画像进行深度引导并传播政治主张，影响用户对党和国家政策的认知。
辅助军事决策并应用于军事打击 未来装备 AI 应用的真人或机器人能够更加实时地响应战场上分队或单兵的交互信息，提供最新的战场态势和战术建议，从而极大提升战斗能力。
02 不良信息传播风险
AI 内容过滤机制不完善造成不良信息传输 AI 应用虽然对交互内容做了过滤策略，但由于多媒体内容识别技术不足、监控策略不完善、无法对生成内容进行“前置审核”等原因而使得过滤机制被绕过，从而造成交互或传播内容中存在涉及政治、诈骗、身份伪造、涉黄等不良信息。
AI 产生不良信息内容易误导或诱导用户 恶意行为者可以使用语言模型来生成大量旨在影响公众舆论或传播错误信息的垃圾邮件或虚假信息从而恶意影响用户认知。
03 网络攻击利用风险
AI 助黑客提高网络攻击的技术知识与能力 网络安全从人人对抗、人机对抗逐渐向基于 AI 的攻防对抗发展演化。随着新一代 AI 技术的诞生与发展，攻击方将利用 AI 更快、更准地发现漏洞，发起更隐秘的攻击。
利用 AI 编程能力生成网络攻击工具 Chat GPT 自动生成代码的能力也给黑客打开了新世界的大门，让他们能够更为便捷地设计、编写和执行恶意代码与指令。有网络安全组织已通过测试发现 Chat GPT 生成的代码可有效利用系统漏洞进行网络攻击。
基于社会工程学知识生成网络钓鱼信息 攻击者可以使用来自社交媒体或其他来源的大量文本数据，通过 Chat GPT 等 AI 工具训练社工模型，使其生成极具说服力的网络钓鱼电子邮件或消息来诱骗受害者泄露敏感信息。
相关建议
01 行业：倡导 AI 技术合规使用和加强行业自律
第一，建立行业监管制度并开展合规性评估审查。建立健全 AI 服务行业监督管理相关制度与标准。包括算法分级分类管理、算法推荐服务安全管理、AI 滥用举报等，并开展 AI 应用安全合规性评估审查与处置，实现行业监管闭环。
第二，创新研究应用人工智能赋能网络安全技术。一方面，利用 AI 技术赋能针对复杂网络攻击的防御能力，使用 AI 技术应对其带来的网络安全风险；另一方面，研究利用 AI 技术提升企业组织在网络安全攻击检测、数据资产识别与风险监测、业务安全风控、不良信息识别、电信反诈、安全威胁分析、深度伪造识别等方面的能力。
第三，做好元宇宙等 AI 融合场景的安全风险梳理与防护技术储备。对于元宇宙和 AI 融合关键场景，要抓紧开展安全技术研究储备，提早防范大规模人工智能安全事件发生。
02 企业：加强 AI 安全防护体系建设
企业应当制定出台企业组织 AI 安全总体策略，编制企业标准规范与技术指南。此外，配备 AI 安全领域专业人员，支撑 AI 安全新技术新业务安全风险评估与创新技术研究。
对员工在日常工作或对外服务中使用 Chat GPT 等 AI 应用行为进行规范，防范企业组织及客户数据泄露等风险。此外，强化安全技术手段建设，建设涵盖网络安全、算法安全、数据安全与隐私保护等功能的 AI 安全管控能力，为企业组织的 AI 能力与应用提供安全防护，保障 AI 业务健康发展。
03 公众：强化防范意识，保障自身权益
公众要谨慎提交个人信息及企业数据，防范 AI 应用个人隐私窃取、有害言论误导诱导等风险。防范利用 Chat GPT 热点或仿冒知名 AI 应用收集敏感信息实施诈骗等行为。
tips：[color=rgba(0, 0, 0, 0.9)]人工智能在为人类认识世界、改造世界增添新工具新手段新方法的同时，也给人类社会的经济、隐私、伦理及安全带来了风险。
[color=rgba(0, 0, 0, 0.9)]对于人工智能的潜在安全问题，行业应该建立监管制度并开展合规性评估审查；企业在管理和研发时要注意加强 AI 安全防护体系建设，保障 AI 业务健康安全运行；作为公众，要提升防范意识，谨慎提交个人信息和企业数据，警惕利用AI进行的网络诈骗。
| 
私信
