安平县/国家安全部官方微信账户 高中老师小李在使用人工智能备课后，能够在五分钟内制作出生动有趣的教案，包括照片、视频和互动问答。 “以前我要花两个小时备课，但现在我可以通过关注学生的个人情况来节省时间，还可以定制独特的一对一练习。”独居老人陈爷爷通过孩子送给他的智能音箱找到了新的娱乐方式。 “小智不仅陪我听戏、聊天，当我忘记吃药时，他还会主动提醒我。事实上，我孙子们的生日他都记得。”小王今年29岁，原本是一名文案。由于擅长与AI“对话”，他成功转型为一名工程师、语速很快的保姆。 “关键是要确保说明足够清楚。”从智能客服到AI绘图员，大模特正在创造前所未有的新就业机会。如今，大规模的人工智能模型正在加速为数千个行业提供动力，推动人们生活的快速变化。他们作为有能力和支持性的“数字合作伙伴”正在加速融入我们的日常生活。然而，技术的进步总是带来新的挑战。随着人工智能变得更加广泛和集成，它也暴露了数据隐私和算法偏差等潜在风险。我们迫切需要构筑安全防线，推动这场深刻的智能化变革，保障更加美好的未来。快速发展背后的“暗礁”是数据隐私与安全之间的模糊界限。一些部门直接使用开源框架构建大规模网络模型，让攻击者在未经授权的情况下无限制地访问内部网络，导致数据泄露和安全风险。据爆料，该单位一名员工非法使用开源人工i处理内部文档时的情报工具。计算机系统默认为公共网络，启用访问且未设置密码，允许国外IP非法访问和下载敏感数据。 ——滥用技术和制造虚假信息。这项技术被称为 Deepfakes，利用 AI 深度学习算法进行自动数据处理，实现对图像、音频和视频的智能模拟和伪造。如果这项技术被不当或恶意使用，就会给人们的合法权益、社会稳定乃至国家安全带来诸多风险和挑战。国家安全局调查发现，境外某些反华敌对势力利用先进的“深度造假”技术，制作虚假视频并在境内传播，企图误导舆论、制造恐慌，威胁我国国家安全。 ——算法偏差与决策的“黑匣子”。艾德决策是根据学到的数据做出的。如果训练数据本身存在社会偏见或低估等问题，大型模型可能会放大歧视。测试表明，一些人工智能系统地偏向西方观点。当研究人员用中文和英文向人工智能询问相同的历史问题时，他们发现英文的回答故意忽略或淡化某些历史事实，或者提供包含不正确历史信息的内容，造成重大误解，而中文的回答则相对客观。安全码为“数字合作伙伴”给出了三项规则。规则一：明确你的“活动范围”。实现“最小权限”，网络AI不会处理敏感数据，语音AI不会收集周围音频，智能助手不会存储支付密码，“数据共享”和“云空间”将被禁用等等不必要的访问权限。 ——原则二：检查你的“指纹”。 G养成定期清理AI聊天记录、修改AI工具密码、更新杀毒软件、检查账户登录设备的习惯。同时，避免下载和使用来源不明的大型模型程序，并谨慎对待信用卡、银行帐户或其他敏感信息的请求。 ——规则三：优化“人机协作”。在向AI提问时，提示语言明确禁止AI过多猜测，要求AI展示其来源或思维过程，对重要信息进行跨平台验证，并合理识别AI产生的结果。尤其是在涉及政治、历史、意识形态等话题时，我们必须有独立思考的意识，辩证地看待人工智能的反应，避免陷入“人工智能的一厢情愿”。国家安全局提醒我们，安全是发展的前提，发展是安全的保障。只有了解技术并安全使用，大型AI模型这一新兴技术才能成为推动社会进步的正能量。用户应具有安全意识，并仔细批准大型模型的软件权限。如果发现大型人工智能模型窃取个人信息、向境外传输敏感数据或者存在其他威胁网络安全的问题，可以通过国家安全局举报热线12339、在线举报平台（www.12339.gov.cn）、国家安全部微信公众号举报渠道，或者直接向当地国家安全局举报。本期主编：周玉华
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。
注：以上内容（包括图片和视频，如有）已被由网易号用户上传并发布，网易号是一个仅提供信息存储服务的社交媒体平台。
