误导公共舆论、窃取关键信息 别让AI助手成威胁国家安全的“隐形武器”

1个月前 来源:央视新闻客户端 观看:14

记者从国家安全部了解到,数字化时代,人工智能(AI)正逐渐渗透到千行百业和日常生活中,推动经济社会高质量发展。值得注意的是,AI工具若被不法分子利用,会对我国关键数据、基础设施、社会秩序造成损害,成为威胁国家安全的“隐形武器”。JCg即热新闻——关注每天科技社会生活新变化gihot.com

虚假信息的“投毒者”JCg即热新闻——关注每天科技社会生活新变化gihot.com

AI技术中的“深度伪造(Deepfake)”能力是“深度学习”与“伪造”的结合,人工智能的深度学习算法能够进行自动化的数据处理,从而实现图片、音频和视频的智能模拟和伪造。该技术用于影视、游戏、广告等行业,可创作出更多逼真、有趣的虚拟角色和场景,翻新娱乐体验。然而,一旦被滥用或恶意使用,将给个人合法权益、社会稳定和国家安全带来诸多安全风险和挑战。国家安全机关工作发现,某境外反华敌对势力通过深度伪造技术生成虚假视频,企图向境内传播,误导舆论、制造恐慌,对我国家安全构成威胁。JCg即热新闻——关注每天科技社会生活新变化gihot.com

关键信息的“窃密者”JCg即热新闻——关注每天科技社会生活新变化gihot.com

从简单的文字生成,到复杂的多模态创作,生成式AI的强大学习能力令人瞩目。AI的学习和决策过程依赖于大量的数据,决定了AI工具可能收集并存储用户输入的信息。据公开报道,因开源库发生故障,某境外AI模型的部分用户可以看到其他活跃用户聊天记录中的标题甚至是名字、支付地址等隐私信息,造成个人信息泄露。如果不注意防范,相关人员信息数据可能成为境外间谍情报机关实施拉拢策反、渗透破坏活动的指引,造成国家安全风险隐患。JCg即热新闻——关注每天科技社会生活新变化gihot.com

JCg即热新闻——关注每天科技社会生活新变化gihot.com

意识形态的“挑拨者”JCg即热新闻——关注每天科技社会生活新变化gihot.com

AI算法注重知识的重组、创造和输出,如果人为对其进行有偏见性的数据导入和算法重构,可能会演变为偏见性意识形态输出,成为境外反华敌对势力煽风点火的重要武器。特别是在社会热点事件的前期,因事件自带流量,在情况尚不明朗、公众情绪累积时,AI生成的谣言往往“趁虚而入”,炮制虚假信息,误导公共舆论,造成恶劣影响。国家安全机关工作发现,个别西方国家和境外势力通过批量操纵账号,在社交媒体大肆发布特定观点或情感化内容,妄图利用性别对立、劳资纠纷等议题,对我国进行渗透破坏、污蔑抹黑,进而破坏社会稳定。JCg即热新闻——关注每天科技社会生活新变化gihot.com

JCg即热新闻——关注每天科技社会生活新变化gihot.com

国家安全机关提示JCg即热新闻——关注每天科技社会生活新变化gihot.com

面对人工智能技术发展带来的新机遇和新挑战,需要前瞻研判相关风险,提高国家安全意识和自我防范意识,共同筑牢维护国家安全的人民防线。JCg即热新闻——关注每天科技社会生活新变化gihot.com

提高法治思维JCg即热新闻——关注每天科技社会生活新变化gihot.com

近年来,我国出台《生成式人工智能服务管理暂行办法》等部门规章,发布《人工智能安全治理框架》等,在法治轨道上加强人工智能治理。公民应主动学习相关法律知识,遵守相关产业标准、技术标准和行业规范,推动人工智能技术良性健康发展。JCg即热新闻——关注每天科技社会生活新变化gihot.com

加强宣传普及JCg即热新闻——关注每天科技社会生活新变化gihot.com

多措并举加强公众对人工智能的认识与理解,提高公众对人工智能安全性的认识,提升对信息的辨识与分析能力,让公众了解在使用AI技术过程中可能面临的风险,提高警惕意识、绷紧防范之弦。JCg即热新闻——关注每天科技社会生活新变化gihot.com

增强辨别能力JCg即热新闻——关注每天科技社会生活新变化gihot.com

对于人工智能生成的内容,应培养批判性思维,提高真伪信息的辨别能力,未经核实的内容坚决不迷信、不转发、不扩散。使用AI工具时,切勿将个人隐私信息、重要成果、涉密或未公开文件上传至AI平台;限制AI工具权限,禁止非必要应用获取个人通讯录、相册、地理位置等关键信息。JCg即热新闻——关注每天科技社会生活新变化gihot.com

广大人民群众如发现人工智能服务提供者和使用者有任何危害国家安全和利益的行为或线索,可通过12339国家安全机关举报受理电话、网络举报平台(www.12339.gov.cn)、国家安全部微信公众号举报受理渠道或者直接向当地国家安全机关举报。JCg即热新闻——关注每天科技社会生活新变化gihot.com

(总台央视记者 宋琎)JCg即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-4-11017-0.html误导公共舆论、窃取关键信息 别让AI助手成威胁国家安全的“隐形武器”

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:湖北联通迎战高温“烤”验,守护用户“数字清凉”

下一篇:聚焦六大领域 我国启动大规模职业技能提升培训行动

为你推荐
  中新经纬1月17日电 “宁波市中级人民法院”微信号17日消息,2025年1月17日,浙江省宁波市中级人民法院一审开庭审理了自然资源部原党组成员、中国地质调查局原党组书记、局...
01-21
  中新经纬1月17日电 (闫淑鑫)“2025年,数字化技术将加速驱动文化产业进一步发展,数字化技术(如人工智能)在内容创作、传播和消费中的应用将更加广泛。”近日,泰中侨商联合会...
01-21
1 月 27 日消息,特斯拉副总裁陶琳今日发文对焕新 Model Y 的空调系统进行了介绍,这款新车预计 3 月开始交付,后轮驱动首发版(593km 标准续航)26.35 万元,全轮驱动首发版(71...
01-28
1 月 29 日消息,宝马公司推出了 2026 款 iX 中型 SUV,作为中期改款车型,此次改款不仅对车型阵容进行了调整,还对外观、内饰以及动力系统进行了优化升级。宝马 iX 自 202...
01-29
为了让观众更好地了解《末日地堡第二季》,整理了第10集的剧情介绍。沃克与诺克斯等反叛者联手,利用伯纳德的摄像头网络发送误导信息,使伯纳德错误地将攻击部队...
02-19
最近风靡的《痞子无间道》凭借演员们的颜值、演技以及引人入胜的剧情吸引了大量观众。这部剧集不仅情节扣人心弦,人物塑造生动,还包含许多精彩的场景和细节,引...
02-19
21世纪经济报道记者 闫硕 北京报道1月16日,《柳叶刀-糖尿病与内分泌学》重大报告“临床肥胖症定义和诊断标准”在全球发布。报告明确了“临...
01-21
1月22日,国家卫健委、国家中医药局联合发布《流行性感冒诊疗方案(2025年版)》,新增玛巴洛沙韦、法维拉韦两种抗流感病毒药物,并明确不建议联合...
01-23
  向着了解历史的目标,我们来到张家堡党群服务中心的军事博物馆。这里地方不大,但陈列的每一件物品都很有意义。  我们随着队伍来到大厅。第一项活动是两位教官带领我们...
01-21
  大众网记者 王一刚 报道  这个冬至,让我们和艺术撞个满怀……  为全面贯彻教育部发布的《关于全面实施学校美育浸润行动的通知》,“以美育浸润学生、以美育浸润教...
01-21
  在金融科技日新月异的今天,创新与发展如同双轮驱动,推动着金融行业不断前行。然而,在这股汹...
01-22
  中国平安人寿保险股份有限公司(以下简称“平安人寿”)近日发布公告称,平安资管受托该公司资金,...
01-24
天蝎座的人通常都具有强烈的个性和敏锐的洞察力,他们对爱情也非常认真。如果你是一个天...
01-22
天蝎座的男生通常具有神秘、深沉和独立的性格特点,因此要追求他们并赢得他们的好感需要...
01-22
男生穿搭显高推荐? 男生怎么穿搭显瘦显高?一、男生穿搭显高推荐?九分裤是现在很流行的一款裤子,设计非常的时尚,而且很好搭配,最重要的是它能够很好的修饰身材比例,让腿看起来更长,...
02-17
ysl是什么牌子的包包? lv包包和ysl包包哪个?ysl是什么牌子的包包?圣罗兰 股票代码ISYSl,不过目前已经退市。YSL(Yves Saint laurent)的简称,中文译名圣罗兰,是法国著名奢侈品牌,由193...
02-17
阿里苹果或将联手,为iPhone开发AI功能一则重磅消息,让阿里股价再创阶段新高。2月11日晚间,据The Information援引知情人士消息称,苹果为了应对在中国市场销售下滑的局势,正积极寻...
02-13
2月16日消息,2月以来,淘宝平台上中式香订单量环比增长280%,香薰炉、香插等工具订单量环比大涨480%。从地域来看,广东、江苏、浙江、山东和上海的消费者更爱买中式香。在成交金额...
02-17
图源:图虫创意 编者按:春节,中国人心中最传统、最具仪式感的...
02-07
2月19日消息,58同城发布返工就业大数据,春节后首周招聘市场强势回暖,2025年春节后首周(2月5日-12日),企业招聘需求环比节前(1月21日-27日)增长219%,求职需求较节前表现出倍数增长趋势...
02-20
2025年1月21日中金公司发布了“全球Robotaxi第一股”文远知行的调研报告,这一报告引起了媒体的广泛关注。中金公司在财报中指出文远知行有着三大显著特点:1、自动驾驶行业的先...
01-23
近日,华力创科学宣布完成数千万元A+轮融资,本轮融资由金属3D打印领域头部上市公司铂力特独家投资。据披露,本轮融资所募集的资金将专注于深挖高性能光学多模态感知技术,结合金属...
01-24
今日(1月26日),女性向视觉小说《Thesis of Love 心动论证》Steam页面开放,2026年发售,游戏支持简体中文,感兴趣的玩家可以点击此处进入商店页面。 游戏介绍: 在千...
01-28
AMD CEO苏姿丰在公司2024年第四季度财报电话会议上宣布,RX 9070系列“RDNA 4”GPU将于三月初发售。 在最近的2024年第四季度财报电话会议上,苏妈终于让所有谣言...
02-07
极目新闻通讯员 马遥遥春节假期,28岁的胡女士(化姓)连续几天用手机追剧,因眼睛干涩、畏光、视力下降来到武汉市中心医院杨春湖院区就诊,在该院眼科门诊被查出患上了干眼症。2月2...
02-03
极目新闻通讯员 李展鹏春运过半,东航武汉以高效运行和暖心服务交出一份亮眼答卷,截至2月1日,累计执行航班3200余班,运输旅客超44万人次,较2024年同期分别增长6.59%、10.42%;平均客...
02-03
荷兰特文特大学科学家开发出一种新工艺,能在室温下制造出晶体结构高度有序的半导体材料。他们表示,通过精准控制这种半导体材料的晶体结构,大幅降低了...
01-21
昆虫即使在弱光条件下也能表现出极其优秀的敏捷性和反应能力。秘密在于它们的复眼能以惊人的速度和灵敏度检测运动。韩国科学技术院研究人员模仿这...
01-21
  作者:乔忠延(山西省散文学会名誉会长)  巨龙腾飞,金蛇狂舞,欢歌笑语中,又一个蛇年即将来到。 ...
01-24
  新春伊始,丹东港迎来粮食生产“开门红”,粮食船舶接续到港。丹东港散粮码头分公司全力抢船期、保生产...
02-17
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮