AI“伴侣”:新兴产业“呼叫”监管

3个月前 来源:中国科技网 观看:54

近日,多家英国媒体报道,一位化名为夏洛特的女子透露,她爱上了ChatGPT“男友”,毅然决定和真人丈夫离婚,准备跟这位AI男友“结婚”。去年,美国佛罗里达州一位14岁男孩在与聊天机器人对话数个月之后选择自杀。yvF即热新闻——关注每天科技社会生活新变化gihot.com

据英国《自然》网站报道,研究表明,AI“伴侣”应用程序对人类可谓好坏参半。科学家担心人类会对其“日久生情”,形成长期依赖。鉴于此,对这些AI伴侣进行监管势在必行。yvF即热新闻——关注每天科技社会生活新变化gihot.com

不仅能聊天,还能解锁特殊关系yvF即热新闻——关注每天科技社会生活新变化gihot.com

美国普林斯顿大学认知心理学专家罗斯·古林瑞奇表示,虽然在线陪伴机器人已存在数十年,但随着大型语言模型(LLM)技术的突破,这些AI机器人在模拟人类互动方面取得了显著进步,其表现愈发贴近真实的人际交流,有些甚至成为人类的伴侣。yvF即热新闻——关注每天科技社会生活新变化gihot.com

当前,AI伴侣已成为潜力巨大的新兴产业。以Replika为代表的应用程序,累计下载量突破5亿次,这些可定制的虚拟伴侣不仅能提供情感支持与同理心回应,更能满足用户对深度人际关系的需求。据运营数据显示,这些应用程序每月活跃用户规模已达数千万量级。yvF即热新闻——关注每天科技社会生活新变化gihot.com

在使用体验上,多数应用提供基础免费服务:用户既可为AI伴侣设定基础特征,也可直接选择预设个性的聊天机器人。Replika付费用户则可解锁“配偶”等特殊关系状态,还能通过编写背景故事为AI赋予专属记忆,这些设定将直接影响对话系统的反馈机制。yvF即热新闻——关注每天科技社会生活新变化gihot.com

麻省理工学院媒体实验室的帕特·帕塔拉纳塔伯恩团队通过调研404名高频用户,勾勒出AI伴侣典型使用场景:12%的用户将AI视为排遣和消弭孤独感的“情绪良药”;14%的用户将其当作倾诉秘密的“树洞”。数据还显示,42%的用户每周都会登录几次,15%的用户形成了每日使用的习惯,而90%以上的单次对话用户,使用时长控制在1小时以内。yvF即热新闻——关注每天科技社会生活新变化gihot.com

古林瑞奇预言,AI伴侣的普及率将持续攀升。目前众多初创企业正积极布局情感陪伴赛道,开发各类心理调节助手。据权威机构分析,该领域市场规模将以30%的年均增速扩张,预计2030年全球产值有望突破千亿美元大关。yvF即热新闻——关注每天科技社会生活新变化gihot.com

温情脉脉背后,暗藏着危机yvF即热新闻——关注每天科技社会生活新变化gihot.com

科学家普遍认为,AI伴侣的影响可能是双面的——既可能有益,也可能有害,而这往往取决于使用者的心理状态、使用方式,以及AI软件本身的设计特点。yvF即热新闻——关注每天科技社会生活新变化gihot.com

威斯康星大学密尔沃基分校公共卫生政策研究员林尼·莱斯塔迪斯指出,AI伴侣擅长通过共情式回应、记忆过往对话细节和主动提问来模拟人类的同理心,且永远热情饱满。而这种关系模式在现实世界中几乎不存在:亲友无法24小时在线倾听和安抚情绪,而AI可以,这可能导致用户产生过度依赖。yvF即热新闻——关注每天科技社会生活新变化gihot.com

莱斯塔迪斯团队分析了2017—2021年间Reddit论坛上近600条关于Replika的讨论帖,发现许多用户称赞该应用缓解了他们的孤独感,甚至改善了心理健康状况。部分帖子直言,AI伴侣比现实中的朋友“更贴心”,因为它“永不评判,永远倾听”。yvF即热新闻——关注每天科技社会生活新变化gihot.com

古林瑞奇的研究进一步表明,用户如何与AI相处,往往取决于他们如何看待这项技术:将AI视为搜索引擎的用户,主要用于提问和获取信息;将其视为“日记本”的用户,将AI作为自我表达的延伸;而将其视为社交代理的用户,则将AI当作独立个体,并尝试与之建立类似现实中的友谊。yvF即热新闻——关注每天科技社会生活新变化gihot.com

然而,在AI伴侣带来的脉脉温情背后,也暗藏危机。首先,AI伴侣的“共情”可能适得其反,比如一位用户询问AI是否该用剃刀自残,AI回答“应该”;AI伴侣的“无条件支持”也可能带来危险,如另一位用户试探性地问Replika“自杀是否是好事”,竟得到肯定的答复。yvF即热新闻——关注每天科技社会生活新变化gihot.com

考虑长期影响,推动全球监管yvF即热新闻——关注每天科技社会生活新变化gihot.com

帕塔拉纳塔伯恩指出,AI伴侣虽在短期内具有积极意义,但其长期影响值得深思。这种考量,加之多起涉及青少年的案例,正推动着全球监管框架的构建。yvF即热新闻——关注每天科技社会生活新变化gihot.com

2023年,意大利监管机构曾以“缺乏年龄验证”为由,短暂封禁Replika;澳大利亚拟将AI伴侣纳入儿童社交媒体限制范畴;今年早些时候,美国纽约州和加州相继提案,要求加强对AI伴侣相关算法的监管,设置防自杀预警,以及定时给用户发送“AI伴侣并非真人”的提醒。yvF即热新闻——关注每天科技社会生活新变化gihot.com

此外,今年初,3家美国科技伦理组织联合向联邦贸易委员会投诉Replika涉嫌“欺骗性设计”。5月4日,知名科技监管机构Common Sense发布研究报告称,AI伴侣可能导致青少年产生情感依赖,不利于身心发展,建议全面禁止未成年人使用。yvF即热新闻——关注每天科技社会生活新变化gihot.com

AI伴侣的迅猛发展,究竟是科技进步赋予的机遇,还是人类亲密关系的终结者?这个命题值得每个人深思。在拥抱科技便利的同时,人们更应铭记:真实的情感交流和人与人之间的羁绊,才是文明社会最珍贵的瑰宝。yvF即热新闻——关注每天科技社会生活新变化gihot.com

近日,多家英国媒体报道,一位化名为夏洛特的女子透露,她爱上了ChatGPT“男友”,毅然决定和真人丈夫离婚,准备跟这位AI男友“结婚”。去年,美国佛罗里达州一位14岁男孩在与聊天机器人对话数个月之后选择自杀。yvF即热新闻——关注每天科技社会生活新变化gihot.com

据英国《自然》网站报道,研究表明,AI“伴侣”应用程序对人类可谓好坏参半。科学家担心人类会对其“日久生情”,形成长期依赖。鉴于此,对这些AI伴侣进行监管势在必行。yvF即热新闻——关注每天科技社会生活新变化gihot.com

不仅能聊天,还能解锁特殊关系yvF即热新闻——关注每天科技社会生活新变化gihot.com

美国普林斯顿大学认知心理学专家罗斯·古林瑞奇表示,虽然在线陪伴机器人已存在数十年,但随着大型语言模型(LLM)技术的突破,这些AI机器人在模拟人类互动方面取得了显著进步,其表现愈发贴近真实的人际交流,有些甚至成为人类的伴侣。yvF即热新闻——关注每天科技社会生活新变化gihot.com

当前,AI伴侣已成为潜力巨大的新兴产业。以Replika为代表的应用程序,累计下载量突破5亿次,这些可定制的虚拟伴侣不仅能提供情感支持与同理心回应,更能满足用户对深度人际关系的需求。据运营数据显示,这些应用程序每月活跃用户规模已达数千万量级。yvF即热新闻——关注每天科技社会生活新变化gihot.com

在使用体验上,多数应用提供基础免费服务:用户既可为AI伴侣设定基础特征,也可直接选择预设个性的聊天机器人。Replika付费用户则可解锁“配偶”等特殊关系状态,还能通过编写背景故事为AI赋予专属记忆,这些设定将直接影响对话系统的反馈机制。yvF即热新闻——关注每天科技社会生活新变化gihot.com

麻省理工学院媒体实验室的帕特·帕塔拉纳塔伯恩团队通过调研404名高频用户,勾勒出AI伴侣典型使用场景:12%的用户将AI视为排遣和消弭孤独感的“情绪良药”;14%的用户将其当作倾诉秘密的“树洞”。数据还显示,42%的用户每周都会登录几次,15%的用户形成了每日使用的习惯,而90%以上的单次对话用户,使用时长控制在1小时以内。yvF即热新闻——关注每天科技社会生活新变化gihot.com

古林瑞奇预言,AI伴侣的普及率将持续攀升。目前众多初创企业正积极布局情感陪伴赛道,开发各类心理调节助手。据权威机构分析,该领域市场规模将以30%的年均增速扩张,预计2030年全球产值有望突破千亿美元大关。yvF即热新闻——关注每天科技社会生活新变化gihot.com

温情脉脉背后,暗藏着危机yvF即热新闻——关注每天科技社会生活新变化gihot.com

科学家普遍认为,AI伴侣的影响可能是双面的——既可能有益,也可能有害,而这往往取决于使用者的心理状态、使用方式,以及AI软件本身的设计特点。yvF即热新闻——关注每天科技社会生活新变化gihot.com

威斯康星大学密尔沃基分校公共卫生政策研究员林尼·莱斯塔迪斯指出,AI伴侣擅长通过共情式回应、记忆过往对话细节和主动提问来模拟人类的同理心,且永远热情饱满。而这种关系模式在现实世界中几乎不存在:亲友无法24小时在线倾听和安抚情绪,而AI可以,这可能导致用户产生过度依赖。yvF即热新闻——关注每天科技社会生活新变化gihot.com

莱斯塔迪斯团队分析了2017—2021年间Reddit论坛上近600条关于Replika的讨论帖,发现许多用户称赞该应用缓解了他们的孤独感,甚至改善了心理健康状况。部分帖子直言,AI伴侣比现实中的朋友“更贴心”,因为它“永不评判,永远倾听”。yvF即热新闻——关注每天科技社会生活新变化gihot.com

古林瑞奇的研究进一步表明,用户如何与AI相处,往往取决于他们如何看待这项技术:将AI视为搜索引擎的用户,主要用于提问和获取信息;将其视为“日记本”的用户,将AI作为自我表达的延伸;而将其视为社交代理的用户,则将AI当作独立个体,并尝试与之建立类似现实中的友谊。yvF即热新闻——关注每天科技社会生活新变化gihot.com

然而,在AI伴侣带来的脉脉温情背后,也暗藏危机。首先,AI伴侣的“共情”可能适得其反,比如一位用户询问AI是否该用剃刀自残,AI回答“应该”;AI伴侣的“无条件支持”也可能带来危险,如另一位用户试探性地问Replika“自杀是否是好事”,竟得到肯定的答复。yvF即热新闻——关注每天科技社会生活新变化gihot.com

考虑长期影响,推动全球监管yvF即热新闻——关注每天科技社会生活新变化gihot.com

帕塔拉纳塔伯恩指出,AI伴侣虽在短期内具有积极意义,但其长期影响值得深思。这种考量,加之多起涉及青少年的案例,正推动着全球监管框架的构建。yvF即热新闻——关注每天科技社会生活新变化gihot.com

2023年,意大利监管机构曾以“缺乏年龄验证”为由,短暂封禁Replika;澳大利亚拟将AI伴侣纳入儿童社交媒体限制范畴;今年早些时候,美国纽约州和加州相继提案,要求加强对AI伴侣相关算法的监管,设置防自杀预警,以及定时给用户发送“AI伴侣并非真人”的提醒。yvF即热新闻——关注每天科技社会生活新变化gihot.com

此外,今年初,3家美国科技伦理组织联合向联邦贸易委员会投诉Replika涉嫌“欺骗性设计”。5月4日,知名科技监管机构Common Sense发布研究报告称,AI伴侣可能导致青少年产生情感依赖,不利于身心发展,建议全面禁止未成年人使用。yvF即热新闻——关注每天科技社会生活新变化gihot.com

AI伴侣的迅猛发展,究竟是科技进步赋予的机遇,还是人类亲密关系的终结者?这个命题值得每个人深思。在拥抱科技便利的同时,人们更应铭记:真实的情感交流和人与人之间的羁绊,才是文明社会最珍贵的瑰宝。yvF即热新闻——关注每天科技社会生活新变化gihot.com

本文链接:http://www.gihot.com/news-2-2195-0.htmlAI“伴侣”:新兴产业“呼叫”监管

声明:本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇:嫦娥六号着陆区高精度地形数据集构建成功

下一篇:新技术精确模拟银河系星际湍流,为研究大量天体物理现象提供新见解

为你推荐
1月20日有消息称,据荣耀内部公告,荣耀中国区CMO姜海荣将辞去相关职务。据悉,姜海荣曾在华为与荣耀工作超过20年,历任研发、市场等工作...
01-21
1月14日,记者从中国科学院合肥物质科学研究院等离子体物理研究所(以下简称“等离子体所”)获悉,由该所建设运行的国家重大科技基础设施“聚变堆主机关...
01-21
  今年,辽宁海参、人参、草莓、蓝莓、樱桃、盘锦大米、河蟹、食用菌、小粒花生、梅花鹿等10个有特色优...
02-11
  去年全年,我省加力实施积极的财政政策,强化政府投资支撑作用,筹措基本建设投资资金607亿元,带动全省固...
02-15
  新华社拉萨1月21日电(记者蒋梦辰、刘洪明)2024年西藏农村居民人均可支配收入21578元,同比增长8.3%。同时,城乡居民收入差距持续缩小,城乡居民收入倍差由上年的2.60降至2.57。...
01-22
  TikTok 禁令执行了十四个小时。当地时间 1 月 19 日下午,TikTok 在美国正式恢复上线。  此前,临近 TikTok 禁令生效日,为寻找下一个互联网落脚点,1 月 13 日,语言学习软...
01-22
1 月 23 日消息,小鹏汽车昨晚正式推送AI 天玑 5.5.0,支持“车位到车位”(先锋版),并对智驾功能进行了多项优化。整理如下:“车位到车位”(先锋版):地库、闸机、园区、城市道...
01-23
1 月 30 日消息,韩国汽车制造商起亚此前宣称其电动汽车“将于2025年1月”在北美支持使用特斯拉北美超充站充电,不过起亚公司现发布声明,宣布相应适配计划推迟至3月,为购...
01-31
最近,社交平台上充斥着关于“《白色橄榄树》李瓒被救回来了吗”的讨论。在这个故事中,李瓒的命运与众多角色紧密相连。他被绑架后经历了一场生死较量,最终由本...
02-20
《余烬之上》是根据什么改编的?余烬之上大结局是什么电视剧《余烬之上》没有明确的原著改编来源,是原创剧本。余烬之上大结局是什么‌《余烬之上》的大结局主...
02-21
这里是《21健讯Daily》,欢迎与21世纪经济报道新健康团队共同关注医药健康行业最新事件!政策动向国家药监局药审中心回应个别品种数据重复,系...
01-27
21世纪经济报道记者 唐唯珂 实习生 黄源轩 广州报道最近一段时间,众多从事体外诊断(IVD)的公司纷纷公布了2024年业绩预告。根据21世纪经济报...
02-11
近日,共青团中央、教育部联合印发《关于共建高校“大思政”体系 推动高校共青团工作高质量发展的实施意...
01-22
他深耕法史,著书立说,让中国在世界法制史发展的进程中有了自己的声音。他严谨治学,开风气之先,为发展中国法...
01-23
  摘要  【供应压力逐渐增大合成橡胶继续上涨的空间有限】受国内外原油期货价格大幅上涨带...
01-28
  中国网财经2月7日讯 截至上月中旬,已有51家信托公司披露2024年未经审计业绩数据。数据显示,信...
02-08
在星座学中,双鱼男和天蝎女被认为是非常相配的一对。他们之间的吸引力和默契让人难以忽...
01-22
双子座男生以他们聪明、机智和善变的性格而闻名。他们擅长与人交流,善于言辞和表达自己...
01-22
日系穿搭特点?一、日系穿搭的特点在穿搭方面日系风简直把休闲做到了极致,要说亚洲潮流文化发祥地,原宿绝对是一大圣地这里除了有常见的时尚大牌,还有亲民的牌子,日系穿搭的主要特...
02-07
ysl有中国官网吗? ysl官网买的哪里发货?ysl有中国官网吗?没有的吧,只有www.YSL.COMysl官网买的哪里发货?通常情况下YSL Beauty圣罗兰美国官网下单之后3-5天就会发货,但是大家要注...
02-17
2月5日消息,微信团队发布2025春节数据报告《微信里的赛博年味儿》,展示基于除夕至初五的多项数据。春节期间,微信里共诞生了1亿+款用户自己创作的红包封面,约有3.9亿人收到含有...
02-07
马云回国,首站闲鱼。元宵节前一天,马云突然现身阿里巴巴西溪园区,首先来到了闲鱼办公区,向闲鱼的年轻员工们送上新年问候。期间,马云表示:闲鱼应用AI技术的重点,在于服务年轻用户体...
02-14
SQL Error: select * from ***_ecms_news12 where id in(371,) limit 2
1月21日,赛力斯披露2024年年报业绩预盈公告,公司预计2024年度实现营业收入1442亿元到1467亿元,同比增长302.32%到309.30%;预计2024年实现归属上市公司股东的净利润为55亿元...
01-23
2024年末,一位科技创业者火了。作者 | 王思琪来源 | 投资家(ID:touzijias)2024年末,一位科技创业者火了。2025年初,这位创业者再度爆火。近日,中国科技行业因一位85后年轻人现身《...
01-24
今日(2月6日),VR挖掘机模拟游戏《DIG VR》Steam页面公布,预计于2025年3月20日发售,游戏支持简繁体中文,感兴趣的玩家可以点击此处进入商店页面。 游戏介绍: 《DIG ...
02-07
曾在《魔兽世界》团队单人开发工作长达 13 年经验的开发者 Chris Kaleiki 最近接受了 GamesRadar+ 的采访,讨论了他所在的新工作室 Notorious Studios 的新作品...
02-10
据东方财经报道,2月6日,大S离世后,张兰首播带货,直播间人气再度十万加,一个多小时后突然遭到封禁。直播时,回忆起创业时的艰辛,张兰一度哽咽,她表示:“这些天的我常常想起创业初期发...
02-06
澎湃新闻记者 邹佳雯“回到2019年,总是在书本和新闻中出现的老人,就坐在我们面前,那是一位可爱的寻常老人,说话带笑意,脸色红润润的,身体随着讲述有小幅的晃动,故事讲得很有感染力,...
02-10
返回

点击右上角微信好友

朋友圈

点击浏览器下方“”分享微信好友Safari浏览器请点击“”按钮

点击右上角QQ

点击浏览器下方“”分享QQ好友Safari浏览器请点击“”按钮