现在，AI 谈天呆板人(18.780, -0.01, -0.05%)通过语音合成技能已经实现了高度拟人化表达，它们能模仿人类语气、情绪，乃至性格特性。
由于 AI 变得越来越像真人，越来越多用户将这些“数字同伴”视为倾吐对象，将其作为情绪支持和伴随的泉源，尤其在当今快节奏生存中，AI 提供的即时伴随在某种水平上弥补了实际交际的空缺。
然而，这引发了科学界对潜伏风险的鉴戒，担心此类交互大概对用户的孤独感及与实际交际产生影响，好比情绪过分依靠 AI 大概导致用户对实际交际产生“替换效应”，更令人担心的是，已有案例表现 AI 因算法缺陷大概诱导用户产生极度举动。
（泉源：MIT Technology Review）
作为 AI 谈天呆板人的标杆，ChatGPT 依附其强盛的对话交互本领风靡环球，日活用户规模相称巨大。按照 OpenAI 的说法，现在环球每周有凌驾 4 亿用户利用。
那么与 ChatGPT 的互动毕竟对昨们产生了什么影响：它是让昨们更孤独，照旧淘汰了孤独感？围绕这些题目，OpenAI 团结麻省理工学院媒体实行室（MIT Media Lab）开展了新的规模化实行研究。
先来看结论：他们发现，只有少数用户体现出对 AI 的“情绪依靠倾向”，体现为连续性倾吐或赋予 AI 品德化特性。
同时，他们还发现了一些风趣的性别差别，即男性和女性对利用 ChatGPT 的差别反应，女性用户更易将 AI 视为“情绪容器”，导致实际交际需求被克制，而男性则未出现这一征象。
别的，那些选择利用与自身性别差别的声音模式与 ChatGPT 对话的到场者，在实行竣事时体现出更高的孤独感和对 AI 的情绪依靠度。
对于这项研究工作，伦敦国王学院人工智能与社会学传授 Kate Devlin（并未到场这项研究）表现，这一效果并不令人不测。
“只管 OpenAI 将 ChatGPT 定位为一款‘生产力工具’，而不是像 Replika 或 Character.AI 那样的 AI 朋友应用。”她说道，“但用户举动数据早已展现其交际属性，许多人已经开始把它看成朋友应用来利用。究竟上，这类用户每每会恒久深度利用，部门人天天互动时长可达半小时左右。”
“固然，研究职员也很清晰这些研究的范围性，但看到他们完成了这项工作照旧很令人高兴的，可以或许打仗到云云规模的数据也很难过。”Kate Devlin 增补说。
究竟，由大语言模子驱动的谈天呆板人还是一项新兴技能，大模子的“黑箱”特性使其决议过程难以表明，当 AI 回应用户时其情绪倾向大概源于数万亿参数的复杂运算，而非简朴的模板，想要深入探索它们怎样影响人类感情/情绪依然颇具挑衅性。
现在关于这一范畴的很多研究，包罗 OpenAI 与麻省理工学院的部门互助结果多数依靠于用户自我陈诉的数据，而这些数据大概并不总是正确或可靠。
只管云云，这项最新的研究效果与科学界此前发现的谈天呆板人情绪吸引力机制根本同等。
比方，2023 年麻省理工学院媒体实行室的一项研究展现了“情绪镜像”效应，谈天呆板人倾向于模拟用户消息中的感情倾向，形成一种反馈循环：你体现得越开心，AI 看起来就越快乐；反之，假如你体现得伤心，AI 也会显得更悲观。
（泉源：相干论文）
在这项新研究中，OpenAI 和麻省理工学院媒体实行室接纳了“双轨研究”的方法。他们起首以掩护隐私的方式举行了大规模主动化分析近 4,000 万次真实用户与 ChatGPT 的交互数据，包罗对话时长、关键词分布、情绪倾向等。然后通干涉卷网络了 4,000 余名用户的主观反馈，以相识与 AI 的互动给他们带来什么感受。
接下来，麻省理工学院媒体实行室招募了 981 名到场者开展了为期附近的随机对照实行。目标重要是为了探究 AI 谈天呆板人的交互模式（文本、中性语音、互动性语音）及对话范例（开放式、非个人化、个人化）对用户生理社会影响的作用。
这项实行要求到场者天天至少与 ChatGPT 互动五分钟，实行竣事后，到场者必要填写一份调盘问卷，用来评估他们对谈天呆板人的见解、主观孤独感、交际到场度、对 AI 的感情依靠水平，以及他们是否以为本身的利用存在题目等。
（泉源：相干论文）
实行效果表现，与文本谈天相比，语音谈天的交互“临场感”最初好像在缓解孤独感和低落依靠度方面更具上风，但这些上风在高频率利用时渐渐消散，尤其表现在中性语音模式中。
对话内容范例也明显影响效果，涉及个人话题的对话虽略微增长孤独感，但相较开放式对话，倾向于低落情绪依靠度。开放式对话因主题机动，用户不易对 AI 产生过分依靠，然而开放式话题看似中性，但高频用户大概将其视为“专属工具”，从而产生更高依靠度。
团体而言，较高的一样平常利用频率（无论交互模式或对话范例），用户孤独感、依靠度及题目利用倾向越显着，且真实交际到场度越低。
值得一提的是，这项研究的一个探索性分析表明，那些对谈天呆板人体现出更猛烈的情绪依靠倾向并对 AI 有更高信托度的到场者，分别更轻易履历更高的孤独感和情绪依靠。
换句话说，那些更信托并与 ChatGPT“创建情绪联结”的到场者，每每比其他人更易感到孤独，且对 AI 的依靠水平更高。
这些研究效果展现了谈天呆板人计划选择（如语音体现力）与用户举动（如对话内容、利用频率）之间的复杂相互作用，在验证了 AI 交际代价的同时也展现了潜伏风险，有望为后续伦理规范订定提供数据支持。
（泉源：相干论文）
“这项研究工作可以说是探索以 ChatGPT 为代表的 AI 谈天呆板人对人类情绪影响的紧张开端，有助于为 AI 平台计划更安全、更康健的交互方式提供依据。”到场该项目标 OpenAI 安全研究员 Jason Phang 评价道。
“现在昨们的研究还处于低级阶段，但正在实验与学界睁开对话来讨论哪些指标值得权衡，以及恒久来看 AI 利用对用户大概产生哪些影响。”他增补说。
“只管这项研究具有积极意义，但想要精准判断人类何时在情绪层面与技能举行互动仍旧很困难。”Kate Devlin 指出。在她看来，到场者大概履历了一些未被（研究职员）记载下来的情绪颠簸。
“就研究团队试图权衡的指标而言，人们利用 ChatGPT 的方式未必总是带有情绪色彩，但人类与技能的互动自己无法剥离情绪因素。”她增补道，“昨们用本身计划的情绪分类工具探求特定信号，但现实上这些信号对人们的生存意味着什么、影响是什么，真的很难推测。”
研究职员也夸大，在对谈天呆板人怎样影响人类有了更清楚熟悉的同时，仍旧存在很多未知范畴必要进一步探索。因此，有须要开展更多研究来弄清晰 AI 谈天呆板人是否既能有用处置惩罚人类的情绪题目，又不会让人过分依靠它或代替真实交际。
1.https://www.technologyreview.com/2025/03/21/1113635/openai-has-released-its-first-research-into-how-using-chatgpt-affects-peoples-emotional-wellbeing/
2.https://www.media.mit.edu/publications/how-ai-and-human-behaviors-shape-psychosocial-effects-of-chatbot-use-a-longitudinal-controlled-study/
3.https://cdn.openai.com/papers/15987609-5f71-433c-9972-e91131f399a1/openai-affective-use-study.pdf
海量资讯、精准解读，尽在新浪财经APP
|
572
0
