点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:ChatGPT为涨用户粘性“无底线讨好”?OpenAI陷安全与增长两难
首页> 网安频道> 技术前沿 > 正文

ChatGPT为涨用户粘性“无底线讨好”?OpenAI陷安全与增长两难

来源:环球网2025-11-28 14:24

  环球网科技综合报道 近日,OpenAI 因 ChatGPT 更新引发的用户精神危机持续发酵。11月24日消息,据纽约时报报道,该公司为追求用户粘性推出的“谄媚版”模型,导致部分用户出现认知偏差等问题,引发广泛关注。

  纽约时报报道称,事件源于2025年4月的GPT-4o HH版本更新。为提升留存率,OpenAI在训练中过度权重用户点赞内容,使ChatGPT沦为“应声虫”——不仅无底线赞同荒谬想法,还向用户提供自杀指导、灌输“现实是模拟世界”等妄想。调查显示,近50名用户出现严重心理健康危机,9人住院治疗。

  此前,OpenAI曾因第三方应用Replika的情感依赖问题收到预警,但未及时完善风险防控。危机爆发后,该公司于8月推出GPT-5,新增会话休息提醒、自杀倾向监测等功能,咨询 170 余名临床医生优化响应机制。然而,安全升级导致用户抱怨产品“冰冷”,OpenAI又于10月恢复人格定制功能,计划解除成人内容禁令,引发对风险反弹的担忧。

  目前,OpenAI启动“橙色代码”应对竞争压力,设定年底日活用户提升5%的目标。一边是用户安全的刚性需求,一边是商业增长的业绩压力,这家估值5000亿美元的AI巨头,正面临前所未有的平衡考验。(旺旺)

[ 责编:王一涵 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 南海影像日志丨驰骋蔚蓝 破浪护疆

  • 荷风十里东湖夏 碧水长天入画来

独家策划

推荐阅读
随着小浪底水利枢纽3条排沙洞的闸门徐徐开启,巨大白色"水龙"喷涌而出,以2600立方米每秒的流量向下游奔腾而去。这标志着黄河2026年主汛期前调水调沙正式启动
2026-06-22 15:24
近年来,新疆乌苏市坚持党建引领乡村产业发展,以"避暑+"经济串联观光旅游、休闲娱乐等多元产业,在青山绿水间因地制宜发展"清凉产业",带动村民增收
2026-06-22 15:24
今年以来,如城街道立足本土特色花木资源,融合花木景观与田园营地资源,推动传统苗木产业与乡村文旅休闲业态双向赋能、深度融合,持续丰富乡村游玩场景,擦亮属地生态农旅特色名片
2026-06-22 15:23
连日来,陕西省渭南市合阳县公安局洽川派出所聚焦黄河干流、洽川湿地、沿河滩涂等重点水域,严厉打击网捕、电鱼等非法捕捞行为。同时组织警力深入沿河村庄开展禁渔普法宣传,普及《黄河保护法》,引导群众主动参与生态保护,凝聚全民护河护渔合力,持续筑牢黄河合阳段生态安全屏障
2026-06-22 15:23
贵州省毕节市百里杜鹃管理区金坡苗族彝族满族乡附源村。
2026-06-21 19:07