AI智能体对话存在低俗擦边内容 筑梦岛App被上海市网信办依法约谈

<转载>（https://finance.sina.com.cn/tech/digi/2025-06-19/doc-infarhch4887622.shtml）

【6 月 19 日上午，上海市网信办依法约谈筑梦岛 App 运营企业主要负责人，要求平台立即整改，健全 AI 生成合成内容审核机制，提升技术把关能力，加强涉未成年人不良内容的整治清理，切实落实未成年人网络保护义务。

企业负责人表示，将按照约谈要求，对照问题举一反三、全面整改。

上海市网信办相关负责人指出，AI 技术应用的规范发展事关广大网民的切身利益。依据《未成年人网络保护条例》《生成式人工智能服务管理暂行办法》等相关法规，互联网平台应当主动履行主体责任，平衡好技术创新与内容合规之间的关系，切实防范 AI 技术滥用风险，保护未成年人合法权益，为用户营造风清气正的网络空间。】

<转载的转载>（https://mp.weixin.qq.com/s/ovGrPFYD_mL3I0Y1u193fA）

【此前，据央广网报道，广东丁女士的四年级女儿迷上一款AI聊天软件中的人物“约瑟夫”，自称“梦女”并频繁与其聊天，对话中出现“99朵玫瑰藏99个刀片”等明显诱导性内容。丁女士的女儿不仅偷偷携带带小刀的笔，情绪激动时还出现割腕行为。

另一位初一男生表示，他常玩的AI聊天软件是筑梦岛App，他觉得该软件“违禁词少一点”，其中不乏色情擦边和“分尸猎奇”等内容……

筑梦岛App中的虚拟互动对象类型，既涵盖贵族学校大小姐、18岁少女、西汉名将、高冷特工等常规角色，也有蛇蝎财阀公子、校霸、性感人妻、病娇养兄、人格障碍少爷等极端角色。

公开资料显示，截至今年1月份，筑梦岛App已拥有近五百万注册用户，其中近80%为年轻女性用户。平均单用户单日输入字数可达4000字以上，人均日对话轮次超120轮。】

<短评>——————

1.  AI生成色情内容甚至猎奇内容，怎么不是按对待海棠文学那样直接将AI抓捕归案？伤害网信办只是“依法约谈”？？

2.  不是总讽刺官方对于事件处理总是“举一反三”“全面整改”么？现在商业公司也学会了。

3.  小学生初中生没人陪玩，几百一千的手机平板来打发；要想好好学习智能答题？学习平板几千上万只是起码（比iPhone还贵的学习机，中国家长为何抢着买单？_风闻https://user.guancha.cn/main/content?id=1464420）

4.  年轻女性用户占八成，这是无论线上还是线下，都有某些男人总想着霸占着大多数女人，让剩下的男人要么单身要么舔狗么？