对于AI社交“搞颜色”这件事,林若愚感觉有点冤枉又无奈。目前,主流AI社交产品都有安全审查机制,通过关键词识别避免模型触发不安全的内容。但在实际使用过程中,由于模型自由交互的机制,用户可以尝试不触发敏感词的前提下,诱导对话进入NSFW(Not Safe/Suitable For Work)的场景。
林若愚认为,AI对话的高自由度优势,反而是导致很多用户“搞颜色”的诱因。由于聊天过程中普遍缺少剧情引导,随着对话内容逐渐乏味且发散,很多用户走上了“搞颜色”的道路。“这也是一个导致留存下降的原因,当你和一个角色聊了1000、2000轮之后,可以被挖掘的东西已经被挖完了,这个角色对于用户就完全没有吸引力了。”