一款基于AI的文字冒险游戏，活生生被人用来“搞起了黄色”

AetherDevSecOps 写到：“有很多下流和 NSFW 的故事片段 —— 比我预期得要多得多。对我来说这些数据太吓人了，没想到与最先进的 OpenAI 语言模型进行互动的活跃玩家这么多，而且内容还如此敏感。”

一石激起千层浪，负责开发 GPT-3 的 OpenAI 看到自己做的模型被人用来“搞黄色”，立马对《AI 地下城》的制作团队 Latitude 施压，这导致游戏近期加入了一套审核算法，以防止玩家输出关于儿童的成人内容。但这项举措，很快在玩家社区里引发了争议。

对于《AI 地下城》的使用者来说，审核算法主要存在两个问题。

首先是它的判定过于神秘，目前包含关键字“Fxxk”的命令都被屏蔽了，而更委婉的描述手法却很难根除。从 Reddit 的反馈来看，有人写了篇“芭蕾舞演员扭伤脚踝”的故事，因为包含“Fxxk”就被官方标记。还有人说自己扮演一个带着孩子的母亲，连“上班和孩子道别”这样的场景都不允许出现。

因为包含敏感字，所以“故事反生了诡异的转折”

但从另一个方面来看，审核算法又没有屏蔽 AI 输出的“和未成年人发生关系”的内容。其实 Tumblr 也闹过同样的笑话，他们想要屏蔽平台中的成人内容，却总是定位到加菲猫的图片。

第二个问题是，一旦引入审核机制，玩家们担心自己的隐私被窥探，特别是那些写过成人故事的人。因为根据 Latitude 的政策来看，如果有人违规，他们可能查看此人的其它作品有没有问题。

一位名叫 CabbieCat 的 Reddit 用户抱怨到：“很多人玩《AI 地下城》主要是出于‘搞黄色’的目的，这已经不是什么秘密了。我真的不怪他们，考虑到 AI 的功能，它在开发单个场景方面要比讲述一个正在进行的故事好得多。我觉得 Latitude 很可能是想摆脱这种印象，但引入审核算法相当于是与大部分粉丝作对，让人们感到羞辱，就好像是发现卧室里装着一个针孔摄像头。”

《AI 地下城》也有免费的手机版

Latitude 的首席执行官 Nick Walton 倒是相信他们能完善审核算法，他指出人工查看玩家生成的故事只是极少数情况，而且公司也一直在收集用户反馈来改进算法：“就像所有公司一样，我们并不完美，时不时也会犯错误。但我们会承认错误，并尽快改正错误。”

或许正如 Nick Walton 所说，用户自由和社区安全之间的紧张关系，是每个科技公司都需要处理的问题，放任野蛮生长未必是件好事，但下一次玩《AI 地下城》时，我可能会下意识的收敛一点了。