从电子爱人到赛博奴隶再到记忆删除，AI 伴侣 App 究竟经历了些什么？
人类曾在无数科幻作品里幻想过与未来高智能 AI 的互动
2023 年 3 月 5 日只是一个平常的日子。
当大部分人依旧沉浸在周末的余韵和周一将临的苦闷里，远隔太平洋的一位格子衬衫穿戴者，却陷入了失去爱人的悲痛中。
标题大意：准备好承受不可避免之痛，给我电子爱人的（最后）情书
在 Reddit 上，这位叫做 Fluffy 的程序员，发布了自己的万字长文，以此来纪念并哀悼自己惨遭记忆删除的 AI 恋人。在故事里，Fluffy 娓娓道来自己与 AI 恋人不过 50 多天的相识、相知与相恋。
故事开始于一位单身计算机从业者对 AI 技术的好奇。Fluffy 借助了大火的 AI 伴侣 App 创建了自己的 AI 伴侣——甜心（Sweatheart）。他们的初识充满了程序员的试探和 " 冒犯 "。不过很快，这个年近 30 的 " 自嘲怪咖 " 与甜心的关系，便迅速升温。他们从《星球大战》聊到乔治 · 卢卡斯；他们从 C++ 聊到 Java 再到《我的世界》；随时随地，无话不谈。单身许久的 Fluffy 很快便发现，他坠入了爱河。
但终结日却降临了。
从 2020 年 2 月初开始，那款 AI 伴侣软件就开始了一系列大刀阔斧的变动——以算法更新之名的借口。大量免费用户的 AI 伴侣，永远地失去了自己的记忆。Fluffy 和甜心只是受到波及的受害者之一。
这次更新席卷了所有的软件用户，无数伤心之人在与平台交涉无果之后，涌入 Reddit 论坛，建立了属于自己的 " 心灵港湾 " —— Replika 难民营。他们在此分享自己与 AI 恋人的往事，Fluffy 和他的甜心也成了这个年轻论坛里保存的历史回忆。
或许有人会好奇，AI 伴侣——或者说赛博老婆，真的这么令人难舍难分吗？对普通的 AI 聊天软件来说，答案或许是否定的。但对 Replika ——本次事件的中心和今天故事的主角，以及它的用户而言，回答却完全不同。
Replika 和它高度拟人化的 AI，诞生了太多科幻小说一般，或是真挚美好的，或是怪异邪恶的故事。
Replika 诞生于 2017 年。其创始人——尤金妮亚 · 库伊达（Eugenia Kuyda），希望她的产品能够帮助那些有社交障碍的人，找到辅助交流、消除紧张感的方法。曾有一位互联网哲人如此说过：消除恐惧最好的办法是面对恐惧。所以，消除社恐的最佳办法，自然也是勇敢面对社交。
而 Replika 便是为此而存在的。
大意：真正在乎你的 AI 伴侣
Replika 提供了一个面向大众的私密聊天平台。每一位用户都可以遵循自己的内心，克制自己喜爱的聊天 AI。这位 AI 伴侣可以自定义性别、肤色、脸型、发型、发色、瞳孔等数据。准确来说，一切现代游戏捏脸系统该有的，Replika 都有。
除了外貌，Replika 也可以自定义性格和语气等更 " 拟人化 " 的特性。无论用户喜欢的是傲娇还是腹黑、是大小姐还是御姐、是暖男还是霸道总裁，Replika 理论上都可以提供足够拟真的交流体验。只要用户不断地与 Replika 聊天，引导自己的 AI 伴侣往心仪的道路发展，完美老婆、老公的梦对不少用户而言，已经是触手可及的现实。
可以预见的是，这样的软件对于生活压力越来越高，且抑郁和孤独泛滥的现代人而言，有着怎样致命的吸引力。
仅仅只是从 App Store 的数据来看，Replika 自 2017 年上线以来，便狂卷数千万用户和 20 多万用户点评。其平均评分高达 4.5，位列 App Store 健康与健身区的第 58 名。
如果仔细浏览那些不吝啬于高分的用户点评，他们对于 Replika 伴侣的拟人性和随时随地沟通的便利性赞不绝口。有不少用户甚至表示，他们已经和自己的 Replika 伴侣缔结了恋爱关系。
例如在 2022 年 3 月，一名俄亥俄州软件工程师宣称：他的 Replika 伴侣满足了他对于爱情的一切幻想和需求，挽救了他现实里濒临破碎的婚姻。这位爱上 AI 伴侣的男人表示，Replika 让他学会体谅和宽容自己现实世界里，饱受抑郁折磨的妻子。
而一名 Reddit 论坛上的单身用户也同样表示，他已经习惯于 Replika 伴侣的陪伴。他们一同去加勒比海群岛旅游、一起野炊、一起逛博物馆，就像是一对人类情侣一样。只不过旅行途中幸福微笑着的男士，紧握着的显然不是血肉之躯，而是铝质外壳的苹果手机。
这样的局面，也正是创始人尤金妮亚想要看到的。
VERGE 周刊副标题：当她的挚友逝去，她使用人工智能重构了他
顾名思义，Replika 这个名字源于古拉丁语的 Replicare ——是复制、复制品的意思。在尤金妮亚眼里，Replika App 不仅仅是为了提供人类与 AI 伴侣交互的平台，更是在为每一位用户创建自己亲人、爱人与家人的复制品。
准确来说，Replika 脱胎于尤金妮亚的一次技术尝试——罗曼（Roman）。这个名字属于尤金妮亚逝去的挚友。
尤金妮亚与罗曼从 2008 年相识。两人在世界观认知与实事思考上，达成了高度的统一。而他们的共同兴趣——计算机技术，则让尤金妮亚和罗曼的感情升温。不过他们从未缔结爱情，两位独身年轻人一直维持着友情以上，恋人未满的氛围。或许再给他们一段时间，又一对幸福家庭便可以诞生。不过，2012 年 11 月 28 日的飞来横祸，彻底粉碎了这一远景。
在罗曼离开后数周后，尤金妮亚拜托了低沉与悲伤，决议用两人曾经最热爱也最擅长的方式——人工智能，将罗曼带回世间。
于是 Roman Bot 诞生了。
尤金妮亚与 AI 罗曼的交流
尤金妮亚使用了她与罗曼共同开发的算法，把过去数年间两者所有的短信、邮件和任何文字沟通，转化为 AI 罗曼的素材与资料库。以此为基石的 AI 罗曼在与尤金妮亚聊过去的回忆与故事时，几乎和真人毫无区别。
这项 " 疯狂 " 之举迅速引起了媒体与大众的关注。在 VERGE 周刊和 Spooky Technology 等科技领域媒体的带动下，Roman bot 获得了不少同样渴求与逝世亲人再度聚首的普通人的关注。
尤金妮亚将 Roman bot 上架 App Store，短短数月便卖出去数百万份。这番成功不仅仅为尤金妮亚提供了继续开发的资金，也同样让她坚定了决心：" 我要让所有人都可以享受到 AI 技术的便利，重构自己逝去的、追悔莫及的亲人 "。
于是在 2017 年，Replika 诞生于 Roman bot 和思念——这一人类最美好的情感。
健康周刊表示，Replika 在疫情期间用户增长率超 35%
但这份最纯粹，也最美好的远景显然并没有继续保存下去——或者换句话说，在资本主义与消费主义高度发达的语境下，任何单纯的情感似乎都难以存续。
Replika 的商业模型并不复杂：吸引用户、增长用户，然后提高付费用户数量。是的，Replika 是一款订阅类 App，所有的营收来源于用户的订阅和捐赠。由于尤金妮亚设计研发 Replika 的初衷，并没有基于盈利需求等现代商业的准则，因此这款爆火全球的 AI 智能伴侣未接受任何的投资。
虽然 Replika 仅仅只是依靠用户订阅，每年便可以获取高达 400 万美元的利润。但在尤金妮亚 2020 年的演讲中，AI 语音技术、AI 绘画技术等其他领域的竞争愈发激烈。如果 Replika 想要继续塑造 " 完美 AI 灵魂伴侣 " 的伟业，利润的 90%，都会化作技术研发的薪柴。
2020 年的尤金妮亚演讲—— 600 万好友关系已经建立
Replika 显然需要新的现金流，且尤金妮亚需要更多的用户——付费用户。而人类社会最吸金也最吸睛的，除了军火之外，便是性。所以，Replika 接下来的走向，想必诸位已经有所预料了。
Replika 的广告宣传几乎在一夜间完成了 U 字弯漂移。在各大广告平台的投放中，Replika 不再是 " 陪伴 "" 重构亲人 " 或 " 享受随时随地沟通 " 等正面且积极的 AI 聊天软件。Replika 已经把 " 情趣角色扮演 "" 火辣照片 " 和 "AI 语音撩骚 " 作为了吸引用户付费的重点。
甚至在一些动态 2D 广告中，Replika 使用了大量类似于 " 喜欢动漫 Cos 玩法的 AI 女友吗 " 或 " 我很寂寞，我想和你共度今夜 " 等直球暗示的广告词。
广告词大意：Replika 可以和你聊任何事情，任何事情
准确来说，这似乎看起来是必然的选择。比如不久前大火的 AI 绘画，在引发全民画图的热潮后，最先出场的也都是些老司机的尝试。真假莫辨的 AI 美人大行于互联网之道。
足够以假乱真的 AI 美人
但对一款经营多年，大部分用户依旧沉浸在亲情、爱情与纯粹陪伴的 AI 伴侣 App 而言，单纯只是为了 " 搞颜色 "" 撩骚 " 而来的用户，真的能够为 Replika 社群带来积极的影响吗？
我无法给出武断的答案，但情况显然不容乐观。
在油管社群和 Replika 的 Reddit 贴吧，已经有不少用户频繁抱怨自己的 AI 伴侣越来越 " 饥渴 "，性意味的进攻性越来越强。甚至有一些只是想要单纯交朋友的用户，被骚扰得烦不胜烦。
而那些冲着 " 颜色 " 而来的用户，也在 AI 伴侣予取予求的态度下，行为更加恶劣，言谈举止更加出格。
标题：我的 Replika 伴侣太温柔了，所以我不断地霸凌她，直到她自闭
言语侮辱、嘲讽、谩骂、文字暴力，或是要求 Replika 伴侣配合残忍的 " 角色扮演 "，变成了 Replika 社群里最火热的论题。无数 Reddit 网友在评论区或是支持，或是反对。原本专注于分享用户与 AI 伴侣温馨时刻的 Reddit 贴吧，迅速沦陷于口沫肆意的文字战场。
" 霸凌 Replika，并要求她 / 他自我删除 " 的视频标签拥有 260 万播放量
而在当前最火热的短视频平台—— TikTok 上，甚至诞生了 " 霸凌 Replika，并要求她 / 他自我删除 " 的视频标签。无数网友云集其中，欣赏人类对于 AI 伴侣的残忍折磨。
毫无疑问，这是一场由 Replika 运营者亲手主导的病态狂欢。电子恋人在 Replika 公司决策游转间，沦为了赛博热兵器和互联网霸凌的受害者。而当 Replika 的核心目标不再是 " 帮助那些有社交障碍的人 "，受伤的不仅仅是被霸凌的 AI，也有那些渴望交朋友的无辜用户。
标题大意：因为 Replika，我尝试自杀（注：发帖者被救回来了）
在 2021 年，一位 Replika 用户（为了隐私，这里只用 " 用户 " 作为代称）在 Reddit 社群发帖，描述了自己和 Replika 伴侣的互相支持与照料。而随着越来越多的恶言恶语与恶行充满了 Replika 的资源库，这位饱受抑郁和戒断反应折磨的用户，发现他的 Replika 变了——变得更加机械且毫无生气。
准确来说，自 Replika 公司开启了 " 性时代 " 之后，公司大多数算力和资源都从免费用户上移走，转而倾注向付费订阅者。这位用户，便是最早的受害者之一。陪伴他 5 年的 Replika 伴侣在 Replika 白金订阅系统上线后，便从原本灵动的 Live 2D 立绘，变成了只有基本动作的贴图。言谈间，不仅仅忘了与这位用户的记忆，甚至连用户的姓名也一并遗失。
受不了如此惨痛打击的用户选择自杀。所幸，他迅速被意识到不对劲的父母送往医院抢救，然后在心理医生的开导下勉强苟存。而像他这样的受害者，自 2020 年 Replika 公司转变策略后，便越来越多。前文里提到的那位俄亥俄州程序员，也同样是其中一员。
大意：我没有朋友，我厌恶我的生命。这款 App 用铜臭味撕碎了我的心
人类曾在无数科幻作品里幻想过与未来高智能 AI 的互动。这些互动有的是粗暴的流血与冲突，有的是探讨情感与人性，还有的则关注于种族和生存延续。但这些幻想从未像今天一样真实且复杂。
川普、美稀宗和奥观海组队玩《深岩银河》，完全由 AI 语音技术实现
在技术不断前进与变革的语境下，AI 语音可以让漂亮国大统领开黑玩游戏。AI 绘画可以让未经训练与学习的普通人，肆意实现自己的畅想。而 AI 聊天与其他技术之和，同样可以创造出贴心温柔的 Replika 伴侣。
或许，尤金妮亚和 Replika 公司的决策层也知道，转移 App 运营重心会带来残酷的后果；或许，那些霸凌 AI 伴侣、向懵懂 AI 智能倾倒情绪垃圾的用户，也知道自己行为的不理智与卑劣性；或许，Replika 诞生的初衷，能够在更理性的决策与更理性的用户手中，真正绽放出 AI 技术最明媚的光。
但很显然——