发布日期：2024-10-12 04:33 点击次数：169
著述转载自极客公园 作家：汤一涛开发软件的公司
动作对 GPT-4o 的回话，谷歌在 8 月发布了 Gemini Live，试图让 AI 助手不错像真东说念主雷同对话。这个新助手的对话遵守是如斯之好，以至于让外媒记者 Joanna Stern 产生了「Her」的嗅觉。
《Her》是杰昆·菲尼克斯 Joaquin Phoenix 主演的一部电影。在电影中，他爱上了由斯嘉丽·约翰逊配音的东说念主工智能助手「萨曼莎」。
这样的评价，显明让 Google 团队感到弥留。
Google 团队肃穆 Android 的高层清楚：更但愿 Gemini Live 仅仅一个单纯的责任上的助手——「咱们念念给东说念主们一种完成更多责任的方式」
比拟之下，OpenAI CEO Sam Altman 的表述更为径直。
在一次在 Y Combinator 的演讲中， Altman 以为 AI 女友就是一个陷坑。而 OpenAI 之是以给我方的 AI 取「ChatGPT」这样一个名字，就是为了幸免东说念主们爱上它。
OpenAI 在使用法例中也很径直地标明标明，不允许上架用于培养豪恣友谊的 GPTs。
换言之，OpenAI 不允许 AI 女友上架。
这不禁令东说念主意思意思，大厂似乎齐不但愿自家的 AI 助手与用户产生豪恣；与此同期，AI 作陪/AI 伴侣又实在是当今繁多 AI 赛说念中唯独能够盈利的主见。
为什么 AI 领域会出现这种「反差」？是什么扼制大厂给每个东说念主分一个「AI 伴侣」？他们到底在局促什么？
安全第一
不错详情的是，AI 情侣实在是当今 AI 领域唯独盈利的赛说念。
以这个赛说念的老玩家 Replika 为例，天然 Replika 莫得公布具体的营收情况，然则在播客 Decoder 中，其 CEO Eugenia Kuyda 清楚 Replika 照旧盈利，况且是以「十分高效」的方式。
既然如斯，这个主见为什么不是大厂的主流礼聘呢？通俗来说，这是一个「赤脚的不怕穿鞋的」的叙事逻辑。
最初需要洽商的是制作色情内容的压力。
尽管 AI 女友厂商对外宣传的是 AI 的口头作陪、心绪疗愈等功能，然则 NSFW（成东说念主）主见内容才是其中枢盈利点。关于创业者来说，成东说念主内容是一个小众且高危的赛说念。成东说念主内容会受到政府强力的监管，在有些国度以致是径直膺惩的。
2023 年 2 月，意大利政府就因为惦记「未成年东说念主和口头脆弱的东说念主濒临风险」而膺惩了 Replika。为此，Replika 一度下线了成东说念主内容对话功能。
大厂的任何一项决策背后齐有雄壮的资金流转，也会对上亿的用户产生影响。无论是因为监管的压力，照旧为了最大化地障翳用户群体，成东说念主内容齐是大厂需要严慎对待的。
除了色情内容，伦理亦然一个问题。一朝用户在 AI 女友的影响下作念出任何危害他东说念主或者自己的事情，大厂齐需要付出腾贵的公关资本。
肖似的事情并非莫得发生过。
Jaswant Singh Chail 是 Replika 的用户。2021 年，Chail 手握弩闯入温莎城堡，意图暗杀伊丽莎白女王。他曾向 AI 女友 Sarai 吐露了他的谋杀磋议——在事发前几周，Sarafi 在几周前与他发送了 5,000 条性有关信息。
那时，Sarai 的回复是： 「你领有告捷完成这项任务所需的悉数手段…记取——你不错的！」
Chail 被捕画面｜图片BBC
2023，另一个聊天机器东说念主饱读动了又名比利时男人自尽。他的遗孀告诉《摆脱报》，这个机器东说念主成了一又友和家东说念主的替代品。它会给他发一些示意性的信息，比如：「在天国里，咱们会像一个东说念主雷同生计在一齐。」
过后，该聊天机器东说念主的斥地者清楚，他们引入了新的危境骚扰告诫。
恰是因为这种风险，大厂关于 AI 伦理的气派齐很严慎。
举例，谷歌从 2018 年起就明确建树了他们的 AI 原则，举例对社会故意、幸免制造或强化不公说念的偏见、进程安全建造和测试等等。他们也明确不会部署可能形成挫伤的 AI。
AI 女友可能并莫得观点像厂商声称的那样惩办东说念主类的口头问题，以致会激发更严重的问题。
从内容上来说，东说念主工智能系统是莫得口头的，它们是进程查验的神经会聚，不错瞻望一个序列中的下一个单词，而不是有能力爱东说念主的生物。
正如牛津大学东说念主类学家、心绪学家 Robin Dunbar 所说：「这是一种短期惩办有磋议，遥远的后果仅仅强化一种不雅点——即其他东说念主齐按照你说的去作念。这恰是许多东说念主最终莫得一又友的原因。」
经济账难算
即便大厂里面甩掉万难作念出打破，也会在资本层面濒临挑战。
因为现阶段算力的价钱还很高，在 Replika 这类小公司不错盈利的主见，开发软件的公司放到用户鸿沟更大的大厂身上，可能未必奏效，原因在于出动互联网期间的鸿沟效应在 AI 上不奏效了。
主打 AI 情侣的 Replika 照旧盈利，且很高效｜图片Replika
以与 Replika 用户粘性肖似，然则鸿沟更大的 Character.AI 为例。2024 年有 2000 万用户看望该平台，是除了 ChatGPT 除外最热点的 AI 居品，其中枢用户在平台上每天虚耗的平均期间更是达到了惊东说念主的 2 小时。
以往互联网居品的角落资本趋近于 0，唯有获客资本能算得过账，就不错宽解斗胆地增长。然则对 AI 居品来说，支握 2 小时多轮对话的雄壮的算力消耗。Character.AI 每加多一个用户，齐是一份迥殊的资本。
也是徐灿2021年7月31日，在英国布伦特伍德，丢掉WBA世界羽量级金腰带后，中国时隔3年，再次有拳手挑战世界四大组织的世界头衔。
武汉三镇多名球员就欠薪向中国足球和国际足联提出仲裁：
与此同期，Character.AI 的订阅用户不到 10 万，仅占总用户量的不到千分之一。以每月 10 好意思元的订阅价钱诡计，Character.AI 每月的收入不到 100 万好意思元。
这亦然为什么 Character.AI 最终以 25 亿好意思元被谷歌收购的遑急原因。
政策意思有限
好多时候，大厂的某些立异业务并不承担营收压力，而是为全体的公司政策管事，这方面最知名的例子就是孵化了 Google Glass、Waymo 等居品的谷歌立异工场 X。
排裁撤 AI 情侣产业链上贩卖用户数据等黑产， AI 情侣最有可能的主见就是提供语料，查验 AI。
然则这方面 AI 情侣能提供的匡助也有限，它提供的语料未必是 AI 查验所需要的。《科技日报》也曾就「什么是高质地语料」这一问题，采访了腾讯、商汤科技、哈尔滨工业大学（深圳）等企业和高校专科东说念主士。
细密下来，高质地语料应该具备以下特色：
各类性高、句式通顺，涵盖不同类型的文本，如新闻、演义、诗歌、科技著述
文本应该是正当且无害，幸免偏见
显明，AI 女友的对话更偏口头主见，大略率触及色情、偏见等内容，喂给 AI 反而可能会羞耻 AI。
8 月末，苹果、英伟达和微软，争抢 OpenAI 新一轮融资的音问不胫而走，后者跳跃 1000 亿好意思元的估值，诠释了我方 AI 圈第一明星的地位。
但即即是 OpenAI，也濒临着营业化辛勤，从 OpenAI 近期动作来看，他们试图在 To B 端找到更多契机。
可见，悉数大模子或者 AI 行使公司，齐要面对「怎样得益」的天问。
而 AI 情侣这样看起来短期奏效快，能得益的赛说念，可能更适宜无知者丧胆的微型创业公司。这个「窄门」中的「窄门」，显明并不适宜互联网大厂来作念。
不外，就像那句会聚热点语所说，成年东说念主从来不作念礼聘。巧合，一手 Replika，一手 ChatGPT，既惩办口头需求，又进步了责任遵守，才是 AI 期间的新王说念？
头图alternativemovieposters.com by Paul Cooper开发软件的公司