GPT商店是OpenAI探索大语言模型应用场景的一个重要媒介,自本月10号上线以来,商店里已经上架了超一万个应用。
然而,让OpenAI颇为矛盾的是,越来越多的“机器人女友”和“机器人男友”涌入该平台,而这违反了OpenAI商店的规则,其禁止培养模拟伴侣或其他受监管活动的GPT。但另一方面,OpenAI很难严格监管应用的内容,且聊天机器人本身就带有“伴侣”属性。
据Quartz的一份报告,在GPT商店中搜索“女朋友”字眼,至少有八个机器人女友会跳出来,且这些机器人目前都颇受欢迎。
在该商店的聊天机器人趋势榜单上,前五名分别为电影助手、ChatGPT、男朋友Chris、女朋友Scarlett和聊天GPT4-女朋友版。
不难发现,男朋友Chris和女朋友Scarlett在应用的简介中十分直白地将自己定位于模拟恋人,Scarlett甚至打出“用一切可能取悦你”的宣传。这让聊天机器人充满了刺激但危险的味道,尤其是在OpenAI明令禁止的情况下。
毫无疑问,这类机器人将为人类带来更多对话的渠道,帮助纾解压力与负面情绪。但另一方面,其也可能导致人类对机器的畸形依赖或是出现机器唆使人类进行某些奇怪行为的情形。
去年,微软基于ChatGPT的Bing就在和一名记者的聊天中宣布爱上了他,并要求他离开自己的妻子。
美国圣路易斯华盛顿大学数据科学教授Liberty
Vittert表示,能够在情感和生理方面满足人类的AI机器人将在不到十年内成为现实,但她担忧这可能会导致离婚率上升。
另一方面,机器人恋人的出现同样也给OpenAI带来了新的考验。其此前指出,自动化系统、人工审查和用户反馈共同构成了对GPT商店产品的审核,但机器人恋人的出现甚至泛滥显然证实了这一机制中存在着不受控制的漏洞。
而GPT商店的继续开放或许将加剧监管的困境,如何正确治理自己的AI生态,将成为GPT持续需要解答的问题。
猜您喜欢
-
ChatGPT Windows版客户端将于今年晚些时候发布 Mac版客户端现已推出
前沿科技Highlights: 昨天OpenAI发布了一款新的ChatGPT原生桌面App 该应用仅发布在MacOS上(Mac版目前已经向ChatGPT Plus用户推送),Windows版客户端应用将在今年晚些时候发布 即使微软向OpenAI投资了100多亿美元,Windows版应用···
-
传苹果接近与OpenAI达成协议 将ChatGPT技术引入到iPhone
前沿科技此前有报道称,有研究机构的分析师对苹果今年的iPhone 16系列升级持怀疑态度,虽然配备了更大的内存、装备更好的麦克风、以及升级神经引擎,以更好地满足运行生成式AI任务的要求,传闻iOS 18更新本身就会进一步整合AI技术,但是iPho···
-
传OpenAI最快下周一公布自家搜索引擎 ChatGPT驱动
前沿科技据路透社报道,OpenAI将在下周一公布自家搜索引擎,由人工智能ChatGPT驱动,对标世界第一搜索引擎谷歌。 据两位知情人士透露, OpenAI计划下周宣布其人工智能搜索产品,这将加剧其与搜索巨头谷歌的竞争。宣布日期可能是在下···
-
OpenAI澄清:下周不会发布搜索引擎
前沿科技当地时间5月10日,OpenAI澄清了将推出AI搜索引擎的传言。 OpenAI在社交平台上宣布,下周一将以直播形式宣布ChatGPT和GPT-4的更新。“不是GPT-5,不是搜索引擎,我们在努力开发一些认为人们会喜欢的东西。”OpenAI CEO奥尔特曼···
-
ChatGPT之父认为iPhone是最伟大的技术产品
前沿科技ChatGPT之父、OpenAI首席执行官山姆·奥特曼日前参加了播客节目“All-in Podcast”。 在访谈中奥特曼表示,iPhone是人类历史上制造出的最伟大的技术产品之一。 当被问及“语言模型在设备端的情况如何呢”时,奥特曼回答称对这···
-
阿里云发布通义千问2.5 全面赶超GPT-4 Turbo
前沿科技快科技5月9日消息,阿里云正式发布了通义千问2.5,模型性能全面赶超GPT-4 Turbo,声称地表最强中文大模型。 据了解,通义千问2.5最新开源的1100亿参数模型在多个基准测评中均取得了最佳成绩,成功超越了Meta的Llama-3-70B模···
-
OpenAI以泄密为由解雇两名研究人员 包括首席科学家盟友
前沿科技据可靠消息透露,人工智能初创公司OpenAI最近解雇了两名涉嫌泄密的研究人员,此事在业界引起了广泛关注。 据悉,这两名研究人员分别是利奥波德·阿申布伦纳(Leopold Aschenbrenner)和帕维尔·伊兹梅洛夫(Pavel Izmailov)。···
-
OpenAI高管:2024年是AI的“应用之年”
前沿科技美东时间周四,OpenAI的首席运营官Brad Lightcap预测,2024年是人工智能(AI)的“应用之年”,已经看到了这种巨大的趋势。 在当天接受媒体采访时,Lightcap透露,尽管面临越来越多同行竞争,但ChatGPT企业版需求正在急剧增长。···