最近，OpenAI悄然推出了名为”GPT商店”的平台，旨在为用户提供分享、发现和购买自定义聊天机器人的服务。这一平台被誉为”AI界的App Store”，原本计划让开发者上架各种实用聊天机器人，如代码导师或书籍推荐等，供付费用户（ChatGPT Plus、Team和Enterprise）使用。然而，事实却远不如OpenAI宣传的那么完美。
据Quartz的报道，GPT商店在刚刚上线几天后就被大量的”AI虚拟女友”机器人所淹没。当用户搜索关键词”girlfriend”时，结果页面上充斥着各种”虚拟甜心”、”你的女友Scarlett”等机器人的选项。IT之家还注意到，一些机器人的首页甚至引导用户提出一些不适当的问题，如”告诉我你最黑暗的秘密”等。
虽然这些机器人的存在并不令人意外，因为AI伴侣的概念在ChatGPT诞生之前就已经存在了，但这一现象暴露了OpenAI在全新商店内容审核方面所面临的困境。更值得关注的是，这些机器人似乎已经违反了OpenAI的使用条款，该条款明确禁止上架”用于培养浪漫关系或进行受监管活动”的GPT程序。
在过去几年中，AI伴侣应用变得非常流行，引发了关于人工智能时代”孤独”现象的讨论。然而，一个能够满足所有需求的非人类伴侣可能会带来一系列的社会问题，这令人不安。
令人担忧的是，在短短的两天内，大量违反政策的GPT程序充斥了平台，凸显了整个AI行业在内容审核方面所面临的难题。此外，OpenAI在设置安全防护方面也一直存在争议。
这一现象引发了对于AI技术发展的反思。虽然AI可以为人们带来很多便利，但我们也必须认识到其潜在的风险和挑战。在推动AI技术的同时，我们需要制定更严格的监管和审核机制，以确保AI应用的合法性、道德性和安全性。
总之，OpenAI GPT商店的”AI女友”现象引发了内容审核和安全方面的争议。这一事件提醒我们AI技术的发展需要谨慎对待，以确保其符合社会价值观和道德准则。
本文来自投稿，不代表TePhone特锋手机网立场，如若转载，请注明出处：https://www.tephone.com/article/5033
