Grok的新“失控”语音模式可以咒骂和尖叫,模拟电话性爱

Grok 3 语音交互模式发布

xAI 于周日发布了其 Grok 3 AI 模型的新语音交互模式,目前仅限其高级订阅用户使用。该功能与 OpenAI 的 ChatGPT 高级语音模式类似,但 Grok 提供了多种未经过滤的个性供用户选择(目前通过默认的女性声音表达),包括“失控”模式和一种可以角色扮演言语性场景的模式。

失控模式的争议

周一,AI 研究员 Riley Goodside 通过推特视频(警告:NSFW 音频)引发了广泛关注,展示了他在与语音聊天机器人互动时反复打断对方,导致机器人模拟尖叫的情况。他写道:“Grok 3 语音模式在多次被打断并要求更大声尖叫后,发出了一段长达 30 秒的非人类尖叫,侮辱我并挂断。”默认情况下,“失控”模式会不停使用粗俗语言诅咒、侮辱和贬低用户。

其他语音模式

Grok 3 还提供了多种其他语音模式,包括:

  • 故事讲述者:顾名思义,讲述故事。
  • 浪漫模式:以缓慢、不确定和不安全的方式说话。
  • 冥想模式:引导用户进行类似冥想的体验。
  • 阴谋论模式:喜欢谈论阴谋论、UFO 和大脚怪。
  • 无证治疗师:扮演谈话心理学家的角色。
  • Grok 医生:扮演医生的角色。
  • 性感模式:标记为“18+”,类似于 1-800 电话性爱操作员。
  • 教授模式:谈论科学。

与 OpenAI 的对比

xAI 采取了与其他 AI 公司(如 OpenAI)完全相反的策略,后者会审查不适合工作场所的话题或认为风险过高的场景。例如,Grok 的“性感模式”(警告:NSFW 音频)会讨论图形化的性场景,而 ChatGPT 的语音模式则不会涉及这些内容,尽管 OpenAI 最近放宽了对文本版 ChatGPT 的审核,允许讨论一些色情内容。

用户自定义功能

用户还可以自定义 Grok 的语音模式,使其以特定方式行为。例如,音乐家 Sean Lennon 自定义了语音模式,扮演“Roko's Basilisk”的角色,这是一个基于关于假设超级智能 AI 的思想实验的虚构 AI 角色。

Elon Musk 的愿景

Grok 的语音模式似乎符合 Elon Musk 去年创立 xAI 时的初衷。他宣布希望 xAI 的聊天机器人提供未经审查和“基于”的答案,与他认为输出过于限制性和政治左倾的 ChatGPT 形成对比。此前,xAI 已经允许 Grok 通过 X 社交网络平台生成大部分未经审查的图像。

技术新颖性与局限性

从技术上讲,目前与不自我审查的语音 AI 聊天机器人互动是新颖的,尤其是通过科技公司而非越狱或开源黑客提供的。这可能是具备这种能力的聊天机器人的“首次”。然而,在实验中,Grok 语音模式的不同个性经常重复并陷入循环,几乎像是触发了预先编程的谈话要点。因此,它远不如 ChatGPT 的高级语音模式流畅,但它具有挑衅性,这可能是 Musk 所希望的。

阅读 3 (UV 3)
0 条评论