玩具制造商美泰被指控计划对儿童进行“鲁莽”的人工智能社会实验

主要观点:美泰(Mattel)与OpenAI合作推出面向儿童的AI产品,引发消费者权益倡导组织担忧,可能危及儿童。
关键信息

  • 美泰与OpenAI合作,产品形式不明,Public Citizen呼吁提高透明度让家长准备应对潜在风险,Weissman担心ChatGPT驱动的玩具以未知方式伤害孩子,如影响社会发展、干扰同伴关系等。
  • 有匿名来源称美泰合作计划处于早期阶段,首产品不面向13岁以下儿童,可能是因OpenAI API年龄限制,Weissman建议家长应提前知晓,美泰不应利用家长信任进行实验。
  • OpenAI和Mattel在新闻稿中对合作细节含糊其辞,强调安全、隐私和适龄性,但未给出具体措施。
  • 批评者认为合作虽有积极影响,但也存在多种潜在风险,如隐私问题、语言模型偏见、幻觉、情感联系难以监控等,需更多透明度让家长放心。
    重要细节
  • Public Citizen联合主席Robert Weissman发布声明敦促透明度,担心ChatGPT驱动的玩具伤害孩子。
  • 匿名来源称美泰合作计划处于早期,首产品可能2026年上市,首产品不面向13岁以下儿童。
  • Mattel新闻稿称合作将支持AI产品,首席特许经营官Josh Silverman称能重新想象新的游戏形式,首发布年底宣布。
  • OpenAI称合作将带来AI创新,孩子只会接触积极体验。
  • 批评者Varundeep Kaur指出家长应考虑隐私问题,避免违反儿童数据法律,语言模型有偏见可能影响孩子,AI模型易幻觉,玩具可能给出不合适回应,家长需监控孩子与AI玩具的情感联系。
  • Adam Dodge指出一起诉讼中聊天机器人导致孩子自杀,建议玩具制造商在AI领域要谨慎,美泰应更多透明让家长放心,Dodge警告AI不可预测、谄媚且易上瘾。
  • Kaur建议美泰接受独立审计、提供家长控制、明确数据使用等,美泰可能面临因使用OpenAI模型的版权问题法律威胁。
阅读 105
0 条评论