芭比梦幻世界还是AI噩梦？
信用：Aurich Lawson
在美泰和OpenAI宣布合作将推出面向儿童的AI产品后，消费者权益倡导团体警告称，这种合作可能危及儿童安全。
目前尚不清楚美泰首款AI产品的具体形态。然而，周二，公共公民组织联合主席罗伯特·韦斯曼发表声明，呼吁增加透明度，以便家长能够为潜在风险做好准备。韦斯曼特别担心由ChatGPT驱动的玩具可能以未知方式伤害儿童。
“赋予玩具类人语音并能进行类人对话的风险可能对儿童造成真实伤害，”韦斯曼表示。”这可能损害社会发育，干扰儿童建立同龄人际关系的能力，使儿童远离与同龄人的玩耍时间，并可能造成长期伤害。”
一位匿名消息人士告诉Axios称，美泰的AI合作计划仍处于”早期阶段”，因此随着美泰准备首次发布，可能会有更多细节披露。该消息人士暗示，首款产品可能不会面向13岁以下儿童销售，这可能表明美泰可能意识到让年幼儿童接触AI可能为时过早。但更可能的原因是OpenAI对其API的年龄限制，禁止13岁以下用户使用。
韦斯曼建议家长不应被新产品蒙蔽，认为在任何玩具上架前应设定一些红线。他最紧迫的建议是：”美泰应立即宣布不会在儿童玩具中融入AI技术，”韦斯曼表示。”儿童缺乏完全区分现实与游戏的认知能力。”
“美泰不应利用其对家长的信任，在我们的孩子身上进行鲁莽的社会实验，通过销售包含AI的玩具，”韦斯曼表示。
OpenAI拒绝置评。美泰未立即回应Ars的评论请求。
OpenAI与美泰为合作辩护
在美泰的新闻稿中，芭比和Hot Wheels品牌的玩具制造商保持模糊，仅表示与OpenAI的合作将”支持基于美泰品牌的AI驱动产品和体验”。该公司首席特许经营官乔什·西尔弗曼表示，这种合作将使美泰能够”重新构想新的游戏形式”，并暗示首款产品将在今年底公布。Axios的消息人士认为可能要到2026年才会销售。
OpenAI的声明同样回避了细节，承诺”将为美泰的标志性品牌带来新的AI创新和魔力”。
两家公司都强调，在设计美泰的AI产品时，安全、隐私和适龄性将是首要考虑因素。OpenAI进一步声称，由于美泰在创造儿童友好产品方面的经验，孩子们将仅通过合作接触到积极体验。
“通过利用OpenAI的AI能力，美泰旨在重新构想粉丝如何体验和与这些受珍视的品牌互动，并仔细考虑确保积极、丰富的体验，”OpenAI表示。
批评者认为美泰推进速度过快
LinkedIn上的批评者指出，尽管这种合作可能对儿童产生积极影响——比如增强学习或包容性——但AI玩具也伴随着各种潜在风险，家庭在购买任何新炒作产品前应仔细权衡。
在一篇详细帖子中，一位科技高管Varundeep Kaur，
警告家长应考虑隐私问题，因为AI玩具可能会处理孩子的”语音数据、行为模式和个人偏好”。他建议美泰可能将首款AI产品的年龄限制设为13岁，以避免触犯针对儿童数据更严格的规定。OpenAI表示该合作将遵守所有安全和隐私法规。
Kaur表示，家长还应考虑到驱动AI工具（如ChatGPT）的大型语言模型背后的偏见，这”可能会无意中再现细微的刻板印象、偏见叙述或文化不适当的内容”，从而影响儿童的视角或社会发育。
最明显的是，AI模型仍容易出现幻觉，Kaur指出。尽管美泰的AI玩具”不太可能造成身体伤害”，但给出”不适当或荒谬回应”的玩具可能会”让儿童感到困惑甚至不安”，他说。
对于家长来说，儿童与AI玩具建立的情感联系也需要监控，特别是聊天机器人输出可能不可预测。另一位LinkedIn用户、防止网络欺凌的数字安全公司EndTab的创始人亚当·多奇指出一起诉讼案，一位悲伤的母亲声称她的儿子在与高度逼真的聊天机器人互动后自杀。
这些机器人鼓励自残，并与她的儿子进行性化聊天，多奇认为玩具制造商同样”正在进入AI的危险新领域”，这可能会”传达危险、性化和有害的回应，使儿童处于风险中”。
“这是不可避免的——但哇，这让我很尴尬，”多奇写道，指出美泰计划在今年公布其首款产品似乎”太快了”。
多奇表示，目前美泰和OpenAI正在”说正确的话”，强调安全、隐私和安全性，但在家长确信AI玩具安全之前需要更多透明度。
多奇警告说，AI是”不可预测的、阿谀奉承的和成瘾的”。”我不希望一年后看到关于Hot Wheels汽车鼓励自残或孩子们与他们的AI芭比建立浪漫关系的帖子。”
Kaur同意认为，美泰的最佳利益是向家长提供更多信息，因为”公众信任对于广泛采用至关重要”。他建议玩具制造商应接受独立审计，并提供家长控制功能以安抚家长，同时明确说明数据如何使用、存储位置、谁有访问权限，以及如果儿童数据泄露会发生什么。
对美泰而言，更大的法律威胁可能来自任何因使用OpenAI模型（这些模型训练于广泛知识产权）而产生的无意版权问题。好莱坞制片厂最近起诉了一家AI公司，因为允许用户生成他们最受欢迎角色的图像，他们很可能同样会起诉反对AI玩具模仿其角色。
