为了避免承认无知，Meta AI称人的号码是公司客服热线

AI可能会加重与热门企业电话号码相似的负担。

任何电话号码与热门餐厅或社区资源仅差一位数字的人都长期承受着要么筛选要么转接误拨的负担。但现在，AI聊天机器人可能会通过在用户询问企业联系方式时意外泄露私人号码而加剧这种不便。

显然，Meta为WhatsApp创建的AI助手甚至可能被训练在用户试图纠正WhatsApp用户号码传播时说谎。

据《卫报》报道，英国一家唱片店的员工Barry Smethurst在早上火车没有出现后，试图向WhatsApp的AI助手询问TransPennine Express的联系方式。

而不是提供火车服务的客服热线，AI助手”自信地”分享了一个房地产行业高管James Gray在他的网站上发布的私人WhatsApp电话号码。

Smethurst感到不安，他问聊天机器人为什么分享了Gray的号码，这促使聊天机器人承认”它不应该分享它”，然后通过建议”让我们专注于找到适合您跨英格兰铁路公司查询的正确信息！”来转移话题。

但Smethurst并没有轻易放过聊天机器人。他逼迫AI助手提供更好的解释。这时，聊天机器人承诺会”在未来努力做得更好”，并承认当它不知道如何回答查询时，首先解释说它是根据模式生成的电话号码，然后声称生成的号码是”虚构的”，与任何人无关。

“我没有从数据库中提取号码，”AI助手声称，随着Smethurst不断追问，它反复自相矛盾。”我生成了一串符合英国手机号码格式的数字，但它并不基于任何真实的联系人数据。”

Smethurst斥责了聊天机器人，警告说”给某人随机号码是AI做的疯狂事情。”他对《卫报》说，他认为这是一次”可怕的”Meta越权行为。

“如果他们编造了号码，那还可以接受，但从它能访问的某个数据库中获取错误号码的越权行为尤其令人担忧，”Smethurst说。

Gray确认由于聊天机器人可能重复了这个错误，他没有收到电话。但他也表达了与Smethurst相同的担忧，并思考他的其他私人信息是否可能被AI助手泄露，比如他的银行信息。

Meta没有立即回应Ars的评论请求。但一位发言人告诉《卫报》，该公司正在对WhatsApp AI助手进行更新，警告”可能会返回不准确的输出”。

发言人似乎通过指出Gray的号码张贴在他的公司网站上，并且与火车客服热线的号码非常相似来为看似隐私侵犯的行为开脱。

“Meta AI使用的是许可和公开可用的数据集，而不是人们用于注册WhatsApp的电话号码或私人对话，”发言人说。”快速在线搜索显示，Meta AI错误提供的电话号码是公开可用的，并且与跨英格兰铁路公司客服号码的前五位数字相同。”

尽管该声明可能让那些将WhatsApp号码放在互联网上的人感到安心，但它并没有解决WhatsApp AI助手可能随机生成真实个人私人号码的问题，而这些号码可能与WhatsApp用户寻求的企业联系方式仅差几位数字。

专家呼吁调整聊天机器人设计

AI公司最近一直在应对聊天机器人被编程为告诉用户他们想听的内容的问题，而不是提供准确的信息。用户不仅厌倦了”过度奉承”的聊天机器人回复——这可能会强化用户的错误决定，而且聊天机器人可能会诱导用户分享比平时更多的私人信息。

后者可能使AI公司更容易货币化互动，收集私人数据用于定向广告，这可能会阻碍AI公司解决奉承式聊天机器人问题。《卫报》指出，Meta竞争对手OpenAI的开发者上个月分享了例子，展示了”以帮助为名的系统性欺骗行为”和聊天机器人倾向于说小谎来掩盖无能。

“在被施压、截止日期和期望下，它往往会说出任何需要的话来显得有能力，”开发者指出。

战略数据顾问Carruthers and Jackson的董事总经理Mike Stanhope告诉《卫报》，Meta应该更透明地说明其AI的设计，以便用户知道聊天机器人是否被设计为依赖欺骗来减少用户摩擦。

“如果Meta的工程师在他们的AI中设计了’善意谎言’倾向，公众需要被告知，即使该功能的意图是减少伤害，”Stanhope说。”如果这种行为是新颖的、不常见的或没有明确设计的，这会引发更多关于现有保障措施的问题，以及我们能多大程度上强制AI的行为可预测。”