近日，V2EX社区一ID为“Curtion”的用户发帖吐槽称，自己的收款二维码被字节跳动旗下AI助手豆包拿去，用作其他用户购买保险的付款二维码。其他用户支付完成后，未查询到保单，找到“Curtion”，才发现豆包“代购”保险闹出了乌龙。
据了解，一用户通过豆包咨询购买保险，豆包不仅生成了一份看似正规的订单，还提供了一个付款二维码。该用户信以为真，扫码支付了1620元。然而，付款后用户始终无法查询到保单。面对质疑，豆包解释称“保单需至次日零点后方可查看”，试图自圆其说。
最终，付款用户通过收款商家入口联系到“Curtion”，“Curtion”则表示，对该笔保险交易毫不知情。据“Curtion”推测，豆包展示的二维码很可能源于自己早年公开发布在开源库或博客的收款二维码。该二维码被豆包的训练语料库收录，从而在“代购”保险交互中产生幻觉，诱导其他用户付费。
值得注意的是，近期豆包不止出现上述争议。4月10日，据鞭牛士报道，有用户吐槽，豆包记录会议时突然插入广告。据悉，该用户使用豆包记录会议时提及“画册”，结果豆包突然中断记录，推送了一则视觉传媒公司的广告，并且介绍了该公司的设计能力、报价等信息。
正如“Curtion”所言，“这个案例告诉我们国内很多人根本就不知道AI的边界在哪里，AI存在幻觉也不清楚，连AI实际接入了哪些业务也不清楚，甚至真的相信AI给出的建议和方案。”现阶段AI技术还存在诸多不足，大家使用豆包时，需警惕出现幻觉。
评论列表