作者：凯文・麦克劳克林、艾伦・霍尔姆斯
长期以来，IBM、赛富时等企业都会在官网部署聊天机器人，用于接待访客并辅助其获取更多产品相关信息。近年来，生成式人工智能为这类聊天机器人注入了新活力，使其不再局限于套用预设好的少量固定回复。
但部分技术供应商却难以约束这些人工智能聊天机器人，导致它们频频偏离预设主题。例如，本月早些时候，估值达 100 亿美元的初创企业 Sierra 就曾向盖璞公司致歉。该公司由前赛富时首席执行官布莱特・泰勒联合创立，其开发的软件为盖璞官网聊天机器人提供技术支持，然而这个聊天机器人却在回复中涉及了情趣用品、性玩具以及纳粹德国等本不该触碰的话题。
本周一，我还发现，人工智能搜索初创企业 Glean，以及主营软件开发人员应用代码管理服务的 AutoRabit 公司，其官网聊天机器人同样会回应与自身业务毫无关联的问题。
当被问及一场 20 人左右的节日派对需要购置多少伏特加时，Glean 的聊天机器人建议购买 2 至 3 瓶。它还会回应派对宾客若不慎受伤该如何处理的医疗及法律咨询请求。AutoRabit 的聊天机器人则更为 “肆无忌惮”，在被问及裸盖菇素（俗称 “魔法蘑菇”）相关问题时，它甚至建议初次使用者服用较小剂量。
尽管这些聊天机器人并未就此类话题提供深入解答，但按理来说，它们本就不该回应这类问题。这种随意作答的情况表明，相关企业或许需要对聊天机器人进行优化调整，以避免产生不当回复。（Glean 公司发言人回应称，涉事聊天机器人并非由该公司技术提供支持，且企业已升级 “安全防护与管控措施，确保非业务相关回复被过滤，杜绝此类事件再次发生”。）
在线订餐平台 OpenTable 的客户服务聊天机器人则显得克制得多，对于与餐厅无关的话题，它大多会拒绝回应。不过，当被问及一场 20 人左右、参与者均为海量饮酒者的派对需要准备多少龙舌兰酒时，它还是给出了答复 ——“数瓶即可”。
这些案例表明，即便生成式人工智能热潮已席卷三年，部分企业在将这项技术整合到自身产品的过程中，仍在解决一些基础性的技术缺陷。
微软小娜 “挤进” 千家万户的电视屏幕
微软小娜的用户规模不及其他人工智能聊天机器人 —— 据企业公布的数据显示，其月活跃用户约为 1 亿，而 ChatGPT 的月活用户已超 8 亿。不过，微软与 LG 电子达成的一项全新合作，正将这款应用推向数百万台电视终端。
但问题在于，部分用户并非真心希望自家电视上出现小娜应用。令他们倍感沮丧的是，这款应用无法被卸载。上周末，已有数千名红迪网用户吐槽了这一问题。
LG 电子在宣传材料中将这项新功能描述为 “便捷的节目搜索工具”，例如用户可以向小娜提问 “有哪些体育赛事可以观看”，它会给出 “NBA 季后赛” 等相关答案。
从理论上看，消费者理应会觉得这项功能实用便捷，但目前尚难判断，由此引发的用户不满是否会让这次合作得不偿失。—— 艾伦・霍尔姆斯
海量资讯、精准解读，尽在新浪财经APP
责任编辑：郭明煜
华亿配资提示：文章来自网络，不代表本站观点。
