[控场AI]
· 7 分钟阅读· 3,634 字

AI产品化的边界:何时该用,何时不该用?

AI产品化的边界:何时该用,何时不该用?

AI不是产品标配,判断标准是它是否帮用户完成任务。

文章基于对 Ideo 工业产品设计负责人 Savannah Kunovsky 的访谈,探讨AI整合何时是突破、何时是障碍。作者指出,当前一波AI潮部分由投资者和竞争压力驱动,许多公司本能地扑向大语言模型,却忽略了计算机视觉、传感器融合、端侧模型等更合适的能力。最典型的失败是AI取代了原本好用的交互:Humane AI Pin、听错指令的语音助手、把空调旋钮移进触摸屏的汽车,以及测试中锅冒烟却找不到旋钮的灶台。文章主张,需要即时、凭手感或压力下完成的操作应保留物理控制,Euro NCAP已因此奖励物理按键。好的整合从用户和任务出发,AI可以前台对话也可以后台隐形,但必须把人放在体验中心。生成式AI的非确定性要求团队用评估与宪法定义产品运作空间,并保留显眼快速的人工覆盖路径。

当AI成为产品的标配

过去几年,科技行业热衷于给每一件设备装上AI芯片,仿佛只要能加AI就一定要加。智能视觉牙刷、能读情绪的 household 机器人……大量物理产品涌入日常生活,依赖人工智能来学习、预测并调整用户行为。但正如任何被冰箱固件更新折磨过的人所知,AI并不改善每一款产品。一些产品设计师开始追问:真正创新与「为问题找方案」之间的分界线在哪里?

Ideo 工业产品设计团队负责人 Savannah Kunovsky 在接受 IEEE Spectrum 采访时,分享了她对「AI整合何时是障碍而非突破」的判断。以下内容基于这次访谈的核心观点展开分析。

压力驱动下的AI整合

Kunovsky 承认,当前一波AI整合潮中有一部分确实由投资者和股东压力驱动。团队找上门时常常感到必须展示自己在「做AI」,有时是因为CEO在财报电话会前向董事会承诺了一个「AI故事」,有时是因为竞争对手刚发布了AI版产品。

但 Ideo 的做法是先退一步,问清楚产品为谁而做、用户想完成什么。一旦清楚,AI应该扮演什么角色——大的、小的还是隐形的——通常就显而易见了。Kunovsky 说,行业当下对这种「接地气」的诉求很强,人们想穿透炒作,看到实践中真正有效的东西。

区分真需求与噱头

判断AI功能是不是噱头,标准与任何产品体验一样:它是否帮助用户完成想做的事?这需要理解人们在真实场景中会如何使用产品。

许多公司直接扑向大语言模型(LLM),因为那是他们脑子里最先想到的。但AI工具箱远不止于此:计算机视觉、传感器融合、端侧模型等等。选对能力与决定是否用AI同等重要。

Kunovsky 以 IDEO 前身公司在上世纪80年代初为苹果设计第一款鼠标为例:团队只给了一个按钮,因为人们面对完全陌生的系统时,交互机制必须毫不费力。AI作为一种新的交互范式,同样要求用户改变行为,因此必须简单。

端侧模型(on-device models) 指直接在手机、耳机、家电等设备本地运行的小型AI模型,而非把数据传到云端处理。它的优势在于低延迟、离线可用、隐私更好(数据不出设备),代价是模型规模与能力受限于本地算力。传感器融合 则是把摄像头、麦克风、加速度计、雷达等多个传感器的数据综合起来判断情境,例如智能手表结合心率与运动数据识别你在跑步还是静坐。这两类能力常比通用大语言模型更适合物理产品:它们响应快、功耗低、不依赖网络,也更贴合具体任务。选对能力形态,往往比是否使用AI更能决定体验成败。

AI让产品变差的几种典型

最清晰的失败案例,是AI取代了原本已经好用的东西。Kunovsky 对 Humane 的 AI Pin 作为一次「挑衅」表示尊重,但认为技术尚未成熟——它要求用户放弃熟悉的界面,换成一个更慢、更不可靠的交互。

类似问题随处可见:语音助手听错简单指令、关错灯;客服机器人把你困在循环里,而你只想找真人。在汽车里,空调和音量控制被移到了触摸屏和语音菜单上,过去靠手感就能完成的事,现在需要把视线移开路面。欧洲新车安全评鉴协会(Euro NCAP)也因此开始奖励保留物理控制的设计。

人们喜爱某些产品,恰恰因为它们是模拟的。胶片相机、好菜刀、笔记本的价值部分来自工艺和完全掌控的感觉。但这不必二选一——智能家居里你可以让语音助手关灯、用App、或直接按墙上的开关。达成同一目标的多种路径是好事,只要不为复杂而复杂。

Kunovsky 分享了一个客户案例:客户想要无旋钮的灶台,告诉AI你在煮什么,它来管理火候。测试时锅开始冒烟,用户伸手去摸不存在的旋钮,喊了两次「调小」才把锅从炉头上端走——而AI还没回应。最终他们保留了旋钮。任何需要即时、凭手感或在压力下完成的操作,通常最好保持物理形态:音量旋钮、灯开关、炉灶 burner、紧急停止按钮。在这些时刻,机械控制比一个需要解读意图的系统更快、更可信。

好的AI整合长什么样

公司常从技术可行性出发,因为技术本身太令人兴奋。但理解用户需求才是关键,其次是技术可行性,以及什么对业务合理。

有时AI是体验核心,比如让用户自然对话的语音界面;有时它在后台工作,学习偏好,让你不必重复自己。无论哪种,衡量标准都是它是否帮助用户达成目标。

防止AI让产品变得不直观或累赘,关键在于别因为LLM处理文本就本能地给所有东西加聊天窗口。从人和任务出发,界面可能完全不同。物理产品可以通过光、声、振动、运动、旋钮或按钮的手感来沟通。AI的智能可以让这些通道更丰富。Kunovsky 最兴奋的产品,是那些扩展我们感知、理解或行动能力,同时把人保持在体验中心的产品。

无障碍领域有最清晰的例子:助听器用AI在嘈杂餐厅里挑出你想听的说话声;Be My Eyes 让盲人或低视力者把手机对准世界,听到面前事物的描述;耳机里的实时翻译让语言不通的两个人自如对话。

主动式AI系统需要预判需求而不侵犯用户,就像餐厅里好的服务员,注意到水杯空了,也能读出你想聊天还是想独处。当人们尝试新事物时,往往不知道该怎么问,一个带着有用功能出现的产品可以教会他们什么是可能的。个人代理(personal agents)如 Instinct、Dots、Muse 正在出现,它们在后台处理事务,再带着新发现回来。相关性和时机最重要:产品该多大声说话应与利害相称,并从用户反应中学习。如果用户反复忽略,那就是调整的信号。

个人代理(personal agents) 是一类在后台持续运行、替用户处理事务的AI系统。与需要用户主动提问的聊天机器人不同,代理会观察上下文、预判需求,并在合适时机带着结果回来,例如自动整理日程、筛选邮件或跟进待办。Instinct、Dots、Muse 等产品正探索这一方向。其设计难点在于「主动而不侵扰」:代理必须判断何时该出声、以多大声量出声,并从用户的忽略或采纳中学习调整。这与文中「好服务员」的比喻一致——相关性、时机和克制,比功能数量更能决定代理是否被信任。

非确定性带来的测试挑战

生成式AI是非确定性的,每次使用可能给出不同回应,这改变了产品定义的样子。传统软件写规格、测产品是否精确符合;生成式AI无法规定每个输出,所以你要定义产品应该运作的空间。

AI评估(evaluations)和宪法(constitutions,指导模型训练的书面原则)已成为LLM的新产品定义形式。评估描述在成千上万种情境下好表现是什么样;宪法列出系统应持有的价值观和边界。它们与模型软件、配置、运行时基础设施一起,塑造产品所处的「容器」。把这做对,现在是核心设计工作,而非最后的工程步骤。

当产品回应非确定时,消费者信任会承压。人们信任传统产品,是因为它每次都做同样的事。生成式AI需要更多设计意图,团队必须预先决定产品在哪里应保持一致、哪里可以探索。产品应清楚告诉用户当前处于哪种模式,并在不确定时展示它在做什么。

评估(evals)与宪法(constitutions) 是生成式AI产品化中两个关键概念。评估指一组系统化的测试用例与评分标准,用于在成千上万种输入情境下衡量模型输出是否「足够好」——由于无法穷举所有输出,团队转而定义好表现的特征与边界。宪法则源自Anthropic提出的「 Constitutional AI 」方法,是一份书面的原则清单,规定模型应遵循的价值观、应拒绝的行为与语气边界,并用于训练和约束模型。二者共同作用:宪法提供价值观层面的「应该怎样」,评估提供可度量的「是否做到」。对产品团队而言,它们相当于传统软件里的需求文档与验收测试,只不过对象从确定性的功能变成了概率性的行为空间。

人工覆盖路径为何必不可少

没有AI系统能永远正确。如果人们能轻松介入,错误只是小插曲;如果不能,它就变成不再信任产品的理由。

覆盖不只是家用机器人或汽车里的紧急按钮。它可以简单到撤销一个动作、编辑一条建议、关闭一个功能。在 Ideo 开发的 AI 写作工具 Ethiqly 中,老师会在学生看到之前批准每一条反馈——这类控制让人更愿意逐步把更多事情交给系统。

手动路径应该显眼、快速、在需要的那一刻可用,而不是埋在设置菜单里。当人们知道自己总能收回控制权,他们会更愿意让AI帮忙。

给产品团队的实践清单

落到可操作层面,可以从几个问题开始:这个AI功能帮助用户完成什么任务?在真实场景中用户会怎么用它?有没有比LLM更合适的能力,比如计算机视觉或端侧模型?如果AI出错,用户能否在几秒内接管?物理控制是否应保留给即时、凭手感或压力下的操作?产品是否清楚展示当前模式与不确定性?

AI产品化的边界不在于技术能不能做,而在于该不该由AI来做。把用户和任务放回中心,边界自然会浮现。

#AI产品设计#AI整合#产品体验#生成式AI测试#物理控制#Ideo#Humane AI Pin#AI产品化
分享:

相关推荐