新华社/撰稿人/盖蒂图片社
2020年3月11日,长沙一名员工使用晨检机器人,在长沙开福区测试体温。

该COVID-19大流行加速了自动化的未来上已有了方向。它是所有AI,机器人技术和无人驾驶汽车初创公司的警钟:停止构建令人眼花azz乱的演示,并谈论通用AI的未来可能性。相反,应将重点放在部署可以每天24小时不间断运行,且无需人工干预并为用户带来真正价值的现实解决方案上。

在当前的大流行中,成千上万的美国人开始在家工作。零售商在供应紧张的情况下苦苦挣扎,而紧张的消费者则ho积从卫生纸到洗手液的所有物品。在全球范围内,中国电子商务巨头京东开始在武汉测试4级自动送货机器人,并每天24小时运行其自动化仓库,以应对需求激增的情况。

突然之间,自主机器不仅要比概念证明要好。它们必须足够强大,才能在各种现实情况下独立工作。

从某种程度上讲,这种流行病加速了已经来临的自动化未来。它暴露了AI风险场景中长期存在的问题:流行语和炒作蒙蔽了人们的判断力,使人们很难看到真正的进步。

该行业需要在以下三个领域对现实世界的自治系统进行急需的改革:

1.重新考虑指标

随着现实世界中部署了更多的自治AI机器,诸如速度,周期时间或成功率之类的常规指标不再能代表全部情况。我们需要使用鲁棒性指标(例如人工干预的平均次数)来测量不确定性下系统的可靠性。我们需要更多的工具和行业标准来评估各种场景下的整体系统性能,因为与受控环境不同,现实生活是不可预测的。

如果送货机器人的最高速度可以达到4 mph,但是如果没有现场人工支持就无法完成一次送货,则该机器人不会为其用户创造太多价值。

DevOps是几年前出现的,它可以缩短开发周期并不断交付高质量的软件。与软件工程相比,AI或ML不那么成熟。87%的机器学习项目从未投入生产。但是,最近我们开始看到MLOps或AIOps越来越多地出现。

这标志着从AI / ML研究到每天使用和测试的实际产品的关键过渡。它要求观念上的重大改变,以专注于质量保证,而不是最先进的ML模型。我并不是说我们不能同时拥有两者,但是迄今为止,我们已经看到了对后者的更多重视。

2.重新设计错误处理和通讯

Starsky Robotics最近的停产提醒我们,距离全自动解决方案还有很长的路要走。但是,这并不意味着AI机器人技术无法为人类带来直接的价值。正如我在上一篇文章中提到的那样,即使人类需要在15%的时间内处理边缘案例,这仍然意味着公司可以减少大量的人工和集成成本。

因此,如上所述,衡量所需的人工干预的数量很重要。更重要的是,我们需要设计一种更好的方法来处理和传达错误。例如,显示机器学习模型预测的置信度或将您的预测作为建议而不是决策来构成与用户建立信任的方法。

此外,进行双向通信以允许用户标记未知的未知数(系统无法检测到的错误)至关重要。特别是对于需要立即进行人工干预以恢复系统运行的重大错误。

错误处理是第一步。这是关于确定机器无法独自应对所有情况的情况。下一步是确保机器和人员之间的无缝切换和协作,以解决极端情况并优化整体性能。

3.重新定义人机交互

我们习惯于引导机器人或向机器发出命令。但是随着机器变得越来越智能,我们人类应该总是做出最后决定吗?

例如,谁应该控制自主机器人?汽车本身?人类安全驾驶员?有人远程监视机械手群吗?还是乘客?在什么情况下?我们是否拥有正确的工具和技术,可以将所有相关信息迅速传递给该决策者?

除技术外,还存在信任问题。尽管研究表明自动驾驶汽车更安全,但仍有近一半的美国人仍然不愿意使用自动驾驶汽车。

我们如何设计以人为中心的AI,以确保自动驾驶机器使我们的生活更好而不是更糟?我们如何自动化正确的用例来增加人员数量?我们如何建立一个混合团队,以提供更好的结果并允许人与机器相互学习?

我们仍然需要回答许多问题。但是好消息是我们已经开始这样做。而且我们似乎正在朝着正确的方向前进。

Bastiane HuangOSARO的产品经理,OSARO是一家总部位于旧金山的AI /机器人公司,由Peter Thiel和Jerry Yang的AME Cloud支持。她之前曾在Amazon Alexa工作。