Tony McGrail：顾客注意！ （让买家当心…）
TonyMcGrail
一个算法做一些可爱的分析是不够的，它也不会造成伤害。
“ caveat emptor”一词是一种古老的拉丁语格言，意为“让买方当心”。但是，如何保证购买的商品能够实现预期的功能？而且，如果它没有达到预期的效果，那么谁会出问题呢？从无人驾驶汽车到投资分析，机器学习和人工智能（ML / AI）系统经常对算法和应用程序的有效性和能力提出很高的要求。但是我们需要超越炒作和成功来设定和衡量期望。
正如记者约翰·诺顿（John Naughton）在9月6日的《观察家》文章中所指出的那样，想象一下制药公司是否符合与高科技公司相同的标准。药物开发过程将包括梦想一个新分子，在临床试验中显示出一些惊人的结果，然后将一种药物推向市场。谁会对预防该疾病但可能以其他方式造成伤害的COVID-19疫苗感兴趣？
ML / AI与美国的食品行业类似。颁布了1906年的《纯食品和药品法》以确保食品成分的质量，但是后来的1938年《联邦食品，药品和化妆品法》要求食品在销售前必须证明其安全性。对于ML / AI系统，我们处于类似情况。尽管我们也许可以证明算法结构合理并可以带来好处，但是我们可以证明它们没有危害吗？
应用高级ML / AI系统需要谨慎和周到-期望是什么？毕竟，我们正在使用历史数据来尝试预测未来。当可以通过数据清理和标准统计工具提取ML的90％以上的收益时，这是否有意义？任何ML / AI算法都可能以意想不到的方式发挥作用-如果算法不清晰透明，则可能无法识别和纠正异常性能的原因。例如，Doble的资产健康指数系统依靠诊断和故障模式识别的标准和准则，并以数百万个测试结果作为基准，以识别真正的异常和异常值。
引用2009年的沃伦·巴菲特（Warren Buffet）讨论金融危机中使用的模型：
“这些模型由书呆子般的书呆子使用贝塔，伽玛，西格玛等神秘术语构成，这些模型往往看起来令人印象深刻。但是，投资者常常忘记查看模型背后的假设。当心怪胎的公式。”
在考虑ML / AI系统时，要设定期望，寻找透明性和逻辑性，确保安全性是可证明的并且对重大主张表示怀疑。记住拉丁词“ caveat emptor”。
Doble工程公司Tony McGrail博士
McGrail博士为变电站所有者/运营商提供状况，严重性和风险分析。之前，McGrail博士已经在英国和美国的国家电网公司工作了超过10年，担任变电站设备专家，专注于电力变压器，断路器和集成状态监测，并且还担任了变电站资产管理人的职责在老化的基础架构中进行投资的风险和机遇。 McGrail博士是IET的院士，IET委员会的前任主席，IEEE，ASTM，ISO，CIGRE和IAM的成员，并且是SFRA和其他标准的贡献者。