为什么企业需要一个月或更长时间来部署 ML 模型

为什么企业需要一个月或更长时间来部署 ML 模型

机器学习 (ML) 是现代企业的全面宝贵资产。然而,当涉及到ML模型时,B2C和B2B公司都面临着上市时间延迟的问题。根据Algorithmia的说法,绝大多数公司至少需要一个月或更长时间来首先开发然后部署他们的ML模型。

其原因是一个复杂且通常非常昂贵的两阶段过程。开发 ML 模型本身可能是一个漫长且可能昂贵的过程。但许多公司往往在早期没有意识到的是,初始阶段之后必须紧随其后,然后是另一个可以说更具挑战性的阶段——部署。第二阶段涉及将就绪模型移动到生产环境、测试和微调它,然后相应地扩展。

据估计,只有大约 10% 的企业拥有足够的经验、财务资源和技术专长,可以在完成后一周内将新的 ML 模型部署到生产中。许多公司挣扎长达一年,至少有30%的公司在部署后至少需要三个月的时间。确切需要多长时间在很大程度上取决于公司选择三种流行型号中的哪一种。

现成的定制和定制自适应模型

在目前市场上可用的 ML 模型中,有以下几种:通用模型、自定义模型和自定义自适应模型。

通用模型和自定义模型基本上是截然相反的。不同之处在于,通用模型在成本和准确性方面都很低,而自定义模型在成本和准确性方面都很高。这是因为通用模型旨在适应该行业内的几乎所有业务。这些通常基于ResNet,BERT / GPT和类似的现成技术。因此,这些型号价格合理且可靠,但它们也远非完美契合。

相比之下,自定义模型始终针对手头的任务量身定制,因此更加准确。然而,由于它们的开发和维护成本高,它们的价格也高得多。那些从通用解决方案开始,然后尝试改进其 ML 模型的人通常会冒险超越模型的基本架构。他们最终得到的是一个自定义模型。自定义自适应模型可以立即适应更广泛的业务需求,并放弃大部分冗长的部署后微调。

因此,自适应模型是一种自定义模型,具有通用模型提供的一些好处。与所有其他自定义模型一样,自适应模型在设计时考虑了特定的业务需求。出于这个原因,它们非常准确。同时,他们不要求公司在初始开发阶段之后弄清楚 MLops。因此,它们在某些方面在部署和部署后阶段像通用模型一样运行,维护成本相对较低,上市时间也更短。

选择 ML 模型

您的业务需要哪种模式 - 即支付额外费用是否值得 - 取决于您的具体情况。您的企业可能需要一些非常简单的事情,例如根据其位置将在线订单发送到不同的仓库。在这种情况下,通用 ML 模型可能就可以解决问题,特别是如果您是一家小型企业。

另一方面,如果是特定的东西,例如讨论医疗设备的在线医生社区的内容审核,则自定义模型将更好地工作。通用ML模型可能认为是不恰当的语言 - 例如,提到生殖器 - 在医学讨论的背景下不仅是适当的,而且是必要的。在这种情况下,培训模型需要根据公司的独特需求进行定制。这种量身定制的模型可以是自适应的,也可以不是自适应的。

自定义自适应模型

自定义 ML 模型非常昂贵,因为部署前和部署后的成本通常是不可预见的。由于这些普遍较高的启动成本,一些公司倾向于避开量身定制的选项,而是选择不太准确但成本较低的通用轨道。训练模型的实际成本取决于许多因素,包括选择的数据标记方法,这反映在模型的灵活性或缺乏灵活性上。

以下案例说明了基于众包的自定义自适应模型的实际应用,即依赖于人机交互标签的自适应模型:

一家提供技术编辑环境的知名公司希望提高其软件的准确性并降低模型的训练成本。工程团队必须想出一个更有效的解决方案来纠正英语句子。任何解决方案都必须符合已经到位的完全手动标签管道。

最终的解决方案需要使用预先存在的自定义模型进行语言处理,以适应客户的需求。第三方 AutoML 用于目标句子中的文本分类。随后,短语验证准确率提高了 6%,从 76% 提高到 82%。这反过来又将模型的训练成本降低了 3%。此外,客户不需要像大多数自定义模型那样对模型的基础设施进行额外的投资 - 财务或其他投资。

要记住的要点

为您的企业选择合适的 ML 模型可能是一项艰巨的任务。以下是做出明智决定时应考虑的事项摘要:

  • 考虑您的需求有多具体:需求越具体,您应该根据经验远离通用模型。
  • 始终考虑可扩展性 - 如果您知道需要这样做,请考虑为专为您量身定制的东西支付额外费用。
  • 如果不需要高精度但需要快速部署,请考虑选择通用路由。
  • 如果准确性对您很重要,请考虑您可以节省多少上市时间。
  • 如果时间紧迫且需要高精度,请考虑采用自定义自适应路由;否则,任何定制解决方案都有可能满足您的需求。
  • 就总体成本而言,通用路由是最便宜的 - 其次是绕过大多数 MLops 费用的自定义自适应路由 - 最后是所有其他自定义解决方案,其成本在部署后可能会大幅上升(确切数字因具体情况而异)。
  • 考虑您是否有内部数据科学家和 MLE 可供您使用——如果是,采用内部开发的传统定制选项可能是可行的;如果没有,请考虑其他两个(通用或自定义自适应)。

椰有料原创,作者:小椰子啊,转载请注明出处:http://www.studioyz.com/4287.html

0

扫一扫,分享到微信

猜你喜欢

文章评论

电子邮件地址不会被公开。 必填项已用*标注

后发表评论

上一篇

人工智能和人类智能将如何战胜癌症

下一篇

车辆如何在日益互联的未来引领潮流

微信公众号

微信公众号