亚马逊首次推出AI推理实例AWS Inf1

 
亚马逊网络服务今天推出了Inf1，这是一个在云中为AI推理提供支持的实例，首席执行官Andy Jassy称之为云中可用的成本最低的推理产品。
“与我们的G4实例相比，它具有更低的延迟，吞吐量将提高3倍，并且每个实例的成本降低多达40%，后者是基于Nvidia芯片的，该芯片以前是Nvidia芯片中成本最低的实例。云，”杰西说。
Jassy今天在拉斯维加斯举行的AWS re：Invent会议上说，使用云服务来为AI解决方案提供动力的运营成本绝大多数来自推理。
该消息是在发布Elastic Inference服务之后并计划发布Inferentia AI芯片的消息。 Inf1还将由Annapurna Labs制造的Inferentia芯片提供支持，该芯片是2015年被以色列AWS收购的。
Inf1实例现已全面上市，并将与PyTorch，MXNet和TensorFlow集成。 2020年，Inf1将可用于EKS实例和亚马逊的SageMaker进行机器学习。
该消息今天在AWS re：Invent的舞台上宣布，与Graviton2一起使用，Graviton2是7纳米，64位芯片，与数据中心的英特尔X86竞争。 Jassy说Graviton 2将为M6G，R6G和C6G实例提供动力。 Jassy说，Graviton 2的计算量将是英特尔X86处理器的4倍，价格性能将提高40%。上周首次出现了有关新型AWS数据中心芯片的新闻。