Amazon Elastic Inference弹性推理API

接入教程

1. 登录AWS管理控制台并进入EI服务页面
2. 创建EI加速器并关联EC2实例
3. 配置推理工作负载和资源分配
4. 部署机器学习模型至加速环境
5. 监控推理性能和使用指标
6. 根据AWS指南迁移至替代解决方案

列出可用的Elastic Inference加速器

python

import boto3

client = boto3.client('elastic-inference', region_name='us-east-1')

response = client.describe_accelerators()
print(response['acceleratorSet'])

获取加速器类型信息

php

<?php
require 'vendor/autoload.php';

use Aws\ElasticInference\ElasticInferenceClient;

$client = new ElasticInferenceClient([
    'region' => 'us-west-2',
    'version' => 'latest'
]);

$result = $client->describeAcceleratorTypes();
print_r($result['acceleratorTypes']);
?>

查询加速器运行状态

javascript

const { ElasticInferenceClient, DescribeAcceleratorsCommand } = require('@aws-sdk/client-elastic-inference');

const client = new ElasticInferenceClient({ region: 'eu-west-1' });

async function listAccelerators() {
    const command = new DescribeAcceleratorsCommand({});
    const response = await client.send(command);
    console.log(response.acceleratorSet);
}

listAccelerators();

常见问题

Elastic Inference服务还接受新客户吗？

不接受。自2023年4月15日起，AWS已停止接受Elastic Inference服务的新客户注册，现有客户将被协助迁移至其他AWS推理服务。

现有客户应迁移到哪些替代服务？

AWS建议现有客户迁移至Amazon EC2 Inf1实例（基于AWS Inferentia芯片）或Amazon SageMaker等替代方案，这些服务提供更好的性价比和性能表现。

API文档是否仍然可用？

是的，API文档在服务完全停用前仍然可用，主要用于现有客户管理现有资源。但新功能开发已停止，建议尽快规划迁移。