首頁(yè) 猿問(wèn) 使用 LDA 模型運(yùn)行...

使用 LDA 模型運(yùn)行 Sagemaker Batch Transformation 時(shí)出錯(cuò)

Python

ABOUTYOU 2021-12-26 15:27:45

我已經(jīng)成功地用 sagemaker 訓(xùn)練了一個(gè) LDA 模型，我已經(jīng)能夠設(shè)置一個(gè)推理 API，但是它對(duì)我一次可以查詢的記錄數(shù)量有限制。我需要對(duì)大文件進(jìn)行預(yù)測(cè)，并且一直在嘗試使用批量轉(zhuǎn)換，但是我遇到了障礙。我的輸入日期是application/x-recordio-protobuf內(nèi)容類型，代碼如下：# Initialize the transformer objecttransformer =sagemaker.transformer.Transformer( base_transform_job_name='Batch-Transform', model_name=model_name, instance_count=1, instance_type='ml.c4.xlarge', output_path=output_location, max_payload=20, strategy='MultiRecord' )# Start a transform jobtransformer.transform(input_location, content_type='application/x-recordio-protobuf',split_type="RecordIO")# Then wait until the transform job has completedtransformer.wait()# Fetch validation result s3_client.download_file(bucket, 'topic_model_batch_transform/output/batch_tansform_part0.pbr.out', 'batch_tansform-result')with open('batch_tansform-result') as f: results = f.readlines() print("Sample transform result: {}".format(results[0]))我已將輸入文件分成 10 個(gè)文件，每個(gè)文件大小約為 19MB。我首先嘗試在單個(gè)塊上運(yùn)行，因此總共 19MB。我嘗試過(guò)改變策略，嘗試 SingleRecord。我也嘗試過(guò)不同的 split_types，也嘗試過(guò) None 和“Line”。我已經(jīng)閱讀了文檔，但不清楚我還應(yīng)該嘗試什么，錯(cuò)誤消息也很不清楚。2019-04-02T15:49:47.617:[sagemaker logs]: MaxConcurrentTransforms=1, MaxPayloadInMB=20, BatchStrategy=MULTI_RECORD#011at java.lang.Thread.run(Thread.java:748)2019-04-02T15:49:48.035:[sagemaker logs]: du-sagemaker/data/batch_transform/batch_tansform_part0.pbr: Bad HTTP status returned from invoke: 4132019-04-02T15:49:48.036:[sagemaker logs]: du-sagemaker/data/batch_transform/batch_tansform_part0.pbr:2019-04-02T15:49:48.036:[sagemaker logs]: du-sagemaker/data/batch_transform/batch_tansform_part0.pbr: Message:2019-04-02T15:49:48.036:[sagemaker logs]: du-sagemaker/data/batch_transform/batch_tansform_part0.pbr: <!DOCTYPE HTML PUBLIC "-//W3C//DTD HTML 3.2 以上是我用上面的配置得到的最后一個(gè)，在此之前我也得到了400 HTTP錯(cuò)誤代碼。任何幫助或指示將不勝感激！謝謝

查看完整描述

2 回答

飲歌長(zhǎng)嘯

TA貢獻(xiàn)1951條經(jīng)驗(yàn) 獲得超3個(gè)贊

雖然 Batch Transform 平臺(tái)支持靈活的負(fù)載限制（通過(guò)MaxPayloadInMB），但許多算法設(shè)置了更嚴(yán)格的內(nèi)部限制。對(duì)于根據(jù)其內(nèi)部配置拒絕“大”請(qǐng)求的 SageMaker 內(nèi)置 LDA 算法來(lái)說(shuō)也是如此。

您在日志中看到的錯(cuò)誤恰恰說(shuō)明了這一點(diǎn)：Batch Transform 客戶端嘗試發(fā)送最大 20MB 的請(qǐng)求，但 LDA 算法服務(wù)器拒絕了該請(qǐng)求，錯(cuò)誤代碼為413 (Request Entity Too Large)。

使用 SageMaker 內(nèi)置算法容器或任何非您自己的容器時(shí)，我們建議MaxPayloadInMB您在CreateTransformJob請(qǐng)求中保留未設(shè)置的參數(shù)。這將提示平臺(tái)選擇算法的默認(rèn)執(zhí)行參數(shù)，您將在日志中看到這些參數(shù)，如下所示：

[sagemaker logs]: MaxConcurrentTransforms=1, MaxPayloadInMB=${DEFAULT_MAX_PAYLOAD_IN_MB}, BatchStrategy=MultiRecord

有關(guān)如何解決這些“執(zhí)行參數(shù)”的更多信息，請(qǐng)參閱此處記錄的“優(yōu)先順序” 。

除了控制有效負(fù)載大小之外，您的其他轉(zhuǎn)換作業(yè)參數(shù)選擇（SplitType=RecordIO和BatchStrategy=MultiRecord）對(duì)于傳遞 RecordIO-Protobuf 數(shù)據(jù)來(lái)說(shuō)看起來(lái)是正確的。

反對(duì) 回復(fù) 2021-12-26