![Ivan Blinkov](/assets/img/avatar_default.png)
* split up select.md * array-join.md basic refactoring * distinct.md basic refactoring * format.md basic refactoring * from.md basic refactoring * group-by.md basic refactoring * having.md basic refactoring * additional index.md refactoring * into-outfile.md basic refactoring * join.md basic refactoring * limit.md basic refactoring * limit-by.md basic refactoring * order-by.md basic refactoring * prewhere.md basic refactoring * adjust operators/index.md links * adjust sample.md links * adjust more links * adjust operatots links * fix some links * adjust aggregate function article titles * basic refactor of remaining select clauses * absolute paths in make_links.sh * run make_links.sh * remove old select.md locations * translate docs/es * translate docs/fr * translate docs/fa * remove old operators.md location * change operators.md links * adjust links in docs/es * adjust links in docs/es * minor texts adjustments * wip * update machine translations to use new links * fix changelog * es build fixes * get rid of some select.md links * temporary adjust ru links * temporary adjust more ru links * improve curly brace handling * adjust ru as well * fa build fix * ru link fixes * zh link fixes * temporary disable part of anchor checks
7.7 KiB
machine_translated | machine_translated_rev | toc_priority | toc_title |
---|---|---|---|
true | 72537a2d52 |
41 | CatBoostモデルの適用 |
ClickHouseでのCatboostモデルの適用
CatBoost で開発された無料でオープンソースの勾配昇圧ライブラリです Yandex 機械学習のために。
この手順では、SQLからモデル推論を実行して、ClickHouseで事前に訓練されたモデルを適用する方法を学習します。
ClickHouseでCatBoostモデルを適用するには:
- テーブルの作成.
- テーブルにデータを挿入します.
- ClickHouseにCatBoostを統合する (任意ステップ)。
- SQLからモデル推論を実行する.
CatBoostモデルのトレーニングの詳細については、 モデルの学習と適用.
前提条件
あなたが持っていない場合 ドッカー まだ、それを取付けなさい。
!!! note "注" ドッカー CatBoostとClickHouseのインストールをシステムの残りの部分から分離するコンテナを作成できるソフトウェアプラットフォームです。
CatBoostモデルを適用する前に:
1. プル ドッカー画像 レジストリから:
$ docker pull yandex/tutorial-catboost-clickhouse
このDockerイメージには、CatBoostとClickHouseを実行するために必要なコード、ランタイム、ライブラリ、環境変数、設定ファイルがすべて含まれています。
2. Dockerイメージが正常にプルされたことを確認します:
$ docker image ls
REPOSITORY TAG IMAGE ID CREATED SIZE
yandex/tutorial-catboost-clickhouse latest 622e4d17945b 22 hours ago 1.37GB
3. 起Dockerコンテナに基づくこのイメージ:
$ docker run -it -p 8888:8888 yandex/tutorial-catboost-clickhouse
1. テーブルの作成
トレーニングサンプルのClickHouseテーブルを作成するには:
1. 対話モードでClickHouse consoleクライアントを起動する:
$ clickhouse client
!!! note "注" ClickHouseサーバーはDockerコンテナ内で既に実行されています。
2. コマンドを使用して表を作成します:
:) CREATE TABLE amazon_train
(
date Date MATERIALIZED today(),
ACTION UInt8,
RESOURCE UInt32,
MGR_ID UInt32,
ROLE_ROLLUP_1 UInt32,
ROLE_ROLLUP_2 UInt32,
ROLE_DEPTNAME UInt32,
ROLE_TITLE UInt32,
ROLE_FAMILY_DESC UInt32,
ROLE_FAMILY UInt32,
ROLE_CODE UInt32
)
ENGINE = MergeTree ORDER BY date
3. ClickHouse consoleクライアントからの終了:
:) exit
2. テーブルにデータを挿入します
データを挿入するには:
1. 次のコマンドを実行します:
$ clickhouse client --host 127.0.0.1 --query 'INSERT INTO amazon_train FORMAT CSVWithNames' < ~/amazon/train.csv
2. 対話モードでClickHouse consoleクライアントを起動する:
$ clickhouse client
3. データがアップロードされたことを確認:
:) SELECT count() FROM amazon_train
SELECT count()
FROM amazon_train
+-count()-+
| 65538 |
+-------+
3. ClickHouseにCatBoostを統合する
!!! note "注" 任意ステップ。 Dockerイメージには、CatBoostとClickHouseを実行するために必要なすべてが含まれています。
ClickhouseにCatBoostを統合するには:
1. 評価ライブラリを構築します。
CatBoostモデルを評価する最速の方法はコンパイルです libcatboostmodel.<so|dll|dylib>
図書館 に関する詳細については、図書館を参照 CatBoostドキュメント.
2. 新しいディレクトリを任意の場所に作成し、任意の名前で作成します。, data
作成したライブラリをその中に入れます。 のDocker画像がすでに含まれている図書館 data/libcatboostmodel.so
.
3. Config modelの新しいディレクトリを任意の場所に、任意の名前で作成します。, models
.
4. 任意の名前のモデル構成ファイルを作成します。, models/amazon_model.xml
.
5. モデル構成の説明:
<models>
<model>
<!-- Model type. Now catboost only. -->
<type>catboost</type>
<!-- Model name. -->
<name>amazon</name>
<!-- Path to trained model. -->
<path>/home/catboost/tutorial/catboost_model.bin</path>
<!-- Update interval. -->
<lifetime>0</lifetime>
</model>
</models>
6. CatBoostへのパスとモデル設定をClickHouse設定に追加します:
<!-- File etc/clickhouse-server/config.d/models_config.xml. -->
<catboost_dynamic_library_path>/home/catboost/data/libcatboostmodel.so</catboost_dynamic_library_path>
<models_config>/home/catboost/models/*_model.xml</models_config>
4. SQLからモデル推論を実行する
試験モデルのClickHouseト $ clickhouse client
.
モデルが動作していることを確認しましょう:
:) SELECT
modelEvaluate('amazon',
RESOURCE,
MGR_ID,
ROLE_ROLLUP_1,
ROLE_ROLLUP_2,
ROLE_DEPTNAME,
ROLE_TITLE,
ROLE_FAMILY_DESC,
ROLE_FAMILY,
ROLE_CODE) > 0 AS prediction,
ACTION AS target
FROM amazon_train
LIMIT 10
!!! note "注" 関数 モデル評価 マルチクラスモデルのクラスごとの生の予測を持つタプルを返します。
のは、確率を予測してみましょう:
:) SELECT
modelEvaluate('amazon',
RESOURCE,
MGR_ID,
ROLE_ROLLUP_1,
ROLE_ROLLUP_2,
ROLE_DEPTNAME,
ROLE_TITLE,
ROLE_FAMILY_DESC,
ROLE_FAMILY,
ROLE_CODE) AS prediction,
1. / (1 + exp(-prediction)) AS probability,
ACTION AS target
FROM amazon_train
LIMIT 10
!!! note "注" 詳細について exp() 機能。
サンプルのLogLossを計算しましょう:
:) SELECT -avg(tg * log(prob) + (1 - tg) * log(1 - prob)) AS logloss
FROM
(
SELECT
modelEvaluate('amazon',
RESOURCE,
MGR_ID,
ROLE_ROLLUP_1,
ROLE_ROLLUP_2,
ROLE_DEPTNAME,
ROLE_TITLE,
ROLE_FAMILY_DESC,
ROLE_FAMILY,
ROLE_CODE) AS prediction,
1. / (1. + exp(-prediction)) AS prob,
ACTION AS tg
FROM amazon_train
)