mirror of
https://github.com/ClickHouse/ClickHouse.git
synced 2024-11-16 04:32:33 +00:00
387cbca505
* Create SECURITY.md
* [experimental] auto-mark documentation PRs with labels
* revert #6544
* Sync RPM packages instructions to other docs languages
* Move tutorial to documentation with old content (for now)
* refactor installation guide a bit
* add ../en/getting_started/index.md
* Rename ya_metrica_task.md
* Rename ya_metrica_task.md
* Refactor Yandex.Metrica dataset description
* WIP on rewriting tutorial
* tmp commit
* lots of docs fixes
* partially revert c136bee4ce
* try to fix docs build in CI
* try to fix docs build in CI
* few minor improvements
* Quick refactoring of last portion of tutorial (not thoroughly tested though)
* fix link
50 lines
6.5 KiB
Markdown
50 lines
6.5 KiB
Markdown
<div dir="rtl" markdown="1">
|
||
|
||
# ClickHouse ﻪﭽﺨﯾﺭﺎﺗ
|
||
|
||
ClickHouse در ابتدا برای قدرت به Yandex.Metrica دومین بستر آنالیز وب در دنیا توسعه داده شد، و همچنان جز اصلی آن است. ClickHouse اجازه می دهند که با بیش از 13 تریلیون رکورد در دیتابیس و بیش از 20 میلیارد event در روز، گزارش های مستقیم (On the fly) از داده های non-aggregate تهیه کنیم. این مقاله پیشنیه ی تاریخی در ارتباط با اهداف اصلی ClickHouse قبل از آنکه به یک محصول open source تبدیل شود، می دهد.
|
||
|
||
Yandex.Metrica تولید گزارش های برپایه بازدید و session ها به صورت on the fly و با استفده از بخش های دلخواه و دوره ی زمانی که توسط کاربر انتخاب می شود را انجام می دهد. aggregate های پیچیده معمولا مورد نیاز هستند، مانند تعداد بازدیدکنندگان unique. داده های جدید برای تهیه گزارش گیری به صورت real-time می رسند.
|
||
|
||
از آوریل 2014، Yandex.Metrica تقریبا 12 میلیارد event شامل page view و click در روز دریافت کرد. تمام این event ها باید به ترتیب برای ساخت گزارش های سفارشی ذخیره سازی می شدند. یک query ممکن است نیاز به اسکن کردن میلیون ها سطر با زمان کمتر از چند صد میلی ثانیه، یا چند صد میلیون سطر در عرض چند ثانیه داشته باشد.
|
||
|
||
## استفاده در Yandex.Metrica و دیگر سرویس های Yandex
|
||
|
||
ClickHouse با چندین اهداف در Yandex.Metrica استفاده می شود. وظیفه اصلی آن ساخت گزارش های آنلاین از داده های non-aggregate می باشد. ClickHouse در یک کلاستر با سایز 374 سرور، که بیش از 20.3 تریلیون سطر در دیتابیس را دارد مورد استفاده قرار می گیرد. اندازه فشرده داده ها، بدون شمارش داده های تکراری و replication، حدود 2 پتابایت می باشد. اندازه ی غیرفشرده داده ها (در فرمت TSV) حدودا 17 پتابایت می باشد.
|
||
|
||
ClickHouse همچنین در موارد زیراستفاده می شود:
|
||
|
||
- ذخیره سازی داده ها برای Session replay از Yandex.Metrica.
|
||
- پردازش داده های Intermediate.
|
||
- ساخت گزارش های سراسری از آنالیز ها.
|
||
- اجرای query ها برای debug کردن موتور Yandex.Metrica.
|
||
- آنالیز لاگ های به دست آمده از API ها و user interface.
|
||
|
||
ClickHouse حداقل در دوازده جای دیگر سرویس Yandex نصب شده است: در search verticals، Market، Direct، Business Analytics، Mobile Development، AdFox، سرویس های شخصی و..
|
||
|
||
## داده های Aggregate , Non-Aggregate
|
||
|
||
یک دیدگاه محبوب وجود دارد که شما باید، داده های خود را به منظور کاهش اندازه داده ها Aggregate کنید.
|
||
|
||
اما به دلایل زیر، aggregate کردن داده ها راه حل بسیار محدودی است:
|
||
|
||
- شما باید لیست گزارش های از قبل تعریف شده توسط کاربر که نیاز به تهیه گزارش آنها را دارید، داشته باشید.
|
||
- کاربر نمیتواند گزارش های سفارشی تهیه کند.
|
||
- در هنگام aggregate کردن تعداد بسیار زیاد key، اندازه ی داده ها کم نمی شود و aggregate بی فایده است.
|
||
- برای تعداد زیادی از گزارش ها، aggregate های متنوع و تغییرپذیر زیادی وجود دارد. (انفجار ترکیبی).
|
||
- هنگام aggregate کردن key ها با cardinality بالا (مثل URL ها)، اندازه داده ها به اندازه کافی کاهش پیدا نمی کند (کمتر از دو برابر).
|
||
- به این دلیل اندازه ی داده ها با aggregate کردن ممکن است به جای شکستن، رشد هم بکند.
|
||
- کاربر تمام گزارش هایی که ما تولید کردیم را نگاه نمی کند. بخش بزرگی از محاسبات بی فایده است.
|
||
- یکپارچگی منطقی داده ها ممکن است برای aggregate های مختلف نقض شود.
|
||
|
||
اگر ما هیچ چیزی را aggregate نکنیم و با داده های non-aggregate کار کنیم، در واقع این ممکن است باعث کاهش اندازه ی محاسبات شود.
|
||
|
||
با این حال، با aggregate کردن، بخش قابل توجهی از کار به صورت آفلاین انجام می شود و نسبتا آرام به پایان می رسد. در مقابل، محاسبات آنلاین به دلیل اینکه کاربر منتظر نمایش نتایج می باشد، نیازمند محاسبه سریع تا جایی که ممکن است می باشد.
|
||
|
||
Yandex.Metrica دارای یک سیستم تخصصی برای aggregate کردن داده ها به اسم Metrage می باشد، که برای اکثریت گزارش های مورد استفاده قرار می گیرد. شروع سال 2009، Yandex.Metrica همچنین از یک دیتابیس تخصصی OLAP برای داده های non-aggregate به نام OLAPServer، که قبلا برای ساخت گزارش ها استفاده می شد، استفاده می کرد. OLAPServer به خوبی روی داده های Non-Aggregate کار می کرد، اما محدودیت های بسیار زیادی داشت که اجازه ی استفاده در تمام گزارش های دلخواه را نمی داد. مواردی از قبیل عدم پشتیبانی از data type ها (فقط عدد)، و عدم توانایی در بروزرسانی افزایشی داده ها به صورت real-time (این کار فقط به rewrite کردن داده ها به صورت روزانه امکام پذیر بود). OLAPServer یک مدیریت دیتابیس نبود اما یک دیتابیس تخصصی بود.
|
||
|
||
برای حذف محدودیت های OLAPServer و حل مشکلات کار با داده های Non-Aggregate برای تمام گزارش ها، ما مدیریت دیتابیس ClicHouse را توسعه دادیم..
|
||
|
||
</div>
|
||
[مقاله اصلی](https://clickhouse.yandex/docs/fa/introduction/ya_metrika_task/) <!--hide-->
|