2014-03-13 12:48:07 +00:00
|
|
|
|
#pragma once
|
|
|
|
|
|
|
|
|
|
#include <DB/Storages/MergeTree/MergeTreeData.h>
|
2014-08-04 11:41:59 +00:00
|
|
|
|
#include <DB/Storages/MergeTree/DiskSpaceMonitor.h>
|
2014-03-13 12:48:07 +00:00
|
|
|
|
|
|
|
|
|
namespace DB
|
|
|
|
|
{
|
|
|
|
|
|
|
|
|
|
/** Умеет выбирать куски для слияния и сливать их.
|
|
|
|
|
*/
|
|
|
|
|
class MergeTreeDataMerger
|
|
|
|
|
{
|
|
|
|
|
public:
|
2014-05-14 17:51:37 +00:00
|
|
|
|
static const size_t NO_LIMIT = std::numeric_limits<size_t>::max();
|
|
|
|
|
|
2014-05-08 07:12:01 +00:00
|
|
|
|
MergeTreeDataMerger(MergeTreeData & data_) : data(data_), log(&Logger::get(data.getLogName() + " (Merger)")), canceled(false) {}
|
2014-03-13 12:48:07 +00:00
|
|
|
|
|
2014-04-04 10:37:33 +00:00
|
|
|
|
typedef std::function<bool (const MergeTreeData::DataPartPtr &, const MergeTreeData::DataPartPtr &)> AllowedMergingPredicate;
|
2014-03-13 17:44:00 +00:00
|
|
|
|
|
|
|
|
|
/** Выбирает, какие куски слить. Использует кучу эвристик.
|
|
|
|
|
* Если merge_anything_for_old_months, для кусков за прошедшие месяцы снимается ограничение на соотношение размеров.
|
2014-05-14 17:51:37 +00:00
|
|
|
|
* Выбирает куски так, чтобы available_disk_space, скорее всего, хватило с запасом для их слияния.
|
2014-03-13 17:44:00 +00:00
|
|
|
|
*
|
|
|
|
|
* can_merge - функция, определяющая, можно ли объединить пару соседних кусков.
|
|
|
|
|
* Эта функция должна координировать слияния со вставками и другими слияниями, обеспечивая, что:
|
|
|
|
|
* - Куски, между которыми еще может появиться новый кусок, нельзя сливать. См. METR-7001.
|
|
|
|
|
* - Кусок, который уже сливается с кем-то в одном месте, нельзя начать сливать в кем-то другим в другом месте.
|
|
|
|
|
*/
|
2014-03-13 12:48:07 +00:00
|
|
|
|
bool selectPartsToMerge(
|
|
|
|
|
MergeTreeData::DataPartsVector & what,
|
2014-04-04 10:37:33 +00:00
|
|
|
|
String & merged_name,
|
2014-03-13 12:48:07 +00:00
|
|
|
|
size_t available_disk_space,
|
|
|
|
|
bool merge_anything_for_old_months,
|
2014-03-13 17:44:00 +00:00
|
|
|
|
bool aggressive,
|
|
|
|
|
bool only_small,
|
|
|
|
|
const AllowedMergingPredicate & can_merge);
|
2014-03-13 12:48:07 +00:00
|
|
|
|
|
2014-08-04 11:41:59 +00:00
|
|
|
|
/** Сливает куски.
|
|
|
|
|
* Если reservation != nullptr, то и дело уменьшает размер зарезервированного места
|
|
|
|
|
* приблизительно пропорционально количеству уже выписанных данных.
|
|
|
|
|
*/
|
2014-07-01 15:58:25 +00:00
|
|
|
|
MergeTreeData::DataPartPtr mergeParts(
|
2014-09-10 11:34:26 +00:00
|
|
|
|
const MergeTreeData::DataPartsVector & parts, const String & merged_name, MergeList::Entry & merge_entry,
|
2014-08-04 11:41:59 +00:00
|
|
|
|
MergeTreeData::Transaction * out_transaction = nullptr, DiskSpaceMonitor::Reservation * disk_reservation = nullptr);
|
2014-03-13 12:48:07 +00:00
|
|
|
|
|
|
|
|
|
/// Примерное количество места на диске, нужное для мерджа. С запасом.
|
|
|
|
|
size_t estimateDiskSpaceForMerge(const MergeTreeData::DataPartsVector & parts);
|
|
|
|
|
|
2014-05-13 10:10:26 +00:00
|
|
|
|
/** Отменяет все мерджи. Все выполняющиеся сейчас вызовы mergeParts скоро бросят исключение.
|
|
|
|
|
* Все новые вызовы будут бросать исключения, пока не будет вызван uncancelAll().
|
2014-03-13 12:48:07 +00:00
|
|
|
|
*/
|
|
|
|
|
void cancelAll() { canceled = true; }
|
|
|
|
|
|
2014-05-13 10:10:26 +00:00
|
|
|
|
void uncancelAll() { canceled = false; }
|
|
|
|
|
|
2014-03-13 12:48:07 +00:00
|
|
|
|
private:
|
|
|
|
|
MergeTreeData & data;
|
|
|
|
|
|
|
|
|
|
Logger * log;
|
|
|
|
|
|
2014-05-21 10:20:41 +00:00
|
|
|
|
/// Когда в последний раз писали в лог, что место на диске кончилось (чтобы не писать об этом слишком часто).
|
|
|
|
|
time_t disk_space_warning_time = 0;
|
|
|
|
|
|
2014-03-13 12:48:07 +00:00
|
|
|
|
volatile bool canceled;
|
|
|
|
|
};
|
|
|
|
|
|
|
|
|
|
}
|