ClickHouse/dbms/include/DB/Common/Arena.h

171 lines
4.7 KiB
C
Raw Normal View History

2012-05-31 04:49:55 +00:00
#pragma once
#include <string.h>
#include <memory>
#include <vector>
#include <Poco/SharedPtr.h>
#include <Yandex/likely.h>
#include <DB/Common/ProfileEvents.h>
#include <DB/Common/Allocator.h>
2012-05-31 04:49:55 +00:00
namespace DB
{
/** Пул, в который можно складывать что-нибудь. Например, короткие строки.
2012-05-31 04:49:55 +00:00
* Сценарий использования:
* - складываем много строк и запоминаем их адреса;
* - адреса остаются валидными в течение жизни пула;
* - при уничтожении пула, вся память освобождается;
* - память выделяется и освобождается большими кусками;
* - удаление части данных не предусмотрено;
*/
class Arena
2012-05-31 04:49:55 +00:00
{
private:
/// Непрерывный кусок памяти и указатель на свободное место в нём. Односвязный список.
struct Chunk : private Allocator /// empty base optimization
2012-05-31 04:49:55 +00:00
{
char * begin;
char * pos;
char * end;
Chunk * prev;
Chunk(size_t size_, Chunk * prev_)
{
ProfileEvents::increment(ProfileEvents::ArenaAllocChunks);
ProfileEvents::increment(ProfileEvents::ArenaAllocBytes, size_);
begin = reinterpret_cast<char *>(Allocator::alloc(size_));
2012-05-31 04:49:55 +00:00
pos = begin;
end = begin + size_;
prev = prev_;
}
~Chunk()
{
Allocator::free(begin, size());
2012-05-31 04:49:55 +00:00
if (prev)
delete prev;
}
size_t size() { return end - begin; }
};
size_t growth_factor;
size_t linear_growth_threshold;
2012-05-31 04:49:55 +00:00
/// Последний непрерывный кусок памяти.
Chunk * head;
size_t size_in_bytes;
2012-05-31 04:49:55 +00:00
static size_t roundUpToPageSize(size_t s)
2012-05-31 04:49:55 +00:00
{
2013-09-14 21:59:52 +00:00
return (s + 4096 - 1) / 4096 * 4096;
}
2012-05-31 04:49:55 +00:00
/// Если размер чанка меньше linear_growth_threshold, то рост экспоненциальный, иначе - линейный, для уменьшения потребления памяти.
size_t nextSize(size_t min_next_size) const
{
size_t size_after_grow = 0;
if (head->size() < linear_growth_threshold)
size_after_grow = head->size() * growth_factor;
else
size_after_grow = linear_growth_threshold;
if (size_after_grow < min_next_size)
size_after_grow = min_next_size;
return roundUpToPageSize(size_after_grow);
}
/// Добавить следующий непрерывный кусок памяти размера не меньше заданного.
void addChunk(size_t min_size)
{
head = new Chunk(nextSize(min_size), head);
size_in_bytes += head->size();
2012-05-31 04:49:55 +00:00
}
public:
Arena(size_t initial_size_ = 4096, size_t growth_factor_ = 2, size_t linear_growth_threshold_ = 128 * 1024 * 1024)
: growth_factor(growth_factor_), linear_growth_threshold(linear_growth_threshold_),
2014-04-08 07:58:53 +00:00
head(new Chunk(initial_size_, nullptr)), size_in_bytes(head->size())
2012-05-31 04:49:55 +00:00
{
}
~Arena()
2012-05-31 04:49:55 +00:00
{
delete head;
}
/// Получить кусок памяти, без выравнивания.
2012-05-31 04:49:55 +00:00
char * alloc(size_t size)
{
if (unlikely(head->pos + size > head->end))
addChunk(size);
char * res = head->pos;
head->pos += size;
return res;
}
/** Отменить только что сделанное выделение памяти.
* Нужно передать размер не меньше того, который был только что выделен.
*/
void rollback(size_t size)
{
head->pos -= size;
}
/** Начать или расширить непрерывный кусок памяти.
* begin - текущее начало куска памяти, если его надо расширить, или nullptr, если его надо начать.
* Если в чанке не хватило места - скопировать существующие данные в новый кусок памяти и изменить значение begin.
*/
char * allocContinue(size_t size, char const *& begin)
{
if (unlikely(head->pos + size > head->end))
{
char * prev_end = head->pos;
addChunk(size);
if (begin)
{
begin = insert(begin, prev_end - begin);
return allocContinue(size, begin);
}
}
char * res = head->pos;
head->pos += size;
if (!begin)
begin = res;
return res;
}
/// Вставить строку без выравнивания.
2012-05-31 04:49:55 +00:00
const char * insert(const char * data, size_t size)
{
char * res = alloc(size);
memcpy(res, data, size);
return res;
}
/// Размер выделенного пула в байтах
size_t size() const
{
return size_in_bytes;
}
2012-05-31 04:49:55 +00:00
};
typedef Poco::SharedPtr<Arena> ArenaPtr;
typedef std::vector<ArenaPtr> Arenas;
2012-05-31 04:49:55 +00:00
}