mirror of
https://github.com/ClickHouse/ClickHouse.git
synced 2024-11-24 08:32:02 +00:00
908 lines
28 KiB
C++
908 lines
28 KiB
C++
#pragma once
|
||
|
||
#include <string.h>
|
||
|
||
#include <malloc.h>
|
||
#include <math.h>
|
||
|
||
#include <utility>
|
||
|
||
#include <boost/noncopyable.hpp>
|
||
|
||
#include <common/likely.h>
|
||
|
||
#include <DB/Core/Defines.h>
|
||
#include <DB/Core/Types.h>
|
||
#include <DB/Common/Exception.h>
|
||
|
||
#include <DB/IO/WriteBuffer.h>
|
||
#include <DB/IO/WriteHelpers.h>
|
||
#include <DB/IO/ReadBuffer.h>
|
||
#include <DB/IO/ReadHelpers.h>
|
||
#include <DB/IO/VarInt.h>
|
||
|
||
#include <DB/Common/HashTable/HashTableAllocator.h>
|
||
|
||
#ifdef DBMS_HASH_MAP_DEBUG_RESIZES
|
||
#include <iostream>
|
||
#include <iomanip>
|
||
#include <DB/Common/Stopwatch.h>
|
||
#endif
|
||
|
||
|
||
namespace DB
|
||
{
|
||
namespace ErrorCodes
|
||
{
|
||
extern const int LOGICAL_ERROR;
|
||
extern const int NO_AVAILABLE_DATA;
|
||
}
|
||
}
|
||
|
||
|
||
/** Состояние хэш-таблицы, которое влияет на свойства её ячеек.
|
||
* Используется в качестве параметра шаблона.
|
||
* Например, существует реализация мгновенно-очищаемой хэш-таблицы - ClearableHashMap.
|
||
* Для неё, в каждой ячейке хранится номер версии, и в самой хэш-таблице - текущая версия.
|
||
* При очистке, просто увеличивается текущая версия; все ячейки с несовпадающей версией считаются пустыми.
|
||
* Другой пример: для приближённого рассчёта количества уникальных посетителей, есть хэш-таблица UniquesHashSet.
|
||
* В ней имеется понятие "степень". При каждом переполнении, ячейки с ключами, не делящимися на соответствующую степень двух, удаляются.
|
||
*/
|
||
struct HashTableNoState
|
||
{
|
||
/// Сериализация, в бинарном и текстовом виде.
|
||
void write(DB::WriteBuffer & wb) const {}
|
||
void writeText(DB::WriteBuffer & wb) const {}
|
||
|
||
/// Десериализация, в бинарном и текстовом виде.
|
||
void read(DB::ReadBuffer & rb) {}
|
||
void readText(DB::ReadBuffer & rb) {}
|
||
};
|
||
|
||
|
||
/// Эти функции могут быть перегружены для пользовательских типов.
|
||
namespace ZeroTraits
|
||
{
|
||
|
||
template <typename T>
|
||
bool check(const T x) { return x == 0; }
|
||
|
||
template <typename T>
|
||
void set(T & x) { x = 0; }
|
||
|
||
};
|
||
|
||
|
||
/** Compile-time интерфейс ячейки хэш-таблицы.
|
||
* Разные ячейки используются для реализации разных хэш-таблиц.
|
||
* Ячейка должна содержать ключ.
|
||
* Также может содержать значение и произвольные дополнительные данные
|
||
* (пример: запомненное значение хэш-функции; номер версии для ClearableHashMap).
|
||
*/
|
||
template <typename Key, typename Hash, typename TState = HashTableNoState>
|
||
struct HashTableCell
|
||
{
|
||
typedef TState State;
|
||
|
||
typedef Key value_type;
|
||
Key key;
|
||
|
||
HashTableCell() {}
|
||
|
||
/// Создать ячейку с заданным ключём / ключём и значением.
|
||
HashTableCell(const Key & key_, const State & state) : key(key_) {}
|
||
/// HashTableCell(const value_type & value_, const State & state) : key(value_) {}
|
||
|
||
/// Получить то, что будет value_type контейнера.
|
||
value_type & getValue() { return key; }
|
||
const value_type & getValue() const { return key; }
|
||
|
||
/// Получить ключ.
|
||
static Key & getKey(value_type & value) { return value; }
|
||
static const Key & getKey(const value_type & value) { return value; }
|
||
|
||
/// Равны ли ключи у ячеек.
|
||
bool keyEquals(const Key & key_) const { return key == key_; }
|
||
bool keyEquals(const Key & key_, size_t hash_) const { return key == key_; }
|
||
|
||
/// Если ячейка умеет запоминать в себе значение хэш-функции, то запомнить его.
|
||
void setHash(size_t hash_value) {}
|
||
|
||
/// Если ячейка умеет запоминать в себе значение хэш-функции, то вернуть запомненное значение.
|
||
/// Оно должно быть хотя бы один раз вычислено до этого.
|
||
/// Если запоминание значения хэш-функции не предусмотрено, то просто вычислить хэш.
|
||
size_t getHash(const Hash & hash) const { return hash(key); }
|
||
|
||
/// Является ли ключ нулевым. В основном буфере, ячейки с нулевым ключём, считаются пустыми.
|
||
/// Если нулевые ключи могут быть вставлены в таблицу, то ячейка для нулевого ключа хранится отдельно, не в основном буфере.
|
||
/// Нулевые ключи должны быть такими, что занулённый кусок памяти представляет собой нулевой ключ.
|
||
bool isZero(const State & state) const { return isZero(key, state); }
|
||
static bool isZero(const Key & key, const State & state) { return ZeroTraits::check(key); }
|
||
|
||
/// Установить значение ключа в ноль.
|
||
void setZero() { ZeroTraits::set(key); }
|
||
|
||
/// Нужно ли хранить нулевой ключ отдельно (то есть, могут ли в хэш-таблицу вставить нулевой ключ).
|
||
static constexpr bool need_zero_value_storage = true;
|
||
|
||
/// Является ли ячейка удалённой.
|
||
bool isDeleted() const { return false; }
|
||
|
||
/// Установить отображаемое значение, если есть (для HashMap), в соответствующиее из value.
|
||
void setMapped(const value_type & value) {}
|
||
|
||
/// Сериализация, в бинарном и текстовом виде.
|
||
void write(DB::WriteBuffer & wb) const { DB::writeBinary(key, wb); }
|
||
void writeText(DB::WriteBuffer & wb) const { DB::writeDoubleQuoted(key, wb); }
|
||
|
||
/// Десериализация, в бинарном и текстовом виде.
|
||
void read(DB::ReadBuffer & rb) { DB::readBinary(key, rb); }
|
||
void readText(DB::ReadBuffer & rb) { DB::writeDoubleQuoted(key, rb); }
|
||
};
|
||
|
||
|
||
/** Определяет размер хэш-таблицы, а также когда и во сколько раз её надо ресайзить.
|
||
*/
|
||
template <size_t initial_size_degree = 8>
|
||
struct HashTableGrower
|
||
{
|
||
/// Состояние этой структуры достаточно, чтобы получить размер буфера хэш-таблицы.
|
||
|
||
UInt8 size_degree = initial_size_degree;
|
||
|
||
/// Размер хэш-таблицы в ячейках.
|
||
size_t bufSize() const { return 1 << size_degree; }
|
||
|
||
size_t maxFill() const { return 1 << (size_degree - 1); }
|
||
size_t mask() const { return bufSize() - 1; }
|
||
|
||
/// Из значения хэш-функции получить номер ячейки в хэш-таблице.
|
||
size_t place(size_t x) const { return x & mask(); }
|
||
|
||
/// Следующая ячейка в цепочке разрешения коллизий.
|
||
size_t next(size_t pos) const { ++pos; return pos & mask(); }
|
||
|
||
/// Является ли хэш-таблица достаточно заполненной. Нужно увеличить размер хэш-таблицы, или удалить из неё что-нибудь ненужное.
|
||
bool overflow(size_t elems) const { return elems > maxFill(); }
|
||
|
||
/// Увеличить размер хэш-таблицы.
|
||
void increaseSize()
|
||
{
|
||
size_degree += size_degree >= 23 ? 1 : 2;
|
||
}
|
||
|
||
/// Установить размер буфера по количеству элементов хэш-таблицы. Используется при десериализации хэш-таблицы.
|
||
void set(size_t num_elems)
|
||
{
|
||
size_degree = num_elems <= 1
|
||
? initial_size_degree
|
||
: ((initial_size_degree > static_cast<size_t>(log2(num_elems - 1)) + 2)
|
||
? initial_size_degree
|
||
: (static_cast<size_t>(log2(num_elems - 1)) + 2));
|
||
}
|
||
|
||
void setBufSize(size_t buf_size_)
|
||
{
|
||
size_degree = static_cast<size_t>(log2(buf_size_ - 1) + 1);
|
||
}
|
||
};
|
||
|
||
|
||
/** При использовании в качестве Grower-а, превращает хэш-таблицу в что-то типа lookup-таблицы.
|
||
* Остаётся неоптимальность - в ячейках хранятся ключи.
|
||
* Также компилятору не удаётся полностью удалить код хождения по цепочке разрешения коллизий, хотя он не нужен.
|
||
* TODO Сделать полноценную lookup-таблицу.
|
||
*/
|
||
template <size_t key_bits>
|
||
struct HashTableFixedGrower
|
||
{
|
||
size_t bufSize() const { return 1 << key_bits; }
|
||
size_t place(size_t x) const { return x; }
|
||
/// Тут можно было бы написать __builtin_unreachable(), но компилятор не до конца всё оптимизирует, и получается менее эффективно.
|
||
size_t next(size_t pos) const { return pos + 1; }
|
||
bool overflow(size_t elems) const { return false; }
|
||
|
||
void increaseSize() { __builtin_unreachable(); }
|
||
void set(size_t num_elems) {}
|
||
void setBufSize(size_t buf_size_) {}
|
||
};
|
||
|
||
|
||
/** Если нужно хранить нулевой ключ отдельно - место для его хранения. */
|
||
template <bool need_zero_value_storage, typename Cell>
|
||
struct ZeroValueStorage;
|
||
|
||
template <typename Cell>
|
||
struct ZeroValueStorage<true, Cell>
|
||
{
|
||
private:
|
||
bool has_zero = false;
|
||
char zero_value_storage[sizeof(Cell)] __attribute__((__aligned__(__alignof__(Cell)))); /// Кусок памяти для элемента с ключём 0.
|
||
|
||
public:
|
||
bool hasZero() const { return has_zero; }
|
||
void setHasZero() { has_zero = true; }
|
||
void clearHasZero() { has_zero = false; }
|
||
|
||
Cell * zeroValue() { return reinterpret_cast<Cell*>(zero_value_storage); }
|
||
const Cell * zeroValue() const { return reinterpret_cast<const Cell*>(zero_value_storage); }
|
||
};
|
||
|
||
template <typename Cell>
|
||
struct ZeroValueStorage<false, Cell>
|
||
{
|
||
bool hasZero() const { return false; }
|
||
void setHasZero() { throw DB::Exception("HashTable: logical error", DB::ErrorCodes::LOGICAL_ERROR); }
|
||
void clearHasZero() {}
|
||
|
||
Cell * zeroValue() { return nullptr; }
|
||
const Cell * zeroValue() const { return nullptr; }
|
||
};
|
||
|
||
|
||
template
|
||
<
|
||
typename Key,
|
||
typename Cell,
|
||
typename Hash,
|
||
typename Grower,
|
||
typename Allocator
|
||
>
|
||
class HashTable :
|
||
private boost::noncopyable,
|
||
protected Hash,
|
||
protected Allocator,
|
||
protected Cell::State,
|
||
protected ZeroValueStorage<Cell::need_zero_value_storage, Cell> /// empty base optimization
|
||
{
|
||
protected:
|
||
friend class const_iterator;
|
||
friend class iterator;
|
||
friend class Reader;
|
||
|
||
template <typename, typename, typename, typename, typename, typename, size_t>
|
||
friend class TwoLevelHashTable;
|
||
|
||
typedef size_t HashValue;
|
||
typedef HashTable<Key, Cell, Hash, Grower, Allocator> Self;
|
||
typedef Cell cell_type;
|
||
|
||
size_t m_size = 0; /// Количество элементов
|
||
Cell * buf; /// Кусок памяти для всех элементов кроме элемента с ключём 0.
|
||
Grower grower;
|
||
|
||
#ifdef DBMS_HASH_MAP_COUNT_COLLISIONS
|
||
mutable size_t collisions = 0;
|
||
#endif
|
||
|
||
/// Найти ячейку с тем же ключём или пустую ячейку, начиная с заданного места и далее по цепочке разрешения коллизий.
|
||
size_t ALWAYS_INLINE findCell(const Key & x, size_t hash_value, size_t place_value) const
|
||
{
|
||
while (!buf[place_value].isZero(*this) && !buf[place_value].keyEquals(x, hash_value))
|
||
{
|
||
place_value = grower.next(place_value);
|
||
#ifdef DBMS_HASH_MAP_COUNT_COLLISIONS
|
||
++collisions;
|
||
#endif
|
||
}
|
||
|
||
return place_value;
|
||
}
|
||
|
||
/// Найти пустую ячейку, начиная с заданного места и далее по цепочке разрешения коллизий.
|
||
size_t ALWAYS_INLINE findEmptyCell(const Key & x, size_t hash_value, size_t place_value) const
|
||
{
|
||
while (!buf[place_value].isZero(*this))
|
||
{
|
||
place_value = grower.next(place_value);
|
||
#ifdef DBMS_HASH_MAP_COUNT_COLLISIONS
|
||
++collisions;
|
||
#endif
|
||
}
|
||
|
||
return place_value;
|
||
}
|
||
|
||
void alloc(const Grower & new_grower)
|
||
{
|
||
buf = reinterpret_cast<Cell *>(Allocator::alloc(new_grower.bufSize() * sizeof(Cell)));
|
||
grower = new_grower;
|
||
}
|
||
|
||
void free()
|
||
{
|
||
if (buf)
|
||
{
|
||
Allocator::free(buf, getBufferSizeInBytes());
|
||
buf = nullptr;
|
||
}
|
||
}
|
||
|
||
|
||
/// Увеличить размер буфера.
|
||
void resize(size_t for_num_elems = 0, size_t for_buf_size = 0)
|
||
{
|
||
#ifdef DBMS_HASH_MAP_DEBUG_RESIZES
|
||
Stopwatch watch;
|
||
#endif
|
||
|
||
size_t old_size = grower.bufSize();
|
||
|
||
/** Чтобы в случае исключения, объект остался в корректном состоянии,
|
||
* изменение переменной grower (определяющией размер буфера хэш-таблицы)
|
||
* откладываем на момент после реального изменения буфера.
|
||
* Временная переменная new_grower используется, чтобы определить новый размер.
|
||
*/
|
||
Grower new_grower = grower;
|
||
|
||
if (for_num_elems)
|
||
{
|
||
new_grower.set(for_num_elems);
|
||
if (new_grower.bufSize() <= old_size)
|
||
return;
|
||
}
|
||
else if (for_buf_size)
|
||
{
|
||
new_grower.setBufSize(for_buf_size);
|
||
if (new_grower.bufSize() <= old_size)
|
||
return;
|
||
}
|
||
else
|
||
new_grower.increaseSize();
|
||
|
||
/// Расширим пространство.
|
||
buf = reinterpret_cast<Cell *>(Allocator::realloc(buf, getBufferSizeInBytes(), new_grower.bufSize() * sizeof(Cell)));
|
||
grower = new_grower;
|
||
|
||
/** Теперь некоторые элементы может потребоваться переместить на новое место.
|
||
* Элемент может остаться на месте, или переместиться в новое место "справа",
|
||
* или переместиться левее по цепочке разрешения коллизий, из-за того, что элементы левее него были перемещены в новое место "справа".
|
||
*/
|
||
size_t i = 0;
|
||
for (; i < old_size; ++i)
|
||
if (!buf[i].isZero(*this) && !buf[i].isDeleted())
|
||
reinsert(buf[i]);
|
||
|
||
/** Также имеется особый случай:
|
||
* если элемент должен был быть в конце старого буфера, [ x]
|
||
* но находится в начале из-за цепочки разрешения коллизий, [o x]
|
||
* то после ресайза, он сначала снова окажется не на своём месте, [ xo ]
|
||
* и для того, чтобы перенести его куда надо,
|
||
* надо будет после переноса всех элементов из старой половинки [ o x ]
|
||
* обработать ещё хвостик из цепочки разрешения коллизий сразу после неё [ o x ]
|
||
*/
|
||
for (; !buf[i].isZero(*this) && !buf[i].isDeleted(); ++i)
|
||
reinsert(buf[i]);
|
||
|
||
#ifdef DBMS_HASH_MAP_DEBUG_RESIZES
|
||
watch.stop();
|
||
std::cerr << std::fixed << std::setprecision(3)
|
||
<< "Resize from " << old_size << " to " << grower.bufSize() << " took " << watch.elapsedSeconds() << " sec."
|
||
<< std::endl;
|
||
#endif
|
||
}
|
||
|
||
|
||
/** Вставить в новый буфер значение, которое было в старом буфере.
|
||
* Используется при увеличении размера буфера.
|
||
*/
|
||
void reinsert(Cell & x)
|
||
{
|
||
size_t hash_value = x.getHash(*this);
|
||
size_t place_value = grower.place(hash_value);
|
||
|
||
/// Если элемент на своём месте.
|
||
if (&x == &buf[place_value])
|
||
return;
|
||
|
||
/// Вычисление нового места, с учётом цепочки разрешения коллизий.
|
||
place_value = findCell(Cell::getKey(x.getValue()), hash_value, place_value);
|
||
|
||
/// Если элемент остался на своём месте в старой цепочке разрешения коллизий.
|
||
if (!buf[place_value].isZero(*this))
|
||
return;
|
||
|
||
/// Копирование на новое место и зануление старого.
|
||
memcpy(&buf[place_value], &x, sizeof(x));
|
||
x.setZero();
|
||
|
||
/// Потом на старое место могут переместиться элементы, которые раньше были в коллизии с этим.
|
||
}
|
||
|
||
|
||
void destroyElements()
|
||
{
|
||
if (!__has_trivial_destructor(Cell))
|
||
for (iterator it = begin(); it != end(); ++it)
|
||
it.ptr->~Cell();
|
||
}
|
||
|
||
|
||
public:
|
||
typedef Key key_type;
|
||
typedef typename Cell::value_type value_type;
|
||
|
||
size_t hash(const Key & x) const { return Hash::operator()(x); }
|
||
|
||
|
||
HashTable()
|
||
{
|
||
if (Cell::need_zero_value_storage)
|
||
this->zeroValue()->setZero();
|
||
alloc(grower);
|
||
}
|
||
|
||
HashTable(size_t reserve_for_num_elements)
|
||
{
|
||
if (Cell::need_zero_value_storage)
|
||
this->zeroValue()->setZero();
|
||
grower.set(reserve_for_num_elements);
|
||
alloc(grower);
|
||
}
|
||
|
||
~HashTable()
|
||
{
|
||
destroyElements();
|
||
free();
|
||
}
|
||
|
||
class Reader final : private Cell::State
|
||
{
|
||
public:
|
||
Reader(DB::ReadBuffer & in_)
|
||
: in(in_)
|
||
{
|
||
}
|
||
|
||
Reader(const Reader &) = delete;
|
||
Reader & operator=(const Reader &) = delete;
|
||
|
||
bool next()
|
||
{
|
||
if (!is_initialized)
|
||
{
|
||
Cell::State::read(in);
|
||
DB::readVarUInt(size, in);
|
||
is_initialized = true;
|
||
}
|
||
|
||
if (read_count == size)
|
||
{
|
||
is_eof = true;
|
||
return false;
|
||
}
|
||
|
||
cell.read(in);
|
||
++read_count;
|
||
|
||
return true;
|
||
}
|
||
|
||
inline const value_type & get() const
|
||
{
|
||
if (!is_initialized || is_eof)
|
||
throw DB::Exception("No available data", DB::ErrorCodes::NO_AVAILABLE_DATA);
|
||
|
||
return cell.getValue();
|
||
}
|
||
|
||
private:
|
||
DB::ReadBuffer & in;
|
||
Cell cell;
|
||
size_t read_count = 0;
|
||
size_t size;
|
||
bool is_eof = false;
|
||
bool is_initialized = false;
|
||
};
|
||
|
||
class iterator
|
||
{
|
||
Self * container;
|
||
Cell * ptr;
|
||
|
||
friend class HashTable;
|
||
|
||
public:
|
||
iterator() {}
|
||
iterator(Self * container_, Cell * ptr_) : container(container_), ptr(ptr_) {}
|
||
|
||
bool operator== (const iterator & rhs) const { return ptr == rhs.ptr; }
|
||
bool operator!= (const iterator & rhs) const { return ptr != rhs.ptr; }
|
||
|
||
iterator & operator++()
|
||
{
|
||
if (unlikely(ptr->isZero(*container)))
|
||
ptr = container->buf;
|
||
else
|
||
++ptr;
|
||
|
||
while (ptr < container->buf + container->grower.bufSize() && ptr->isZero(*container))
|
||
++ptr;
|
||
|
||
return *this;
|
||
}
|
||
|
||
value_type & operator* () const { return ptr->getValue(); }
|
||
value_type * operator->() const { return &ptr->getValue(); }
|
||
|
||
Cell * getPtr() const { return ptr; }
|
||
size_t getHash() const { return ptr->getHash(*container); }
|
||
};
|
||
|
||
|
||
class const_iterator
|
||
{
|
||
const Self * container;
|
||
const Cell * ptr;
|
||
|
||
friend class HashTable;
|
||
|
||
public:
|
||
const_iterator() {}
|
||
const_iterator(const Self * container_, const Cell * ptr_) : container(container_), ptr(ptr_) {}
|
||
const_iterator(const iterator & rhs) : container(rhs.container), ptr(rhs.ptr) {}
|
||
|
||
bool operator== (const const_iterator & rhs) const { return ptr == rhs.ptr; }
|
||
bool operator!= (const const_iterator & rhs) const { return ptr != rhs.ptr; }
|
||
|
||
const_iterator & operator++()
|
||
{
|
||
if (unlikely(ptr->isZero(*container)))
|
||
ptr = container->buf;
|
||
else
|
||
++ptr;
|
||
|
||
while (ptr < container->buf + container->grower.bufSize() && ptr->isZero(*container))
|
||
++ptr;
|
||
|
||
return *this;
|
||
}
|
||
|
||
const value_type & operator* () const { return ptr->getValue(); }
|
||
const value_type * operator->() const { return &ptr->getValue(); }
|
||
|
||
const Cell * getPtr() const { return ptr; }
|
||
size_t getHash() const { return ptr->getHash(*container); }
|
||
};
|
||
|
||
|
||
const_iterator begin() const
|
||
{
|
||
if (!buf)
|
||
return end();
|
||
|
||
if (this->hasZero())
|
||
return iteratorToZero();
|
||
|
||
const Cell * ptr = buf;
|
||
while (ptr < buf + grower.bufSize() && ptr->isZero(*this))
|
||
++ptr;
|
||
|
||
return const_iterator(this, ptr);
|
||
}
|
||
|
||
iterator begin()
|
||
{
|
||
if (!buf)
|
||
return end();
|
||
|
||
if (this->hasZero())
|
||
return iteratorToZero();
|
||
|
||
Cell * ptr = buf;
|
||
while (ptr < buf + grower.bufSize() && ptr->isZero(*this))
|
||
++ptr;
|
||
|
||
return iterator(this, ptr);
|
||
}
|
||
|
||
const_iterator end() const { return const_iterator(this, buf + grower.bufSize()); }
|
||
iterator end() { return iterator(this, buf + grower.bufSize()); }
|
||
|
||
|
||
protected:
|
||
const_iterator iteratorTo(const Cell * ptr) const { return const_iterator(this, ptr); }
|
||
iterator iteratorTo(Cell * ptr) { return iterator(this, ptr); }
|
||
const_iterator iteratorToZero() const { return iteratorTo(this->zeroValue()); }
|
||
iterator iteratorToZero() { return iteratorTo(this->zeroValue()); }
|
||
|
||
|
||
/// Если ключ нулевой - вставить его в специальное место и вернуть true.
|
||
bool ALWAYS_INLINE emplaceIfZero(Key x, iterator & it, bool & inserted)
|
||
{
|
||
/// Если утверждается, что нулевой ключ не могут вставить в таблицу.
|
||
if (!Cell::need_zero_value_storage)
|
||
return false;
|
||
|
||
if (Cell::isZero(x, *this))
|
||
{
|
||
it = iteratorToZero();
|
||
if (!this->hasZero())
|
||
{
|
||
++m_size;
|
||
this->setHasZero();
|
||
it.ptr->setHash(hash(x));
|
||
inserted = true;
|
||
}
|
||
else
|
||
inserted = false;
|
||
|
||
return true;
|
||
}
|
||
|
||
return false;
|
||
}
|
||
|
||
|
||
/// Только для ненулевых ключей. Найти нужное место, вставить туда ключ, если его ещё нет, вернуть итератор на ячейку.
|
||
void ALWAYS_INLINE emplaceNonZero(Key x, iterator & it, bool & inserted, size_t hash_value)
|
||
{
|
||
size_t place_value = findCell(x, hash_value, grower.place(hash_value));
|
||
|
||
it = iterator(this, &buf[place_value]);
|
||
|
||
if (!buf[place_value].isZero(*this))
|
||
{
|
||
inserted = false;
|
||
return;
|
||
}
|
||
|
||
new(&buf[place_value]) Cell(x, *this);
|
||
buf[place_value].setHash(hash_value);
|
||
inserted = true;
|
||
++m_size;
|
||
|
||
if (unlikely(grower.overflow(m_size)))
|
||
{
|
||
try
|
||
{
|
||
resize();
|
||
}
|
||
catch (...)
|
||
{
|
||
/** Если этого не делать, то будут проблемы.
|
||
* Ведь останется ключ, но неинициализированное mapped-значение,
|
||
* у которого, возможно, даже нельзя вызвать деструктор.
|
||
*/
|
||
--m_size;
|
||
buf[place_value].setZero();
|
||
throw;
|
||
}
|
||
|
||
it = find(x, hash_value);
|
||
}
|
||
}
|
||
|
||
|
||
public:
|
||
/// Вставить значение. В случае хоть сколько-нибудь сложных значений, лучше используйте функцию emplace.
|
||
std::pair<iterator, bool> ALWAYS_INLINE insert(const value_type & x)
|
||
{
|
||
std::pair<iterator, bool> res;
|
||
|
||
if (!emplaceIfZero(Cell::getKey(x), res.first, res.second))
|
||
emplaceNonZero(Cell::getKey(x), res.first, res.second, hash(Cell::getKey(x)));
|
||
|
||
if (res.second)
|
||
res.first.ptr->setMapped(x);
|
||
|
||
return res;
|
||
}
|
||
|
||
|
||
/** Вставить ключ,
|
||
* вернуть итератор на позицию, которую можно использовать для placement new значения,
|
||
* а также флаг - был ли вставлен новый ключ.
|
||
*
|
||
* Вы обязаны сделать placement new значения, если был вставлен новый ключ,
|
||
* так как при уничтожении хэш-таблицы для него будет вызываться деструктор!
|
||
*
|
||
* Пример использования:
|
||
*
|
||
* Map::iterator it;
|
||
* bool inserted;
|
||
* map.emplace(key, it, inserted);
|
||
* if (inserted)
|
||
* new(&it->second) Mapped(value);
|
||
*/
|
||
void ALWAYS_INLINE emplace(Key x, iterator & it, bool & inserted)
|
||
{
|
||
if (!emplaceIfZero(x, it, inserted))
|
||
emplaceNonZero(x, it, inserted, hash(x));
|
||
}
|
||
|
||
|
||
/// То же самое, но с заранее вычисленным значением хэш-функции.
|
||
void ALWAYS_INLINE emplace(Key x, iterator & it, bool & inserted, size_t hash_value)
|
||
{
|
||
if (!emplaceIfZero(x, it, inserted))
|
||
emplaceNonZero(x, it, inserted, hash_value);
|
||
}
|
||
|
||
|
||
/// Скопировать ячейку из другой хэш-таблицы. Предполагается, что ячейка не нулевая, а также, что такого ключа в таблице ещё не было.
|
||
void ALWAYS_INLINE insertUniqueNonZero(const Cell * cell, size_t hash_value)
|
||
{
|
||
size_t place_value = findEmptyCell(cell->getKey(cell->getValue()), hash_value, grower.place(hash_value));
|
||
|
||
memcpy(&buf[place_value], cell, sizeof(*cell));
|
||
++m_size;
|
||
|
||
if (unlikely(grower.overflow(m_size)))
|
||
resize();
|
||
}
|
||
|
||
|
||
iterator ALWAYS_INLINE find(Key x)
|
||
{
|
||
if (Cell::isZero(x, *this))
|
||
return this->hasZero() ? iteratorToZero() : end();
|
||
|
||
size_t hash_value = hash(x);
|
||
size_t place_value = findCell(x, hash_value, grower.place(hash_value));
|
||
return !buf[place_value].isZero(*this) ? iterator(this, &buf[place_value]) : end();
|
||
}
|
||
|
||
|
||
const_iterator ALWAYS_INLINE find(Key x) const
|
||
{
|
||
if (Cell::isZero(x, *this))
|
||
return this->hasZero() ? iteratorToZero() : end();
|
||
|
||
size_t hash_value = hash(x);
|
||
size_t place_value = findCell(x, hash_value, grower.place(hash_value));
|
||
return !buf[place_value].isZero(*this) ? const_iterator(this, &buf[place_value]) : end();
|
||
}
|
||
|
||
|
||
iterator ALWAYS_INLINE find(Key x, size_t hash_value)
|
||
{
|
||
if (Cell::isZero(x, *this))
|
||
return this->hasZero() ? iteratorToZero() : end();
|
||
|
||
size_t place_value = findCell(x, hash_value, grower.place(hash_value));
|
||
return !buf[place_value].isZero(*this) ? iterator(this, &buf[place_value]) : end();
|
||
}
|
||
|
||
|
||
const_iterator ALWAYS_INLINE find(Key x, size_t hash_value) const
|
||
{
|
||
if (Cell::isZero(x, *this))
|
||
return this->hasZero() ? iteratorToZero() : end();
|
||
|
||
size_t place_value = findCell(x, hash_value, grower.place(hash_value));
|
||
return !buf[place_value].isZero(*this) ? const_iterator(this, &buf[place_value]) : end();
|
||
}
|
||
|
||
|
||
void write(DB::WriteBuffer & wb) const
|
||
{
|
||
Cell::State::write(wb);
|
||
DB::writeVarUInt(m_size, wb);
|
||
|
||
if (this->hasZero())
|
||
this->zeroValue()->write(wb);
|
||
|
||
for (size_t i = 0; i < grower.bufSize(); ++i)
|
||
if (!buf[i].isZero(*this))
|
||
buf[i].write(wb);
|
||
}
|
||
|
||
void writeText(DB::WriteBuffer & wb) const
|
||
{
|
||
Cell::State::writeText(wb);
|
||
DB::writeText(m_size, wb);
|
||
|
||
if (this->hasZero())
|
||
{
|
||
DB::writeChar(',', wb);
|
||
this->zeroValue()->writeText(wb);
|
||
}
|
||
|
||
for (size_t i = 0; i < grower.bufSize(); ++i)
|
||
{
|
||
if (!buf[i].isZero(*this))
|
||
{
|
||
DB::writeChar(',', wb);
|
||
buf[i].writeText(wb);
|
||
}
|
||
}
|
||
}
|
||
|
||
void read(DB::ReadBuffer & rb)
|
||
{
|
||
Cell::State::read(rb);
|
||
|
||
destroyElements();
|
||
this->clearHasZero();
|
||
m_size = 0;
|
||
|
||
size_t new_size = 0;
|
||
DB::readVarUInt(new_size, rb);
|
||
|
||
free();
|
||
Grower new_grower = grower;
|
||
new_grower.set(new_size);
|
||
alloc(new_grower);
|
||
|
||
for (size_t i = 0; i < new_size; ++i)
|
||
{
|
||
Cell x;
|
||
x.read(rb);
|
||
insert(Cell::getKey(x.getValue()));
|
||
}
|
||
}
|
||
|
||
void readText(DB::ReadBuffer & rb)
|
||
{
|
||
Cell::State::readText(rb);
|
||
|
||
destroyElements();
|
||
this->clearHasZero();
|
||
m_size = 0;
|
||
|
||
size_t new_size = 0;
|
||
DB::readText(new_size, rb);
|
||
|
||
free();
|
||
Grower new_grower = grower;
|
||
new_grower.set(new_size);
|
||
alloc(new_grower);
|
||
|
||
for (size_t i = 0; i < new_size; ++i)
|
||
{
|
||
Cell x;
|
||
DB::assertString(",", rb);
|
||
x.readText(rb);
|
||
insert(Cell::getKey(x.getValue()));
|
||
}
|
||
}
|
||
|
||
|
||
size_t size() const
|
||
{
|
||
return m_size;
|
||
}
|
||
|
||
bool empty() const
|
||
{
|
||
return 0 == m_size;
|
||
}
|
||
|
||
void clear()
|
||
{
|
||
destroyElements();
|
||
this->clearHasZero();
|
||
m_size = 0;
|
||
|
||
memset(buf, 0, grower.bufSize() * sizeof(*buf));
|
||
}
|
||
|
||
/// После выполнения этой функции, таблицу можно только уничтожить,
|
||
/// а также можно использовать методы size, empty, begin, end.
|
||
void clearAndShrink()
|
||
{
|
||
destroyElements();
|
||
this->clearHasZero();
|
||
m_size = 0;
|
||
free();
|
||
}
|
||
|
||
size_t getBufferSizeInBytes() const
|
||
{
|
||
return grower.bufSize() * sizeof(Cell);
|
||
}
|
||
|
||
size_t getBufferSizeInCells() const
|
||
{
|
||
return grower.bufSize();
|
||
}
|
||
|
||
#ifdef DBMS_HASH_MAP_COUNT_COLLISIONS
|
||
size_t getCollisions() const
|
||
{
|
||
return collisions;
|
||
}
|
||
#endif
|
||
};
|