mirror of
https://github.com/ClickHouse/ClickHouse.git
synced 2024-11-12 02:23:14 +00:00
364 lines
51 KiB
Markdown
364 lines
51 KiB
Markdown
# Релиз ClickHouse 1.1.54343, 2018-02-05
|
||
|
||
* Добавлена возможность использовать макросы при задании имени кластера в распределенных DLL запросах и создании Distributed-таблиц: `CREATE TABLE distr ON CLUSTER '{cluster}' (...) ENGINE = Distributed('{cluster}', 'db', 'table')`.
|
||
* Теперь при вычислении запросов вида `SELECT ... FROM table WHERE expr IN (subquery)` используется индекс таблицы `table`.
|
||
* Улучшена обработка дубликатов при вставке в Replicated-таблицы, теперь они не приводят к излишнему замедлению выполнения очереди репликации.
|
||
|
||
# Релиз ClickHouse 1.1.54342, 2018-01-22
|
||
|
||
Релиз содержит исправление к предыдущему релизу 1.1.54318:
|
||
* Исправлена регрессия в версии 1.1.54337: если пользователь по-умолчанию имеет readonly доступ, то сервер отказывался стартовать с сообщением `Cannot create database in readonly mode`.
|
||
* Исправлена регрессия в версии 1.1.54337: на системах под управлением systemd, логи по ошибке всегда записываются в syslog; watchdog скрипт по ошибке использует init.d.
|
||
* Исправлена регрессия в версии 1.1.54337: неправильная конфигурация по-умоланию в Docker образе.
|
||
* Исправлена недетерминированная работа GraphiteMergeTree (в логах видно по сообщениям `Data after merge is not byte-identical to data on another replicas`).
|
||
* Исправлена ошибка, в связи с которой запрос OPTIMIZE к Replicated таблицам мог приводить к неконсистентным мержам (в логах видно по сообщениям `Part ... intersects previous part`).
|
||
* Таблицы типа Buffer теперь работают при наличии MATERIALIZED столбцов в таблице назначения (by zhang2014).
|
||
* Исправлена одна из ошибок в реализации NULL.
|
||
|
||
# Релиз ClickHouse 1.1.54337, 2018-01-18
|
||
|
||
## Новые возможности:
|
||
|
||
* Добавлена поддержка хранения многомерных массивов и кортежей (тип данных `Tuple`) в таблицах.
|
||
* Поддержка табличных функций для запросов `DESCRIBE` и `INSERT`. Поддержка подзапроса в запросе `DESCRIBE`. Примеры: `DESC TABLE remote('host', default.hits)`; `DESC TABLE (SELECT 1)`; `INSERT INTO TABLE FUNCTION remote('host', default.hits)`. Возможность писать `INSERT INTO TABLE` вместо `INSERT INTO`.
|
||
* Улучшена поддержка часовых поясов. В типе `DateTime` может быть указана таймзона, которая используется для парсинга и отображения данных в текстовом виде. Пример: `DateTime('Europe/Moscow')`. При указании таймзоны в функциях работы с `DateTime`, тип возвращаемого значения будет запоминать таймзону, для того, чтобы значение отображалось ожидаемым образом.
|
||
* Добавлены функции `toTimeZone`, `timeDiff`, `toQuarter`, `toRelativeQuarterNum`. В функцию `toRelativeHour`/`Minute`/`Second` можно передать аргумент типа `Date`. Имя функции `now` воспринимается без учёта регистра.
|
||
* Добавлена функция `toStartOfFifteenMinutes` (Kirill Shvakov).
|
||
* Добавлена программа `clickhouse format` для переформатирования запросов.
|
||
* Добавлен конфигурационный параметр `format_schema_path` (Marek Vavruša). Он используется для задания схемы для формата `Cap'n'Proto`. Файлы со схемой могут использоваться только из указанной директории.
|
||
* Добавлена поддержка `incl` и `conf.d` подстановок для конфигурации словарей и моделей (Pavel Yakunin).
|
||
* В таблице `system.settings` появилось описание большинства настроек (Kirill Shvakov).
|
||
* Добавлена таблица `system.parts_columns`, содержащая информацию о размерах столбцов в каждом куске данных `MergeTree` таблиц.
|
||
* Добавлена таблица `system.models`, содержащая информацию о загруженных моделях `CatBoost`.
|
||
* Добавлены табличные функции `mysql` и `odbc` и соответствующие движки таблиц `MySQL`, `ODBC` для обращения к удалённым базам данных. Функциональность в состоянии "бета".
|
||
* Для функции `groupArray` разрешено использование аргументов типа `AggregateFunction` (можно создать массив из состояний агрегатных функций).
|
||
* Удалены ограничения на использование разных комбинаций комбинаторов агрегатных функций. Для примера, вы можете использовать как функцию `avgForEachIf`, так и `avgIfForEach`, которые имеют разный смысл.
|
||
* Комбинатор агрегатных функций `-ForEach` расширен для случая агрегатных функций с более чем одним аргументом.
|
||
* Добавлена поддержка агрегатных функций от `Nullable` аргументов, для случаев, когда функция всегда возвращает не `Nullable` результат (реализовано с участием Silviu Caragea). Пример: `groupArray`, `groupUniqArray`, `topK`.
|
||
* Добавлен параметр командной строки `max_client_network_bandwidth` для `clickhouse-client` (Kirill Shvakov).
|
||
* Пользователям с доступом `readonly = 2` разрешено работать с временными таблицами (CREATE, DROP, INSERT...) (Kirill Shvakov).
|
||
* Добавлена возможность указания количества consumers для `Kafka`. Расширена возможность конфигурации движка `Kafka` (Marek Vavruša).
|
||
* Добавлены функции `intExp2`, `intExp10`.
|
||
* Добавлена агрегатная функция `sumKahan`.
|
||
* Добавлены функции to*Number*OrNull, где *Number* - числовой тип.
|
||
* Добавлена поддержка секции `WITH` для запроса `INSERT SELECT` (автор: zhang2014).
|
||
* Добавлены настройки `http_connection_timeout`, `http_send_timeout`, `http_receive_timeout`. Настройки используются, в том числе, при скачивании кусков для репликации. Изменение этих настроек позволяет сделать более быстрый failover в случае перегруженной сети.
|
||
* Добавлена поддержка `ALTER` для таблиц типа `Null` (Anastasiya Tsarkova).
|
||
* Функция `reinterpretAsString` расширена на все типы данных, значения которых хранятся в памяти непрерывно.
|
||
* Для программы `clickhouse-local` добавлена опция `--silent` для подавления вывода информации о выполнении запроса в stderr.
|
||
* Добавлена поддержка чтения `Date` в текстовом виде в формате, где месяц и день месяца могут быть указаны одной цифрой вместо двух (Amos Bird).
|
||
|
||
## Увеличение производительности:
|
||
|
||
* Увеличена производительность агрегатных функций `min`, `max`, `any`, `anyLast`, `anyHeavy`, `argMin`, `argMax` от строковых аргументов.
|
||
* Увеличена производительность функций `isInfinite`, `isFinite`, `isNaN`, `roundToExp2`.
|
||
* Увеличена производительность форматирования в текстовом виде и парсинга из текста значений типа `Date` и `DateTime`.
|
||
* Увеличена производительность и точность парсинга чисел с плавающей запятой.
|
||
* Уменьшено потребление памяти при `JOIN`, если левая и правая часть содержали столбцы с одинаковым именем, не входящие в `USING`.
|
||
* Увеличена производительность агрегатных функций `varSamp`, `varPop`, `stddevSamp`, `stddevPop`, `covarSamp`, `covarPop`, `corr` за счёт уменьшения стойкости к вычислительной погрешности. Старые версии функций добавлены под именами `varSampStable`, `varPopStable`, `stddevSampStable`, `stddevPopStable`, `covarSampStable`, `covarPopStable`, `corrStable`.
|
||
|
||
## Исправления ошибок:
|
||
|
||
* Исправлена работа дедупликации блоков после `DROP` или `DETATH PARTITION`. Раньше удаление партиции и вставка тех же самых данных заново не работала, так как вставленные заново блоки считались дубликатами.
|
||
* Исправлена ошибка, в связи с которой может неправильно обрабатываться `WHERE` для запросов на создание `MATERIALIZED VIEW` с указанием `POPULATE`.
|
||
* Исправлена ошибка в работе параметра `root_path` в конфигурации `zookeeper_servers`.
|
||
* Исправлен неожиданный результат при передаче аргумента типа `Date` в функцию `toStartOfDay`.
|
||
* Исправлена работа функции `addMonths`, `subtractMonths`, арифметика с `INTERVAL n MONTH`, если в результате получается предыдущий год.
|
||
* Добавлена недостающая поддержка типа данных `UUID` для `DISTINCT`, `JOIN`, в агрегатных функциях `uniq` и во внешних словарях (Иванов Евгений). Поддержка `UUID` всё ещё остаётся не полной.
|
||
* Исправлено поведение `SummingMergeTree` для строк, в которых все значения после суммирования равны нулю.
|
||
* Многочисленные доработки для движка таблиц `Kafka` (Marek Vavruša).
|
||
* Исправлена некорректная работа движка таблиц `Join` (Amos Bird).
|
||
* Исправлена работа аллокатора под FreeBSD и OS X.
|
||
* Функция `extractAll` теперь может доставать пустые вхождения.
|
||
* Исправлена ошибка, не позволяющая подключить при сборке `libressl` вместо `openssl`.
|
||
* Исправлена работа `CREATE TABLE AS SELECT` из временной таблицы.
|
||
* Исправлена неатомарность обновления очереди репликации. Эта проблема могла приводить к рассинхронизации реплик и чинилась при перезапуске.
|
||
* Исправлено переполнение в функциях `gcd`, `lcm`, `modulo` (оператор `%`) (Maks Skorokhod).
|
||
* Файлы `-preprocessed` теперь создаются после изменения `umask` (`umask` может быть задан в конфигурационном файле).
|
||
* Исправлена ошибка фоновой проверки кусков (`MergeTreePartChecker`) при использовании партиционирования по произвольному ключу.
|
||
* Исправлен парсинг кортежей (значений типа `Tuple`) в текстовых форматах.
|
||
* Исправлены сообщения о неподходящих типах аргументов для функций `multiIf`, `array` и некоторых других.
|
||
* Переработана поддержка `Nullable` типов. Исправлены ошибки, которые могут приводить к падению сервера. Исправлено подавляющее большинство других ошибок, связанных с поддержкой `NULL`: неправильное приведение типов при INSERT SELECT, недостаточная поддержка Nullable в HAVING и в PREWHERE, режим `join_use_nulls`, Nullable типы в операторе `OR` и т. п.
|
||
* Исправлена работа с внутренними свойствами типов данных, что позволило исправить проблемы следующего вида: ошибочное суммирование полей типа `Enum` в `SummingMergeTree`; значения типа `Enum` ошибочно выводятся с выравниванием по правому краю в таблицах в `Pretty` форматах, и т. п.
|
||
* Более строгие проверки для допустимых комбинаций составных столбцов - это позволило исправить ошибок, которые могли приводить к падениям.
|
||
* Исправлено переполнение при задании очень большого значения параметра для типа `FixedString`.
|
||
* Исправлена работа агрегатной функции `topK` для generic случая.
|
||
* Добавлена отсутствующая проверка на совпадение размеров массивов для n-арных вариантов агрегатных функций с комбинатором `-Array`.
|
||
* Исправлена работа `--pager` для `clickhouse-client` (автор: ks1322).
|
||
* Исправлена точность работы функции `exp10`.
|
||
* Исправлено поведение функции `visitParamExtract` согласно документации.
|
||
* Исправлено падение при объявлении некорректных типов данных.
|
||
* Исправлена работа `DISTINCT` при условии, что все столбцы константные.
|
||
* Исправлено форматирование запроса в случае наличия функции `tupleElement` со сложным константным выражением в качестве номера элемента.
|
||
* Исправлена работа `Dictionary` таблиц для словарей типа `range_hashed`.
|
||
* Исправлена ошибка, приводящая к появлению лишних строк при `FULL` и `RIGHT JOIN` (Amos Bird).
|
||
* Исправлено падение сервера в случае создания и удаления временных файлов в `config.d` директориях в момент перечитывания конфигурации.
|
||
* Исправлена работа запроса `SYSTEM DROP DNS CACHE`: ранее сброс DNS кэша не приводил к повторному резолвингу имён хостов кластера.
|
||
* Исправлено поведение `MATERIALIZED VIEW` после `DETACH TABLE` таблицы, на которую он смотрит (Marek Vavruša).
|
||
|
||
## Улучшения сборки:
|
||
|
||
* Для сборки используется `pbuilder`. Сборка максимально независима от окружения на сборочной машине.
|
||
* Для разных версий систем выкладывается один и тот же пакет, который совместим с широким диапазоном Linux систем.
|
||
* Добавлен пакет `clickhouse-test`, который может быть использован для запуска функциональных тестов.
|
||
* Добавлена выкладка в репозиторий архива с исходниками. Этот архив может быть использован для воспроизведения сборки без использования GitHub.
|
||
* Добавлена частичная интеграция с Travis CI. В связи с ограничениями на время сборки в Travis, запускается только ограниченный набор тестов на Debug сборке.
|
||
* Добавлена поддержка `Cap'n'Proto` в сборку по-умолчанию.
|
||
* Документация переведена с `Restructured Text` на `Markdown`.
|
||
* Добавлена поддержка `systemd` (Vladimir Smirnov). В связи с несовместимостью с некоторыми образами, она выключена по-умолчанию и может быть включена вручную.
|
||
* Для динамической компиляции запросов, `clang` и `lld` встроены внутрь `clickhouse`. Они также могут быть вызваны с помощью `clickhouse clang` и `clickhouse lld`.
|
||
* Удалено использование расширений GNU из кода и включена опция `-Wextra`. При сборке с помощью `clang` по-умолчанию используется `libc++` вместо `libstdc++`.
|
||
* Выделены библиотеки `clickhouse_parsers` и `clickhouse_common_io` для более быстрой сборки утилит.
|
||
|
||
## Обратно несовместимые изменения:
|
||
|
||
* Формат засечек (marks) для таблиц типа `Log`, содержащих `Nullable` столбцы, изменён обратно-несовместимым образом. В случае наличия таких таблиц, вы можете преобразовать их в `TinyLog` до запуска новой версии сервера. Для этого в соответствующем таблице файле `.sql` в директории `metadata`, замените `ENGINE = Log` на `ENGINE = TinyLog`. Если в таблице нет `Nullable` столбцов или тип таблицы не `Log`, то ничего делать не нужно.
|
||
* Удалена настройка `experimental_allow_extended_storage_definition_syntax`. Соответствующая функциональность включена по-умолчанию.
|
||
* Функция `runningIncome` переименована в `runningDifferenceStartingWithFirstValue` во избежание путаницы.
|
||
* Удалена возможность написания `FROM ARRAY JOIN arr` без указания таблицы после FROM (Amos Bird).
|
||
* Удалён формат `BlockTabSeparated`, использовавшийся лишь для демонстрационных целей.
|
||
* Изменён формат состояния агрегатных функций `varSamp`, `varPop`, `stddevSamp`, `stddevPop`, `covarSamp`, `covarPop`, `corr`. Если вы использовали эти состояния для хранения в таблицах (тип данных `AggregateFunction` от этих функций или материализованные представления, хранящие эти состояния), напишите на clickhouse-feedback@yandex-team.com.
|
||
* В предыдущих версиях существовала недокументированная возможность: в типе данных AggregateFunction можно было не указывать параметры для агрегатной функции, которая зависит от параметров. Пример: `AggregateFunction(quantiles, UInt64)` вместо `AggregateFunction(quantiles(0.5, 0.9), UInt64)`. Эта возможность потеряна. Не смотря на то, что возможность не документирована, мы собираемся вернуть её в ближайших релизах.
|
||
* Значения типа данных Enum не могут быть переданы в агрегатные функции min/max. Возможность будет возвращена обратно в следующем релизе.
|
||
|
||
## На что обратить внимание при обновлении:
|
||
* При обновлении кластера, на время, когда на одних репликах работает новая версия сервера, а на других - старая, репликация будет приостановлена и в логе появятся сообщения вида `unknown parameter 'shard'`. Репликация продолжится после обновления всех реплик кластера.
|
||
* Если на серверах кластера работают разные версии ClickHouse, то возможен неправильный результат распределённых запросов, использующих функции `varSamp`, `varPop`, `stddevSamp`, `stddevPop`, `covarSamp`, `covarPop`, `corr`. Необходимо обновить все серверы кластера.
|
||
|
||
# Релиз ClickHouse 1.1.54327, 2017-12-21
|
||
|
||
Релиз содержит исправление к предыдущему релизу 1.1.54318:
|
||
* Исправлена проблема с возможным race condition при репликации, которая может приводить к потере данных. Проблеме подвержены версии 1.1.54310 и 1.1.54318. Если вы их используете и у вас есть Replicated таблицы, то обновление обязательно. Понять, что эта проблема существует, можно по сообщениям в логе Warning вида `Part ... from own log doesn't exist.` Даже если таких сообщений нет, проблема всё-равно актуальна.
|
||
|
||
# Релиз ClickHouse 1.1.54318, 2017-11-30
|
||
|
||
Релиз содержит изменения к предыдущему релизу 1.1.54310 с исправлением следующих багов:
|
||
* Исправлено некорректное удаление строк при слияниях в движке SummingMergeTree
|
||
* Исправлена утечка памяти в нереплицированных MergeTree-движках
|
||
* Исправлена деградация производительности при частых вставках в MergeTree-движках
|
||
* Исправлена проблема, приводящая к остановке выполнения очереди репликации
|
||
* Исправлено ротирование и архивация логов сервера
|
||
|
||
# Релиз ClickHouse 1.1.54310, 2017-11-01
|
||
|
||
## Новые возможности:
|
||
* Произвольный ключ партиционирования для таблиц семейства MergeTree.
|
||
* Движок таблиц [Kafka](https://clickhouse.yandex/docs/en/single/index.html#document-table_engines/kafka).
|
||
* Возможность загружать модели [CatBoost](https://catboost.yandex/) и применять их к данным, хранящимся в ClickHouse.
|
||
* Поддержка часовых поясов с нецелым смещением от UTC.
|
||
* Поддержка операций с временными интервалами.
|
||
* Диапазон значений типов Date и DateTime расширен до 2105 года.
|
||
* Запрос `CREATE MATERIALIZED VIEW x TO y` (позволяет указать существующую таблицу для хранения данных материализованного представления).
|
||
* Запрос `ATTACH TABLE` без аргументов.
|
||
* Логика обработки Nested-столбцов в SummingMergeTree, заканчивающихся на -Map, вынесена в агрегатную функцию sumMap. Такие столбцы теперь можно задавать явно.
|
||
* Максимальный размер IP trie-словаря увеличен до 128М записей.
|
||
* Функция getSizeOfEnumType.
|
||
* Агрегатная функция sumWithOverflow.
|
||
* Поддержка входного формата Cap’n Proto.
|
||
* Возможность задавать уровень сжатия при использовании алгоритма zstd.
|
||
|
||
## Обратно несовместимые изменения:
|
||
* Запрещено создание временных таблиц с движком, отличным от Memory.
|
||
* Запрещено явное создание таблиц с движком View и MaterializedView.
|
||
* При создании таблицы теперь проверяется, что ключ сэмплирования входит в первичный ключ.
|
||
|
||
## Исправления ошибок:
|
||
* Исправлено зависание при синхронной вставке в Distributed таблицу.
|
||
* Исправлена неатомарность при добавлении/удалении кусков в реплицированных таблицах.
|
||
* Данные, вставляемые в материализованное представление, теперь не подвергаются излишней дедупликации.
|
||
* Запрос в Distributed таблицу, для которого локальная реплика отстаёт, а удалённые недоступны, теперь не падает.
|
||
* Для создания временных таблиц теперь не требуется прав доступа к БД `default`.
|
||
* Исправлено падение при указании типа Array без аргументов.
|
||
* Исправлено зависание при недостатке места на диске в разделе с логами.
|
||
* Исправлено переполнение в функции toRelativeWeekNum для первой недели Unix-эпохи.
|
||
|
||
## Улучшения сборки:
|
||
* Несколько сторонних библиотек (в частности, Poco) обновлены и переведены на git submodules.
|
||
|
||
# Релиз ClickHouse 1.1.54304, 2017-10-19
|
||
## Новые возможности:
|
||
* Добавлена поддержка TLS в нативном протоколе (включается заданием `tcp_ssl_port` в `config.xml`)
|
||
|
||
## Исправления ошибок:
|
||
* `ALTER` для реплицированных таблиц теперь пытается начать выполнение как можно быстрее
|
||
* Исправлены падения при чтении данных с настройкой `preferred_block_size_bytes=0`
|
||
* Исправлено падение `clickhouse-client` при нажатии `Page Down`
|
||
* Корректная интепретация некоторых сложных запросов с `GLOBAL IN` и `UNION ALL`
|
||
* Операция `FREEZE PARTITION` теперь работает всегда атомарно
|
||
* Исправлено зависание пустых POST-запросов (теперь возвращается код 411)
|
||
* Исправлены ошибки при интепретации выражений типа `CAST(1 AS Nullable(UInt8))`
|
||
* Исправлена ошибка при чтении колонок типа `Array(Nullable(String))` из `MergeTree` таблиц
|
||
* Исправлено падение при парсинге запросов типа `SELECT dummy AS dummy, dummy AS b`
|
||
* Корректное обновление пользователей при невалидном `users.xml`
|
||
* Корректная обработка случаев, когда executable-словарь возвращает ненулевой код ответа
|
||
|
||
# Релиз ClickHouse 1.1.54292, 2017-09-20
|
||
|
||
## Новые возможности:
|
||
* Добавлена функция `pointInPolygon` для работы с координатами на плоскости.
|
||
* Добавлена агрегатная функция `sumMap`, обеспечивающая суммирование массивов аналогично `SummingMergeTree`.
|
||
* Добавлена функция `trunc`. Увеличена производительность функций округления `round`, `floor`, `ceil`, `roundToExp2`. Исправлена логика работы функций округления. Изменена логика работы функции `roundToExp2` для дробных и отрицательных чисел.
|
||
* Ослаблена зависимость исполняемого файла ClickHouse от версии libc. Один и тот же исполняемый файл ClickHouse может запускаться и работать на широком множестве Linux систем. Замечание: зависимость всё ещё присутствует при использовании скомпилированных запросов (настройка `compile = 1`, по-умолчанию не используется).
|
||
* Уменьшено время динамической компиляции запросов.
|
||
|
||
## Исправления ошибок:
|
||
* Исправлена ошибка, которая могла приводить к сообщениям `part ... intersects previous part` и нарушению консистентности реплик.
|
||
* Исправлена ошибка, приводящая к блокировке при завершении работы сервера, если в это время ZooKeeper недоступен.
|
||
* Удалено избыточное логгирование при восстановлении реплик.
|
||
* Исправлена ошибка в реализации UNION ALL.
|
||
* Исправлена ошибка в функции concat, возникающая в случае, если первый столбец блока имеет тип Array.
|
||
* Исправлено отображение прогресса в таблице system.merges.
|
||
|
||
# Релиз ClickHouse 1.1.54289, 2017-09-13
|
||
|
||
## Новые возможности:
|
||
* Запросы `SYSTEM` для административных действий с сервером: `SYSTEM RELOAD DICTIONARY`, `SYSTEM RELOAD DICTIONARIES`, `SYSTEM DROP DNS CACHE`, `SYSTEM SHUTDOWN`, `SYSTEM KILL`.
|
||
* Добавлены функции для работы с массивами: `concat`, `arraySlice`, `arrayPushBack`, `arrayPushFront`, `arrayPopBack`, `arrayPopFront`.
|
||
* Добавлены параметры `root` и `identity` для конфигурации ZooKeeper. Это позволяет изолировать разных пользователей одного ZooKeeper кластера.
|
||
* Добавлены агрегатные функции `groupBitAnd`, `groupBitOr`, `groupBitXor` (для совместимости доступны также под именами `BIT_AND`, `BIT_OR`, `BIT_XOR`).
|
||
* Возможность загрузки внешних словарей из MySQL с указанием сокета на файловой системе.
|
||
* Возможность загрузки внешних словарей из MySQL через SSL соединение (параметры `ssl_cert`, `ssl_key`, `ssl_ca`).
|
||
* Добавлена настройка `max_network_bandwidth_for_user` для ограничения общего потребления сети для всех запросов одного пользователя.
|
||
* Поддержка `DROP TABLE` для временных таблиц.
|
||
* Поддержка чтения значений типа `DateTime` в формате unix timestamp из форматов `CSV` и `JSONEachRow`.
|
||
* Включено по-умолчанию отключение отстающих реплик при распределённых запросах (по-умолчанию порог равен 5 минутам).
|
||
* Используются FIFO блокировки при ALTER: выполнение ALTER не будет неограниченно блокироваться при непрерывно выполняющихся запросах.
|
||
* Возможность задать `umask` в конфигурационном файле.
|
||
* Увеличена производительность запросов с `DISTINCT`.
|
||
|
||
## Исправления ошибок:
|
||
* Более оптимальная процедура удаления старых нод в ZooKeeper. Ранее в случае очень частых вставок, старые ноды могли не успевать удаляться, что приводило, в том числе, к очень долгому завершению сервера.
|
||
* Исправлена рандомизация при выборе хостов для соединения с ZooKeeper.
|
||
* Исправлено отключение отстающей реплики при распределённых запросах, если реплика является localhost.
|
||
* Исправлена ошибка, в связи с которой кусок данных таблицы типа `ReplicatedMergeTree` мог становиться битым после выполнения `ALTER MODIFY` элемента `Nested` структуры.
|
||
* Исправлена ошибка приводящая к возможному зависанию SELECT запросов.
|
||
* Доработки распределённых DDL запросов.
|
||
* Исправлен запрос `CREATE TABLE ... AS <materialized view>`.
|
||
* Исправлен дедлок при запросе `ALTER ... CLEAR COLUMN IN PARTITION` для `Buffer` таблиц.
|
||
* Исправлено использование неправильного значения по-умолчанию для `Enum`-ов (0 вместо минимального) при использовании форматов `JSONEachRow` и `TSKV`.
|
||
* Исправлено появление zombie процессов при работе со словарём с источником `executable`.
|
||
* Исправлен segfault при запросе HEAD.
|
||
|
||
## Улучшения процесса разработки и сборки ClickHouse:
|
||
* Возможность сборки с помощью `pbuilder`.
|
||
* Возможность сборки с использованием `libc++` вместо `libstdc++` под Linux.
|
||
* Добавлены инструкции для использования статических анализаторов кода `Coverity`, `clang-tidy`, `cppcheck`.
|
||
|
||
## На что обратить внимание при обновлении:
|
||
* Увеличено значение по-умолчанию для настройки MergeTree `max_bytes_to_merge_at_max_space_in_pool` (максимальный суммарный размер кусков в байтах для мержа) со 100 GiB до 150 GiB. Это может привести к запуску больших мержей после обновления сервера, что может вызвать повышенную нагрузку на дисковую подсистему. Если же на серверах, где это происходит, количество свободного места менее чем в два раза больше суммарного объёма выполняющихся мержей, то в связи с этим перестанут выполняться какие-либо другие мержи, включая мержи мелких кусков. Это приведёт к тому, что INSERT-ы будут отклоняться с сообщением "Merges are processing significantly slower than inserts". Для наблюдения, используйте запрос `SELECT * FROM system.merges`. Вы также можете смотреть на метрику `DiskSpaceReservedForMerge` в таблице `system.metrics` или в Graphite. Для исправления этой ситуации можно ничего не делать, так как она нормализуется сама после завершения больших мержей. Если же вас это не устраивает, вы можете вернуть настройку `max_bytes_to_merge_at_max_space_in_pool` в старое значение, прописав в config.xml в секции `<merge_tree>` `<max_bytes_to_merge_at_max_space_in_pool>107374182400</max_bytes_to_merge_at_max_space_in_pool>` и перезапустить сервер.
|
||
|
||
# Релиз ClickHouse 1.1.54284, 2017-08-29
|
||
|
||
* Релиз содержит изменения к предыдущему релизу 1.1.54282, которые исправляют утечку записей о кусках в ZooKeeper
|
||
|
||
# Релиз ClickHouse 1.1.54282, 2017-08-23
|
||
|
||
Релиз содержит исправления к предыдущему релизу 1.1.54276:
|
||
* Исправлена ошибка `DB::Exception: Assertion violation: !_path.empty()` при вставке в Distributed таблицу.
|
||
* Исправлен парсинг при вставке в формате RowBinary, если входные данные начинаются с ';'.
|
||
* Исправлена ошибка при рантайм-компиляции некоторых агрегатных функций (например, `groupArray()`).
|
||
|
||
# Релиз ClickHouse 1.1.54276, 2017-08-16
|
||
|
||
## Новые возможности:
|
||
* Добавлена опциональная секция WITH запроса SELECT. Пример запроса: `WITH 1+1 AS a SELECT a, a*a`
|
||
* Добавлена возможность синхронной вставки в Distributed таблицу: выдается Ok только после того как все данные записались на все шарды. Активируется настройкой insert_distributed_sync=1
|
||
* Добавлен тип данных UUID для работы с 16-байтовыми идентификаторами
|
||
* Добавлены алиасы типов CHAR, FLOAT и т.д. для совместимости с Tableau
|
||
* Добавлены функции toYYYYMM, toYYYYMMDD, toYYYYMMDDhhmmss для перевода времени в числа
|
||
* Добавлена возможность использовать IP адреса (совместно с hostname) для идентификации сервера при работе с кластерными DDL запросами
|
||
* Добавлена поддержка неконстантных аргументов и отрицательных смещений в функции `substring(str, pos, len)`
|
||
* Добавлен параметр max_size для агрегатной функции `groupArray(max_size)(column)`, и оптимизирована её производительность
|
||
|
||
## Основные изменения:
|
||
* Улучшение безопасности: все файлы сервера создаются с правами 0640 (можно поменять, через параметр <umask> в конфиге).
|
||
* Улучшены сообщения об ошибках в случае синтаксически неверных запросов
|
||
* Значительно уменьшен расход оперативной памяти и улучшена производительность слияний больших MergeTree-кусков данных
|
||
* Значительно увеличена производительность слияний данных для движка ReplacingMergeTree
|
||
* Улучшена производительность асинхронных вставок из Distributed таблицы за счет объединения нескольких исходных вставок. Функциональность включается настройкой distributed_directory_monitor_batch_inserts=1.
|
||
|
||
## Обратно несовместимые изменения:
|
||
* Изменился бинарный формат агрегатных состояний функции `groupArray(array_column)` для массивов
|
||
|
||
## Полный список изменений:
|
||
* Добавлена настройка `output_format_json_quote_denormals`, включающая вывод nan и inf значений в формате JSON
|
||
* Более оптимальное выделение потоков при чтении из Distributed таблиц
|
||
* Разрешено задавать настройки в режиме readonly, если их значение не изменяется
|
||
* Добавлена возможность считывать нецелые гранулы движка MergeTree для выполнения ограничений на размер блока, задаваемый настройкой preferred_block_size_bytes - для уменьшения потребления оперативной памяти и увеличения кэш-локальности при обработке запросов из таблиц со столбцами большого размера
|
||
* Эффективное использование индекса, содержащего выражения типа `toStartOfHour(x)`, для условий вида `toStartOfHour(x) op сonstexpr`
|
||
* Добавлены новые настройки для MergeTree движков (секция merge_tree в config.xml):
|
||
- replicated_deduplication_window_seconds позволяет задать интервал дедупликации вставок в Replicated-таблицы в секундах
|
||
- cleanup_delay_period - периодичность запуска очистки неактуальных данных
|
||
- replicated_can_become_leader - запретить реплике становиться лидером (и назначать мержи)
|
||
* Ускорена очистка неактуальных данных из ZooKeeper
|
||
* Множественные улучшения и исправления работы кластерных DDL запросов. В частности, добавлена настройка distributed_ddl_task_timeout, ограничивающая время ожидания ответов серверов кластера.
|
||
* Улучшено отображение стэктрейсов в логах сервера
|
||
* Добавлен метод сжатия none
|
||
* Возможность использования нескольких секций dictionaries_config в config.xml
|
||
* Возможность подключения к MySQL через сокет на файловой системе
|
||
* В таблицу system.parts добавлен столбец с информацией о размере marks в байтах
|
||
|
||
## Исправления багов:
|
||
* Исправлена некорректная работа Distributed таблиц, использующих Merge таблицы, при SELECT с условием на поле _table
|
||
* Исправлен редкий race condition в ReplicatedMergeTree при проверке кусков данных
|
||
* Исправлено возможное зависание процедуры leader election при старте сервера
|
||
* Исправлено игнорирование настройки max_replica_delay_for_distributed_queries при использовании локальной реплики в качестве источника данных
|
||
* Исправлено некорректное поведение `ALTER TABLE CLEAR COLUMN IN PARTITION` при попытке очистить несуществующую колонку
|
||
* Исправлено исключение в функции multiIf при использовании пустых массивов или строк
|
||
* Исправлено чрезмерное выделение памяти при десериализации формата Native
|
||
* Исправлено некорректное автообновление Trie словарей
|
||
* Исправлено исключение при выполнении запросов с GROUP BY из Merge-таблицы при использовании SAMPLE
|
||
* Исправлено падение GROUP BY при использовании настройки distributed_aggregation_memory_efficient=1
|
||
* Добавлена возможность указывать database.table в правой части IN и JOIN
|
||
* Исправлено использование слишком большого количества потоков при параллельной агрегации
|
||
* Исправлена работа функции if с аргументами FixedString
|
||
* Исправлена некорректная работа SELECT из Distributed-таблицы для шардов с весом 0
|
||
* Исправлено падение запроса `CREATE VIEW IF EXISTS`
|
||
* Исправлено некорректное поведение при input_format_skip_unknown_fields=1 в случае отрицательных чисел
|
||
* Исправлен бесконечный цикл в функции `dictGetHierarchy()` в случае некоторых некорректных данных словаря
|
||
* Исправлены ошибки типа `Syntax error: unexpected (...)` при выполнении распределенных запросов с подзапросами в секции IN или JOIN, в случае использования совместно с Merge таблицами
|
||
* Исправлена неправильная интерпретация SELECT запроса из таблиц типа Dictionary
|
||
* Исправлена ошибка "Cannot mremap" при использовании множеств в секциях IN, JOIN, содержащих более 2 млрд. элементов
|
||
* Исправлен failover для словарей с источником MySQL
|
||
|
||
## Улучшения процесса разработки и сборки ClickHouse:
|
||
* Добавлена возмозможность сборки в Arcadia
|
||
* Добавлена возможность сборки с помощью gcc 7
|
||
* Ускорена параллельная сборка с помощью ccache+distcc
|
||
|
||
|
||
# Релиз ClickHouse 1.1.54245, 2017-07-04
|
||
|
||
## Новые возможности:
|
||
* Распределённые DDL (например, `CREATE TABLE ON CLUSTER`)
|
||
* Реплицируемый запрос `ALTER TABLE CLEAR COLUMN IN PARTITION`
|
||
* Движок таблиц Dictionary (доступ к данным словаря в виде таблицы)
|
||
* Движок баз данных Dictionary (в такой базе автоматически доступны Dictionary-таблицы для всех подключённых внешних словарей)
|
||
* Возможность проверки необходимости обновления словаря путём отправки запроса в источник
|
||
* Qualified имена столбцов
|
||
* Квотирование идентификаторов двойными кавычками
|
||
* Сессии в HTTP интерфейсе
|
||
* Запрос OPTIMIZE для Replicated таблицы теперь можно выполнять не только на лидере
|
||
|
||
## Обратно несовместимые изменения:
|
||
* Убрана команда SET GLOBAL
|
||
|
||
## Мелкие изменения:
|
||
* Теперь после получения сигнала в лог печатается полный стектрейс
|
||
* Ослаблена проверка на количество повреждённых/лишних кусков при старте (было слишком много ложных срабатываний)
|
||
|
||
## Исправления багов:
|
||
* Исправлено залипание плохого соединения при вставке в Distributed таблицу
|
||
* GLOBAL IN теперь работает при запросе из таблицы Merge, смотрящей в Distributed
|
||
* Теперь правильно определяется количество ядер на виртуалках Google Compute Engine
|
||
* Исправления в работе executable источника кэшируемых внешних словарей
|
||
* Исправлены сравнения строк, содержащих нулевые символы
|
||
* Исправлено сравнение полей первичного ключа типа Float32 с константами
|
||
* Раньше неправильная оценка размера поля могла приводить к слишком большим аллокациям
|
||
* Исправлено падение при запросе Nullable столбца, добавленного в таблицу ALTER-ом
|
||
* Исправлено падение при сортировке по Nullable столбцу, если количество строк меньше LIMIT
|
||
* Исправлен ORDER BY подзапроса, состоящего только из константных значений
|
||
* Раньше Replicated таблица могла остаться в невалидном состоянии после неудавшегося DROP TABLE
|
||
* Алиасы для скалярных подзапросов с пустым результатом теперь не теряются
|
||
* Теперь запрос, в котором использовалась компиляция, не завершается ошибкой, если .so файл повреждается
|