#pragma once #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include #include namespace DB { /** Функции поиска и замены в строках: * * position(haystack, needle) - обычный поиск подстроки в строке, возвращает позицию (в байтах) найденной подстроки, начиная с 1, или 0, если подстрока не найдена. * positionUTF8(haystack, needle) - то же самое, но позиция вычисляется в кодовых точках, при условии, что строка в кодировке UTF-8. * * like(haystack, pattern) - поиск по регулярному выражению LIKE; возвращает 0 или 1. Регистронезависимое, но только для латиницы. * notLike(haystack, pattern) * * match(haystack, pattern) - поиск по регулярному выражению re2; возвращает 0 или 1. * * Применяет регексп re2 и достаёт: * - первый subpattern, если в regexp-е есть subpattern; * - нулевой subpattern (сматчившуюся часть, иначе); * - если не сматчилось - пустую строку. * extract(haystack, pattern) * * replaceOne(haystack, pattern, replacement) - замена шаблона по заданным правилам, только первое вхождение. * replaceAll(haystack, pattern, replacement) - замена шаблона по заданным правилам, все вхождения. * * replaceRegexpOne(haystack, pattern, replacement) - замена шаблона по заданному регекспу, только первое вхождение. * replaceRegexpAll(haystack, pattern, replacement) - замена шаблона по заданному регекспу, все вхождения. * * Внимание! На данный момент, аргументы needle, pattern, n, replacement обязаны быть константами. */ struct PositionImpl { typedef UInt64 ResultType; /// @note res[i] = 0 намекает, что инициализации нулями не предполагается. /// Предполагается, что res нужного размера и инициализирован нулями. static void vector(const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & needle, PODArray & res) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; Volnitsky searcher(needle.data(), needle.size(), end - pos); /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && end != (pos = searcher.search(pos, end - pos))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) { res[i] = 0; ++i; } /// Проверяем, что вхождение не переходит через границы строк. if (pos + needle.size() < begin + offsets[i]) res[i] = (i != 0) ? pos - begin - offsets[i - 1] + 1 : (pos - begin + 1); else res[i] = 0; pos = begin + offsets[i]; ++i; } memset(&res[i], 0, (res.size() - i) * sizeof(res[0])); } static void constant(const std::string & data, const std::string & needle, UInt64 & res) { res = data.find(needle); if (res == std::string::npos) res = 0; else ++res; } }; namespace { const UInt8 utf8_continuation_octet_mask = 0b11000000u; const UInt8 utf8_continuation_octet = 0b10000000u; /// return true if `octet` binary repr starts with 10 (octet is a UTF-8 sequence continuation) bool utf8_is_continuation_octet(const UInt8 octet) { return (octet & utf8_continuation_octet_mask) == utf8_continuation_octet; } /// moves `s` forward until either first non-continuation octet or string end is met void utf8_sync_forward(const UInt8 * & s, const UInt8 * const end = nullptr) { while (s < end && utf8_is_continuation_octet(*s)) ++s; } /// returns UTF-8 code point sequence length judging by it's first octet std::size_t utf8_seq_length(const UInt8 first_octet) { if (first_octet < 0x80u) return 1; const std::size_t bits = 8; const auto first_zero = _bit_scan_reverse(static_cast(~first_octet)); return bits - 1 - first_zero; } } struct PositionUTF8Impl { typedef UInt64 ResultType; static void vector(const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & needle, PODArray & res) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; Volnitsky searcher(needle.data(), needle.size(), end - pos); /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && end != (pos = searcher.search(pos, end - pos))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) { res[i] = 0; ++i; } /// Проверяем, что вхождение не переходит через границы строк. if (pos + needle.size() < begin + offsets[i]) { /// А теперь надо найти, сколько кодовых точек находится перед pos. res[i] = 1; for (const UInt8 * c = begin + (i != 0 ? offsets[i - 1] : 0); c < pos; ++c) if (!utf8_is_continuation_octet(*c)) ++res[i]; } else res[i] = 0; pos = begin + offsets[i]; ++i; } memset(&res[i], 0, (res.size() - i) * sizeof(res[0])); } static void constant(const std::string & data, const std::string & needle, UInt64 & res) { const auto pos = data.find(needle); if (pos != std::string::npos) { /// А теперь надо найти, сколько кодовых точек находится перед pos. res = 1; for (const auto i : ext::range(0, pos)) if (!utf8_is_continuation_octet(static_cast(data[i]))) ++res; } else res = 0; } }; struct PositionCaseInsensitiveImpl { private: class CaseInsensitiveSearcher { static constexpr auto n = sizeof(__m128i); const int page_size = getpagesize(); /// string to be searched for const std::string & needle; /// lower and uppercase variants of the first character in `needle` UInt8 l{}; UInt8 u{}; /// vectors filled with `l` and `u`, for determining leftmost position of the first symbol __m128i patl, patu; /// lower and uppercase vectors of first 16 characters of `needle` __m128i cachel = _mm_setzero_si128(), cacheu = _mm_setzero_si128(); int cachemask{}; bool page_safe(const void * const ptr) const { return ((page_size - 1) & reinterpret_cast(ptr)) <= page_size - n; } public: CaseInsensitiveSearcher(const std::string & needle) : needle(needle) { if (needle.empty()) return; auto needle_pos = needle.data(); l = std::tolower(*needle_pos); u = std::toupper(*needle_pos); patl = _mm_set1_epi8(l); patu = _mm_set1_epi8(u); const auto needle_end = needle_pos + needle.size(); for (const auto i : ext::range(0, n)) { cachel = _mm_srli_si128(cachel, 1); cacheu = _mm_srli_si128(cacheu, 1); if (needle_pos != needle_end) { cachel = _mm_insert_epi8(cachel, std::tolower(*needle_pos), n - 1); cacheu = _mm_insert_epi8(cacheu, std::toupper(*needle_pos), n - 1); cachemask |= 1 << i; ++needle_pos; } } } const UInt8 * find(const UInt8 * haystack, const UInt8 * const haystack_end) const { if (needle.empty()) return haystack; const auto needle_begin = reinterpret_cast(needle.data()); const auto needle_end = needle_begin + needle.size(); while (haystack < haystack_end) { /// @todo supposedly for long strings spanning across multiple pages. Why don't we use this technique in other places? if (haystack + n <= haystack_end && page_safe(haystack)) { const auto v_haystack = _mm_loadu_si128(reinterpret_cast(haystack)); const auto v_against_l = _mm_cmpeq_epi8(v_haystack, patl); const auto v_against_u = _mm_cmpeq_epi8(v_haystack, patu); const auto v_against_l_or_u = _mm_or_si128(v_against_l, v_against_u); const auto mask = _mm_movemask_epi8(v_against_l_or_u); if (mask == 0) { haystack += n; continue; } const auto offset = _bit_scan_forward(mask); haystack += offset; if (haystack < haystack_end && haystack + n <= haystack_end && page_safe(haystack)) { const auto v_haystack = _mm_loadu_si128(reinterpret_cast(haystack)); const auto v_against_l = _mm_cmpeq_epi8(v_haystack, cachel); const auto v_against_u = _mm_cmpeq_epi8(v_haystack, cacheu); const auto v_against_l_or_u = _mm_or_si128(v_against_l, v_against_u); const auto mask = _mm_movemask_epi8(v_against_l_or_u); if (0xffff == cachemask) { if (mask == cachemask) { auto haystack_pos = haystack + n; auto needle_pos = needle_begin + n; while (haystack_pos < haystack_end && needle_pos < needle_end && std::tolower(*haystack_pos) == std::tolower(*needle_pos)) ++haystack_pos, ++needle_pos; if (needle_pos == needle_end) return haystack; } } else if ((mask & cachemask) == cachemask) return haystack; ++haystack; continue; } } if (haystack == haystack_end) return haystack_end; if (*haystack == l || *haystack == u) { auto haystack_pos = haystack + 1; auto needle_pos = needle_begin + 1; while (haystack_pos < haystack_end && needle_pos < needle_end && std::tolower(*haystack_pos) == std::tolower(*needle_pos)) ++haystack_pos, ++needle_pos; if (needle_pos == needle_end) return haystack; } ++haystack; } return haystack_end; } }; public: using ResultType = UInt64; static void vector( const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & needle, PODArray & res) { const CaseInsensitiveSearcher searcher{needle}; const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && end != (pos = searcher.find(pos, end))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) { res[i] = 0; ++i; } /// Проверяем, что вхождение не переходит через границы строк. if (pos + needle.size() < begin + offsets[i]) res[i] = (i != 0) ? pos - begin - offsets[i - 1] + 1 : (pos - begin + 1); else res[i] = 0; pos = begin + offsets[i]; ++i; } memset(&res[i], 0, (res.size() - i) * sizeof(res[0])); } static void constant(std::string data, std::string needle, UInt64 & res) { std::transform(std::begin(data), std::end(data), std::begin(data), tolower); std::transform(std::begin(needle), std::end(needle), std::begin(needle), tolower); res = data.find(needle); if (res == std::string::npos) res = 0; else ++res; } }; struct PositionCaseInsensitiveUTF8Impl { private: class CaseInsensitiveSearcher { using UTF8SequenceBuffer = UInt8[6]; static constexpr auto n = sizeof(__m128i); const int page_size = getpagesize(); /// string to be searched for const std::string & needle; bool first_needle_symbol_is_ascii{}; /// lower and uppercase variants of the first octet of the first character in `needle` UInt8 l{}; UInt8 u{}; /// vectors filled with `l` and `u`, for determining leftmost position of the first symbol __m128i patl, patu; /// lower and uppercase vectors of first 16 characters of `needle` __m128i cachel = _mm_setzero_si128(), cacheu = _mm_setzero_si128(); int cachemask{}; std::size_t cache_valid_len{}; std::size_t cache_actual_len{}; bool page_safe(const void * const ptr) const { return ((page_size - 1) & reinterpret_cast(ptr)) <= page_size - n; } public: CaseInsensitiveSearcher(const std::string & needle) : needle(needle) { if (needle.empty()) return; static const Poco::UTF8Encoding utf8; UTF8SequenceBuffer l_seq, u_seq; auto needle_pos = reinterpret_cast(needle.data()); if (*needle_pos < 0x80u) { first_needle_symbol_is_ascii = true; l = std::tolower(*needle_pos); u = std::toupper(*needle_pos); } else { const auto first_u32 = utf8.convert(needle_pos); const auto first_l_u32 = Poco::Unicode::toLower(first_u32); const auto first_u_u32 = Poco::Unicode::toUpper(first_u32); /// lower and uppercase variants of the first octet of the first character in `needle` utf8.convert(first_l_u32, l_seq, sizeof(l_seq)); l = l_seq[0]; utf8.convert(first_u_u32, u_seq, sizeof(u_seq)); u = u_seq[0]; } /// for detecting leftmost position of the first symbol patl = _mm_set1_epi8(l); patu = _mm_set1_epi8(u); /// lower and uppercase vectors of first 16 octets of `needle` const auto needle_end = needle_pos + needle.size(); for (std::size_t i = 0; i < n;) { if (needle_pos == needle_end) { cachel = _mm_srli_si128(cachel, 1); cacheu = _mm_srli_si128(cacheu, 1); ++i; continue; } const auto src_len = utf8_seq_length(*needle_pos); const auto c_u32 = utf8.convert(needle_pos); const auto c_l_u32 = Poco::Unicode::toLower(c_u32); const auto c_u_u32 = Poco::Unicode::toUpper(c_u32); const auto dst_l_len = static_cast(utf8.convert(c_l_u32, l_seq, sizeof(l_seq))); const auto dst_u_len = static_cast(utf8.convert(c_u_u32, u_seq, sizeof(u_seq))); /// @note Unicode standard states it is a rare but possible occasion if (!(dst_l_len == dst_u_len && dst_u_len == src_len)) throw Exception{ "UTF8 sequences with different lowercase and uppercase lengths are not supported", ErrorCodes::UNSUPPORTED_PARAMETER }; cache_actual_len += src_len; if (cache_actual_len < n) cache_valid_len += src_len; for (std::size_t j = 0; j < src_len && i < n; ++j, ++i) { cachel = _mm_srli_si128(cachel, 1); cacheu = _mm_srli_si128(cacheu, 1); if (needle_pos != needle_end) { cachel = _mm_insert_epi8(cachel, l_seq[j], n - 1); cacheu = _mm_insert_epi8(cacheu, u_seq[j], n - 1); cachemask |= 1 << i; ++needle_pos; } } } } const UInt8 * find(const UInt8 * haystack, const UInt8 * const haystack_end) const { if (needle.empty()) return haystack; static const Poco::UTF8Encoding utf8; const auto needle_begin = reinterpret_cast(needle.data()); const auto needle_end = needle_begin + needle.size(); while (haystack < haystack_end) { if (haystack + n <= haystack_end && page_safe(haystack)) { const auto v_haystack = _mm_loadu_si128(reinterpret_cast(haystack)); const auto v_against_l = _mm_cmpeq_epi8(v_haystack, patl); const auto v_against_u = _mm_cmpeq_epi8(v_haystack, patu); const auto v_against_l_or_u = _mm_or_si128(v_against_l, v_against_u); const auto mask = _mm_movemask_epi8(v_against_l_or_u); if (mask == 0) { haystack += n; utf8_sync_forward(haystack, haystack_end); continue; } const auto offset = _bit_scan_forward(mask); haystack += offset; if (haystack < haystack_end && haystack + n <= haystack_end && page_safe(haystack)) { const auto v_haystack = _mm_loadu_si128(reinterpret_cast(haystack)); const auto v_against_l = _mm_cmpeq_epi8(v_haystack, cachel); const auto v_against_u = _mm_cmpeq_epi8(v_haystack, cacheu); const auto v_against_l_or_u = _mm_or_si128(v_against_l, v_against_u); const auto mask = _mm_movemask_epi8(v_against_l_or_u); if (0xffff == cachemask) { if (mask == cachemask) { auto haystack_pos = haystack + cache_valid_len; auto needle_pos = needle_begin + cache_valid_len; while (haystack_pos < haystack_end && needle_pos < needle_end && Poco::Unicode::toLower(utf8.convert(haystack_pos)) == Poco::Unicode::toLower(utf8.convert(needle_pos))) { /// @note assuming sequences for lowercase and uppercase have exact same length const auto len = utf8_seq_length(*haystack_pos); haystack_pos += len, needle_pos += len; } if (needle_pos == needle_end) return haystack; } } else if ((mask & cachemask) == cachemask) return haystack; /// first octet was ok, but not the first 16, move to start of next sequence and reapply haystack += utf8_seq_length(*haystack); continue; } } if (haystack == haystack_end) return haystack_end; if (*haystack == l || *haystack == u) { auto haystack_pos = haystack + first_needle_symbol_is_ascii; auto needle_pos = needle_begin + first_needle_symbol_is_ascii; while (haystack_pos < haystack_end && needle_pos < needle_end && Poco::Unicode::toLower(utf8.convert(haystack_pos)) == Poco::Unicode::toLower(utf8.convert(needle_pos))) { const auto len = utf8_seq_length(*haystack_pos); haystack_pos += len, needle_pos += len; } if (needle_pos == needle_end) return haystack; } /// advance to the start of the next sequence haystack += utf8_seq_length(*haystack); } return haystack_end; } }; public: using ResultType = UInt64; static void vector( const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & needle, PODArray & res) { const CaseInsensitiveSearcher searcher{needle}; const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && end != (pos = searcher.find(pos, end))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) { res[i] = 0; ++i; } /// Проверяем, что вхождение не переходит через границы строк. if (pos + needle.size() < begin + offsets[i]) { /// А теперь надо найти, сколько кодовых точек находится перед pos. res[i] = 1; for (const UInt8 * c = begin + (i != 0 ? offsets[i - 1] : 0); c < pos; ++c) if (!utf8_is_continuation_octet(*c)) ++res[i]; } else res[i] = 0; pos = begin + offsets[i]; ++i; } memset(&res[i], 0, (res.size() - i) * sizeof(res[0])); } static void constant(std::string data, std::string needle, UInt64 & res) { static const Poco::UTF8Encoding utf8; auto data_pos = reinterpret_cast(&data[0]); const auto data_end = data_pos + data.size(); while (data_pos < data_end) { const auto len = utf8.convert(Poco::Unicode::toLower(utf8.convert(data_pos)), data_pos, data_end - data_pos); data_pos += len; } auto needle_pos = reinterpret_cast(&needle[0]); const auto needle_end = needle_pos + needle.size(); while (needle_pos < needle_end) { const auto len = utf8.convert(Poco::Unicode::toLower(utf8.convert(needle_pos)), needle_pos, needle_end - needle_pos); needle_pos += len; } const auto pos = data.find(needle); if (pos != std::string::npos) { /// А теперь надо найти, сколько кодовых точек находится перед pos. res = 1; for (const auto i : ext::range(0, pos)) if (!utf8_is_continuation_octet(static_cast(data[i]))) ++res; } else res = 0; } }; /// Переводит выражение LIKE в regexp re2. Например, abc%def -> ^abc.*def$ inline String likePatternToRegexp(const String & pattern) { String res; res.reserve(pattern.size() * 2); const char * pos = pattern.data(); const char * end = pos + pattern.size(); if (pos < end && *pos == '%') ++pos; else res = "^"; while (pos < end) { switch (*pos) { case '^': case '$': case '.': case '[': case '|': case '(': case ')': case '?': case '*': case '+': case '{': res += '\\'; res += *pos; break; case '%': if (pos + 1 != end) res += ".*"; else return res; break; case '_': res += "."; break; case '\\': ++pos; if (pos == end) res += "\\\\"; else { if (*pos == '%' || *pos == '_') res += *pos; else { res += '\\'; res += *pos; } } break; default: res += *pos; break; } ++pos; } res += '$'; return res; } /// Сводится ли выражение LIKE к поиску подстроки в строке? inline bool likePatternIsStrstr(const String & pattern, String & res) { res = ""; if (pattern.size() < 2 || pattern.front() != '%' || pattern.back() != '%') return false; res.reserve(pattern.size() * 2); const char * pos = pattern.data(); const char * end = pos + pattern.size(); ++pos; --end; while (pos < end) { switch (*pos) { case '%': case '_': return false; case '\\': ++pos; if (pos == end) return false; else res += *pos; break; default: res += *pos; break; } ++pos; } return true; } namespace Regexps { struct Holder; struct Deleter; using Regexp = OptimizedRegularExpressionImpl; using KnownRegexps = std::map>; using Pointer = std::unique_ptr; /// Container for regular expressions with embedded mutex for safe addition and removal struct Holder { std::mutex mutex; std::stack> stack; /** Extracts and returns a pointer from the collection if it's not empty, * creates a new one by calling provided f() otherwise. */ template Pointer get(Factory && f); }; /** Specialized deleter for std::unique_ptr. * Returns underlying pointer back to holder thus reclaiming its ownership. */ struct Deleter { Holder * holder; Deleter(Holder * holder = nullptr) : holder{holder} {} void operator()(Regexp * owning_ptr) const { std::lock_guard lock{holder->mutex}; holder->stack.emplace(owning_ptr); } }; template inline Pointer Holder::get(Factory && f) { std::lock_guard lock{mutex}; if (stack.empty()) return { f(), this }; auto regexp = stack.top().release(); stack.pop(); return { regexp, this }; } template inline Regexp createRegexp(const std::string & pattern, int flags) { return {pattern, flags}; } template <> inline Regexp createRegexp(const std::string & pattern, int flags) { return {likePatternToRegexp(pattern), flags}; } template inline Pointer get(const std::string & pattern) { /// C++11 has thread-safe function-local statics on most modern compilers. static KnownRegexps known_regexps; /// Разные переменные для разных параметров шаблона. static std::mutex mutex; std::lock_guard lock{mutex}; auto it = known_regexps.find(pattern); if (known_regexps.end() == it) it = known_regexps.emplace(pattern, std::make_unique()).first; return it->second->get([&pattern] { int flags = OptimizedRegularExpression::RE_DOT_NL; if (no_capture) flags |= OptimizedRegularExpression::RE_NO_CAPTURE; return new Regexp{createRegexp(pattern, flags)}; }); } } /** like - использовать выражения LIKE, если true; использовать выражения re2, если false. * Замечание: хотелось бы запускать регексп сразу над всем массивом, аналогично функции position, * но для этого пришлось бы сделать поддержку символов \0 в движке регулярных выражений, * и их интерпретацию как начал и концов строк. */ template struct MatchImpl { typedef UInt8 ResultType; static void vector(const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & pattern, PODArray & res) { String strstr_pattern; /// Простой случай, когда выражение LIKE сводится к поиску подстроки в строке if (like && likePatternIsStrstr(pattern, strstr_pattern)) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; /// TODO Надо сделать так, чтобы searcher был общим на все вызовы функции. Volnitsky searcher(strstr_pattern.data(), strstr_pattern.size(), end - pos); /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && end != (pos = searcher.search(pos, end - pos))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) { res[i] = revert; ++i; } /// Проверяем, что вхождение не переходит через границы строк. if (pos + strstr_pattern.size() < begin + offsets[i]) res[i] = !revert; else res[i] = revert; pos = begin + offsets[i]; ++i; } /// Хвостик, в котором не может быть подстрок. memset(&res[i], revert, (res.size() - i) * sizeof(res[0])); } else { size_t size = offsets.size(); const auto & regexp = Regexps::get(pattern); std::string required_substring; bool is_trivial; bool required_substring_is_prefix; /// для anchored выполнения регекспа. regexp->getAnalyzeResult(required_substring, is_trivial, required_substring_is_prefix); if (required_substring.empty()) { if (!regexp->getRE2()) /// Пустой регексп. Всегда матчит. { memset(&res[0], 1, size * sizeof(res[0])); } else { size_t prev_offset = 0; for (size_t i = 0; i < size; ++i) { res[i] = revert ^ regexp->getRE2()->Match( re2_st::StringPiece(reinterpret_cast(&data[prev_offset]), offsets[i] - prev_offset - 1), 0, offsets[i] - prev_offset - 1, re2_st::RE2::UNANCHORED, nullptr, 0); prev_offset = offsets[i]; } } } else { /// NOTE Это почти совпадает со случаем likePatternIsStrstr. const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; Volnitsky searcher(required_substring.data(), required_substring.size(), end - pos); /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && end != (pos = searcher.search(pos, end - pos))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) { res[i] = revert; ++i; } /// Проверяем, что вхождение не переходит через границы строк. if (pos + strstr_pattern.size() < begin + offsets[i]) { /// И если не переходит - при необходимости, проверяем регекспом. if (is_trivial) res[i] = !revert; else { const char * str_data = reinterpret_cast(&data[i != 0 ? offsets[i - 1] : 0]); size_t str_size = (i != 0 ? offsets[i] - offsets[i - 1] : offsets[0]) - 1; /** Даже в случае required_substring_is_prefix используем UNANCHORED проверку регекспа, * чтобы он мог сматчиться, когда required_substring встречается в строке несколько раз, * и на первом вхождении регексп не матчит. */ if (required_substring_is_prefix) res[i] = revert ^ regexp->getRE2()->Match( re2_st::StringPiece(str_data, str_size), reinterpret_cast(pos) - str_data, str_size, re2_st::RE2::UNANCHORED, nullptr, 0); else res[i] = revert ^ regexp->getRE2()->Match( re2_st::StringPiece(str_data, str_size), 0, str_size, re2_st::RE2::UNANCHORED, nullptr, 0); } } else res[i] = revert; pos = begin + offsets[i]; ++i; } memset(&res[i], revert, (res.size() - i) * sizeof(res[0])); } } } static void constant(const std::string & data, const std::string & pattern, UInt8 & res) { const auto & regexp = Regexps::get(pattern); res = revert ^ regexp->match(data); } }; struct ExtractImpl { static void vector(const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & pattern, ColumnString::Chars_t & res_data, ColumnString::Offsets_t & res_offsets) { res_data.reserve(data.size() / 5); res_offsets.resize(offsets.size()); const auto & regexp = Regexps::get(pattern); unsigned capture = regexp->getNumberOfSubpatterns() > 0 ? 1 : 0; OptimizedRegularExpression::MatchVec matches; matches.reserve(capture + 1); size_t prev_offset = 0; size_t res_offset = 0; for (size_t i = 0; i < offsets.size(); ++i) { size_t cur_offset = offsets[i]; unsigned count = regexp->match(reinterpret_cast(&data[prev_offset]), cur_offset - prev_offset - 1, matches, capture + 1); if (count > capture && matches[capture].offset != std::string::npos) { const auto & match = matches[capture]; res_data.resize(res_offset + match.length + 1); memcpy(&res_data[res_offset], &data[prev_offset + match.offset], match.length); res_offset += match.length; } else { res_data.resize(res_offset + 1); } res_data[res_offset] = 0; ++res_offset; res_offsets[i] = res_offset; prev_offset = cur_offset; } } }; /** Заменить все вхождения регекспа needle на строку replacement. needle и replacement - константы. * Replacement может содержать подстановки, например '\2-\3-\1' */ template struct ReplaceRegexpImpl { /// Последовательность инструкций, описывает как получить конечную строку. Каждый элемент /// либо подстановка, тогда первое число в паре ее id, /// либо строка, которую необходимо вставить, записана второй в паре. (id = -1) typedef std::vector< std::pair > Instructions; static void split(const std::string & s, Instructions & instructions) { instructions.clear(); String now = ""; for (size_t i = 0; i < s.size(); ++i) { if (s[i] == '\\' && i + 1 < s.size()) { if (isdigit(s[i+1])) /// Подстановка { if (!now.empty()) { instructions.push_back(std::make_pair(-1, now)); now = ""; } instructions.push_back(std::make_pair(s[i+1] - '0', "")); } else now += s[i+1]; /// Экранирование ++i; } else now += s[i]; /// Обычный символ } if (!now.empty()) { instructions.push_back(std::make_pair(-1, now)); now = ""; } } static void vector(const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & needle, const std::string & replacement, ColumnString::Chars_t & res_data, ColumnString::Offsets_t & res_offsets) { ColumnString::Offset_t res_offset = 0; res_data.reserve(data.size()); size_t size = offsets.size(); res_offsets.resize(size); RE2 searcher(needle); int capture = std::min(searcher.NumberOfCapturingGroups() + 1, 10); re2::StringPiece matches[10]; Instructions instructions; split(replacement, instructions); for (const auto & it : instructions) if (it.first >= capture) throw Exception("Invalid replace instruction in replacement string. Id: " + toString(it.first) + ", but regexp has only " + toString(capture - 1) + " subpatterns", ErrorCodes::BAD_ARGUMENTS); /// Искать вхождение сразу во всех сроках нельзя, будем двигаться вдоль каждой независимо for (size_t id = 0; id < size; ++id) { int from = id > 0 ? offsets[id-1] : 0; int start_pos = 0; re2::StringPiece input(reinterpret_cast(&data[0] + from), offsets[id] - from - 1); while (start_pos < input.length()) { /// Правда ли, что с этой строкой больше не надо выполнять преобразования bool can_finish_current_string = false; if (searcher.Match(input, start_pos, input.length(), re2::RE2::Anchor::UNANCHORED, matches, capture)) { const auto & match = matches[0]; size_t char_to_copy = (match.data() - input.data()) - start_pos; /// Копируем данные без изменения res_data.resize(res_data.size() + char_to_copy); memcpy(&res_data[res_offset], input.data() + start_pos, char_to_copy); res_offset += char_to_copy; start_pos += char_to_copy + match.length(); /// Выполняем инструкции подстановки for (const auto & it : instructions) { if (it.first >= 0) { res_data.resize(res_data.size() + matches[it.first].length()); memcpy(&res_data[res_offset], matches[it.first].data(), matches[it.first].length()); res_offset += matches[it.first].length(); } else { res_data.resize(res_data.size() + it.second.size()); memcpy(&res_data[res_offset], it.second.data(), it.second.size()); res_offset += it.second.size(); } } if (replaceOne || match.length() == 0) can_finish_current_string = true; } else can_finish_current_string = true; /// Если пора, копируем все символы до конца строки if (can_finish_current_string) { res_data.resize(res_data.size() + input.length() - start_pos); memcpy(&res_data[res_offset], input.data() + start_pos, input.length() - start_pos); res_offset += input.length() - start_pos; res_offsets[id] = res_offset; start_pos = input.length(); } } res_data.resize(res_data.size() + 1); res_data[res_offset++] = 0; res_offsets[id] = res_offset; } } static void vector_fixed(const ColumnString::Chars_t & data, size_t n, const std::string & needle, const std::string & replacement, ColumnString::Chars_t & res_data, ColumnString::Offsets_t & res_offsets) { ColumnString::Offset_t res_offset = 0; size_t size = data.size() / n; res_data.reserve(data.size()); res_offsets.resize(size); RE2 searcher(needle); int capture = std::min(searcher.NumberOfCapturingGroups() + 1, 10); re2::StringPiece matches[10]; Instructions instructions; split(replacement, instructions); for (const auto & it : instructions) if (it.first >= capture) throw Exception("Invalid replace instruction in replacement string. Id: " + toString(it.first) + ", but regexp has only " + toString(capture - 1) + " subpatterns", ErrorCodes::BAD_ARGUMENTS); /// Искать вхождение сразу во всех сроках нельзя, будем двигаться вдоль каждой независимо. for (size_t id = 0; id < size; ++id) { int from = id * n; int start_pos = 0; re2::StringPiece input(reinterpret_cast(&data[0] + from), (id + 1) * n - from); while (start_pos < input.length()) { /// Правда ли, что с этой строкой больше не надо выполнять преобразования. bool can_finish_current_string = false; if (searcher.Match(input, start_pos, input.length(), re2::RE2::Anchor::UNANCHORED, matches, capture)) { const auto & match = matches[0]; size_t char_to_copy = (match.data() - input.data()) - start_pos; /// Копируем данные без изменения res_data.resize(res_data.size() + char_to_copy); memcpy(&res_data[res_offset], input.data() + start_pos, char_to_copy); res_offset += char_to_copy; start_pos += char_to_copy + match.length(); /// Выполняем инструкции подстановки for (const auto & it : instructions) { if (it.first >= 0) { res_data.resize(res_data.size() + matches[it.first].length()); memcpy(&res_data[res_offset], matches[it.first].data(), matches[it.first].length()); res_offset += matches[it.first].length(); } else { res_data.resize(res_data.size() + it.second.size()); memcpy(&res_data[res_offset], it.second.data(), it.second.size()); res_offset += it.second.size(); } } if (replaceOne || match.length() == 0) can_finish_current_string = true; } else can_finish_current_string = true; /// Если пора, копируем все символы до конца строки if (can_finish_current_string) { res_data.resize(res_data.size() + input.length() - start_pos); memcpy(&res_data[res_offset], input.data() + start_pos, input.length() - start_pos); res_offset += input.length() - start_pos; res_offsets[id] = res_offset; start_pos = input.length(); } } res_data.resize(res_data.size() + 1); res_data[res_offset++] = 0; res_offsets[id] = res_offset; } } static void constant(const std::string & data, const std::string & needle, const std::string & replacement, std::string & res_data) { RE2 searcher(needle); int capture = std::min(searcher.NumberOfCapturingGroups() + 1, 10); re2::StringPiece matches[10]; Instructions instructions; split(replacement, instructions); for (const auto & it : instructions) if (it.first >= capture) throw Exception("Invalid replace instruction in replacement string. Id: " + toString(it.first) + ", but regexp has only " + toString(capture - 1) + " subpatterns", ErrorCodes::BAD_ARGUMENTS); int start_pos = 0; re2::StringPiece input(data); res_data = ""; while (start_pos < input.length()) { /// Правда ли, что с этой строкой больше не надо выполнять преобразования. bool can_finish_current_string = false; if (searcher.Match(input, start_pos, input.length(), re2::RE2::Anchor::UNANCHORED, matches, capture)) { const auto & match = matches[0]; size_t char_to_copy = (match.data() - input.data()) - start_pos; /// Копируем данные без изменения res_data += data.substr(start_pos, char_to_copy); start_pos += char_to_copy + match.length(); /// Выполняем инструкции подстановки for (const auto & it : instructions) { if (it.first >= 0) res_data += matches[it.first].ToString(); else res_data += it.second; } if (replaceOne || match.length() == 0) can_finish_current_string = true; } else can_finish_current_string = true; /// Если пора, копируем все символы до конца строки if (can_finish_current_string) { res_data += data.substr(start_pos); start_pos = input.length(); } } } }; /** Заменить все вхождения подстроки needle на строку replacement. needle и replacement - константы. */ template struct ReplaceStringImpl { static void vector(const ColumnString::Chars_t & data, const ColumnString::Offsets_t & offsets, const std::string & needle, const std::string & replacement, ColumnString::Chars_t & res_data, ColumnString::Offsets_t & res_offsets) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); ColumnString::Offset_t res_offset = 0; res_data.reserve(data.size()); size_t size = offsets.size(); res_offsets.resize(size); /// Текущий индекс в массиве строк. size_t i = 0; Volnitsky searcher(needle.data(), needle.size(), end - pos); /// Искать будем следующее вхождение сразу во всех строках. while (pos < end) { const UInt8 * match = searcher.search(pos, end - pos); /// Копируем данные без изменения res_data.resize(res_data.size() + (match - pos)); memcpy(&res_data[res_offset], pos, match - pos); /// Определим, к какому индексу оно относится. while (i < offsets.size() && begin + offsets[i] < match) { res_offsets[i] = res_offset + ((begin + offsets[i]) - pos); ++i; } res_offset += (match - pos); /// Если дошли до конца, пора остановиться if (i == offsets.size()) break; /// Правда ли, что с этой строкой больше не надо выполнять преобразования. bool can_finish_current_string = false; /// Проверяем, что вхождение не переходит через границы строк. if (match + needle.size() < begin + offsets[i]) { res_data.resize(res_data.size() + replacement.size()); memcpy(&res_data[res_offset], replacement.data(), replacement.size()); res_offset += replacement.size(); pos = match + needle.size(); if (replaceOne) can_finish_current_string = true; } else { pos = match; can_finish_current_string = true; } if (can_finish_current_string) { res_data.resize(res_data.size() + (begin + offsets[i] - pos)); memcpy(&res_data[res_offset], pos, (begin + offsets[i] - pos)); res_offset += (begin + offsets[i] - pos); res_offsets[i] = res_offset; pos = begin + offsets[i]; } } } static void vector_fixed(const ColumnString::Chars_t & data, size_t n, const std::string & needle, const std::string & replacement, ColumnString::Chars_t & res_data, ColumnString::Offsets_t & res_offsets) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); ColumnString::Offset_t res_offset = 0; size_t size = data.size() / n; res_data.reserve(data.size()); res_offsets.resize(size); /// Текущий индекс в массиве строк. size_t i = 0; Volnitsky searcher(needle.data(), needle.size(), end - pos); /// Искать будем следующее вхождение сразу во всех строках. while (pos < end) { const UInt8 * match = searcher.search(pos, end - pos); /// Копируем данные без изменения res_data.resize(res_data.size() + (match - pos)); memcpy(&res_data[res_offset], pos, match - pos); /// Определим, к какому индексу оно относится. while (i < size && begin + n * (i + 1) < match) { res_offsets[i] = res_offset + ((begin + n * (i + 1)) - pos); ++i; } res_offset += (match - pos); /// Если дошли до конца, пора остановиться if (i == size) break; /// Правда ли, что с этой строкой больше не надо выполнять преобразования. bool can_finish_current_string = false; /// Проверяем, что вхождение не переходит через границы строк. if (match + needle.size() < begin + n * (i + 1)) { res_data.resize(res_data.size() + replacement.size()); memcpy(&res_data[res_offset], replacement.data(), replacement.size()); res_offset += replacement.size(); pos = match + needle.size(); if (replaceOne) can_finish_current_string = true; } else { pos = match; can_finish_current_string = true; } if (can_finish_current_string) { res_data.resize(res_data.size() + (begin + n * (i + 1) - pos)); memcpy(&res_data[res_offset], pos, (begin + n * (i + 1) - pos)); res_offset += (begin + n * (i + 1) - pos); res_offsets[i] = res_offset; pos = begin + n * (i + 1); } } } static void constant(const std::string & data, const std::string & needle, const std::string & replacement, std::string & res_data) { res_data = ""; int replace_cnt = 0; for (size_t i = 0; i < data.size(); ++i) { bool match = true; if (i + needle.size() > data.size() || (replaceOne && replace_cnt > 0)) match = false; for (size_t j = 0; match && j < needle.size(); ++j) if (data[i + j] != needle[j]) match = false; if (match) { ++replace_cnt; res_data += replacement; i = i + needle.size() - 1; } else res_data += data[i]; } } }; template class FunctionStringReplace : public IFunction { public: static constexpr auto name = Name::name; static IFunction * create(const Context & context) { return new FunctionStringReplace; } /// Получить имя функции. String getName() const { return name; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnType(const DataTypes & arguments) const { if (arguments.size() != 3) throw Exception("Number of arguments for function " + getName() + " doesn't match: passed " + toString(arguments.size()) + ", should be 3.", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); if (!typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[0]->getName() + " of first argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (!typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[1]->getName() + " of second argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (!typeid_cast(&*arguments[0]) && !typeid_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[2]->getName() + " of third argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return new DataTypeString; } /// Выполнить функцию над блоком. void execute(Block & block, const ColumnNumbers & arguments, size_t result) { const ColumnPtr column_src = block.getByPosition(arguments[0]).column; const ColumnPtr column_needle = block.getByPosition(arguments[1]).column; const ColumnPtr column_replacement = block.getByPosition(arguments[2]).column; if (!column_needle->isConst() || !column_replacement->isConst()) throw Exception("2nd and 3rd arguments of function " + getName() + " must be constants."); const IColumn * c1 = &*block.getByPosition(arguments[1]).column; const IColumn * c2 = &*block.getByPosition(arguments[2]).column; const ColumnConstString * c1_const = typeid_cast(c1); const ColumnConstString * c2_const = typeid_cast(c2); String needle = c1_const->getData(); String replacement = c2_const->getData(); if (needle.size() == 0) throw Exception("Length of the second argument of function replace must be greater than 0.", ErrorCodes::ARGUMENT_OUT_OF_BOUND); if (const ColumnString * col = typeid_cast(&*column_src)) { ColumnString * col_res = new ColumnString; block.getByPosition(result).column = col_res; Impl::vector(col->getChars(), col->getOffsets(), needle, replacement, col_res->getChars(), col_res->getOffsets()); } else if (const ColumnFixedString * col = typeid_cast(&*column_src)) { ColumnString * col_res = new ColumnString; block.getByPosition(result).column = col_res; Impl::vector_fixed(col->getChars(), col->getN(), needle, replacement, col_res->getChars(), col_res->getOffsets()); } else if (const ColumnConstString * col = typeid_cast(&*column_src)) { String res; Impl::constant(col->getData(), needle, replacement, res); ColumnConstString * col_res = new ColumnConstString(col->size(), res); block.getByPosition(result).column = col_res; } else throw Exception("Illegal column " + block.getByPosition(arguments[0]).column->getName() + " of first argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } }; template class FunctionsStringSearch : public IFunction { public: static constexpr auto name = Name::name; static IFunction * create(const Context & context) { return new FunctionsStringSearch; } /// Получить имя функции. String getName() const { return name; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnType(const DataTypes & arguments) const { if (arguments.size() != 2) throw Exception("Number of arguments for function " + getName() + " doesn't match: passed " + toString(arguments.size()) + ", should be 2.", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); if (!typeid_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[0]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (!typeid_cast(&*arguments[1])) throw Exception("Illegal type " + arguments[1]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return new typename DataTypeFromFieldType::Type; } /// Выполнить функцию над блоком. void execute(Block & block, const ColumnNumbers & arguments, size_t result) { typedef typename Impl::ResultType ResultType; const ColumnPtr column = block.getByPosition(arguments[0]).column; const ColumnPtr column_needle = block.getByPosition(arguments[1]).column; const ColumnConstString * col_needle = typeid_cast(&*column_needle); if (!col_needle) throw Exception("Second argument of function " + getName() + " must be constant string.", ErrorCodes::ILLEGAL_COLUMN); if (const ColumnString * col = typeid_cast(&*column)) { ColumnVector * col_res = new ColumnVector; block.getByPosition(result).column = col_res; typename ColumnVector::Container_t & vec_res = col_res->getData(); vec_res.resize(col->size()); Impl::vector(col->getChars(), col->getOffsets(), col_needle->getData(), vec_res); } else if (const ColumnConstString * col = typeid_cast(&*column)) { ResultType res{}; Impl::constant(col->getData(), col_needle->getData(), res); ColumnConst * col_res = new ColumnConst(col->size(), res); block.getByPosition(result).column = col_res; } else throw Exception("Illegal column " + block.getByPosition(arguments[0]).column->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } }; template class FunctionsStringSearchToString : public IFunction { public: static constexpr auto name = Name::name; static IFunction * create(const Context & context) { return new FunctionsStringSearchToString; } /// Получить имя функции. String getName() const { return name; } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnType(const DataTypes & arguments) const { if (arguments.size() != 2) throw Exception("Number of arguments for function " + getName() + " doesn't match: passed " + toString(arguments.size()) + ", should be 2.", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); if (!typeid_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[0]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (!typeid_cast(&*arguments[1])) throw Exception("Illegal type " + arguments[1]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return new DataTypeString; } /// Выполнить функцию над блоком. void execute(Block & block, const ColumnNumbers & arguments, size_t result) { const ColumnPtr column = block.getByPosition(arguments[0]).column; const ColumnPtr column_needle = block.getByPosition(arguments[1]).column; const ColumnConstString * col_needle = typeid_cast(&*column_needle); if (!col_needle) throw Exception("Second argument of function " + getName() + " must be constant string.", ErrorCodes::ILLEGAL_COLUMN); if (const ColumnString * col = typeid_cast(&*column)) { ColumnString * col_res = new ColumnString; block.getByPosition(result).column = col_res; ColumnString::Chars_t & vec_res = col_res->getChars(); ColumnString::Offsets_t & offsets_res = col_res->getOffsets(); Impl::vector(col->getChars(), col->getOffsets(), col_needle->getData(), vec_res, offsets_res); } else if (const ColumnConstString * col = typeid_cast(&*column)) { const std::string & data = col->getData(); ColumnString::Chars_t vdata( reinterpret_cast(data.c_str()), reinterpret_cast(data.c_str() + data.size() + 1)); ColumnString::Offsets_t offsets(1, vdata.size()); ColumnString::Chars_t res_vdata; ColumnString::Offsets_t res_offsets; Impl::vector(vdata, offsets, col_needle->getData(), res_vdata, res_offsets); std::string res; if (!res_offsets.empty()) res.assign(&res_vdata[0], &res_vdata[res_vdata.size() - 1]); ColumnConstString * col_res = new ColumnConstString(col->size(), res); block.getByPosition(result).column = col_res; } else throw Exception("Illegal column " + block.getByPosition(arguments[0]).column->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } }; struct NamePosition { static constexpr auto name = "position"; }; struct NamePositionUTF8 { static constexpr auto name = "positionUTF8"; }; struct NamePositionCaseInsensitive { static constexpr auto name = "positionCaseInsensitive"; }; struct NamePositionCaseInsensitiveUTF8 { static constexpr auto name = "positionCaseInsensitiveUTF8"; }; struct NameMatch { static constexpr auto name = "match"; }; struct NameLike { static constexpr auto name = "like"; }; struct NameNotLike { static constexpr auto name = "notLike"; }; struct NameExtract { static constexpr auto name = "extract"; }; struct NameReplaceOne { static constexpr auto name = "replaceOne"; }; struct NameReplaceAll { static constexpr auto name = "replaceAll"; }; struct NameReplaceRegexpOne { static constexpr auto name = "replaceRegexpOne"; }; struct NameReplaceRegexpAll { static constexpr auto name = "replaceRegexpAll"; }; typedef FunctionsStringSearch FunctionPosition; typedef FunctionsStringSearch FunctionPositionUTF8; typedef FunctionsStringSearch FunctionPositionCaseInsensitive; typedef FunctionsStringSearch FunctionPositionCaseInsensitiveUTF8; typedef FunctionsStringSearch, NameMatch> FunctionMatch; typedef FunctionsStringSearch, NameLike> FunctionLike; typedef FunctionsStringSearch, NameNotLike> FunctionNotLike; typedef FunctionsStringSearchToString FunctionExtract; typedef FunctionStringReplace, NameReplaceOne> FunctionReplaceOne; typedef FunctionStringReplace, NameReplaceAll> FunctionReplaceAll; typedef FunctionStringReplace, NameReplaceRegexpOne> FunctionReplaceRegexpOne; typedef FunctionStringReplace, NameReplaceRegexpAll> FunctionReplaceRegexpAll; }