#pragma once #include #include #include #include #include #include #include namespace DB { /** Функции поиска и замены в строках: * * position(haystack, needle) - обычный поиск подстроки в строке, возвращает позицию (в байтах) найденной подстроки, начиная с 1, или 0, если подстрока не найдена. * positionUTF8(haystack, needle) - то же самое, но позиция вычисляется в кодовых точках, при условии, что строка в кодировке UTF-8. * * like(haystack, pattern) - поиск по регулярному выражению LIKE; возвращает 0 или 1. Регистронезависимое, но только для латиницы. * notLike(haystack, pattern) * * match(haystack, pattern) - поиск по регулярному выражению re2; возвращает 0 или 1. * * Применяет регексп re2 и достаёт: * - первый subpattern, если в regexp-е есть subpattern; * - нулевой subpattern (сматчившуюся часть, иначе); * - если не сматчилось - пустую строку. * extract(haystack, pattern) * * replaceOne(haystack, pattern, replacement) - замена шаблона по заданным правилам, только первое вхождение. * replaceAll(haystack, pattern, replacement) - замена шаблона по заданным правилам, все вхождения. * * Внимание! На данный момент, аргументы needle, pattern, n, replacement обязаны быть константами. */ struct PositionImpl { typedef UInt64 ResultType; /// Предполагается, что res нужного размера и инициализирован нулями. static void vector(const std::vector & data, const ColumnString::Offsets_t & offsets, const std::string & needle, std::vector & res) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && NULL != (pos = reinterpret_cast(memmem(pos, end - pos, needle.data(), needle.size())))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) ++i; /// Проверяем, что вхождение не переходит через границы строк. if (pos + needle.size() < begin + offsets[i]) res[i] = (i != 0) ? pos - begin - offsets[i - 1] + 1 : (pos - begin + 1); pos = begin + offsets[i]; ++i; } } static void constant(const std::string & data, const std::string & needle, UInt64 & res) { res = data.find(needle); if (res == std::string::npos) res = 0; else ++res; } }; struct PositionUTF8Impl { typedef UInt64 ResultType; static void vector(const std::vector & data, const ColumnString::Offsets_t & offsets, const std::string & needle, std::vector & res) { const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && NULL != (pos = reinterpret_cast(memmem(pos, end - pos, needle.data(), needle.size())))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) ++i; /// Проверяем, что вхождение не переходит через границы строк. if (pos + needle.size() < begin + offsets[i]) { /// А теперь надо найти, сколько кодовых точек находится перед pos. res[i] = 1; for (const UInt8 * c = begin + (i != 0 ? offsets[i - 1] : 0); c < pos; ++c) if (*c <= 0x7F || *c >= 0xC0) ++res[i]; } pos = begin + offsets[i]; ++i; } } static void constant(const std::string & data, const std::string & needle, UInt64 & res) { res = data.find(needle); if (res == std::string::npos) res = 0; else ++res; } }; /// Переводит выражение LIKE в regexp re2. Например, abc%def -> ^abc.*def$ inline String likePatternToRegexp(const String & pattern) { String res = "^"; res.reserve(pattern.size() * 2); const char * pos = pattern.data(); const char * end = pos + pattern.size(); while (pos < end) { switch (*pos) { case '^': case '$': case '.': case '[': case '|': case '(': case ')': case '?': case '*': case '+': case '{': res += '\\'; res += *pos; break; case '%': res += ".*"; break; case '_': res += "."; break; case '\\': ++pos; if (pos == end) res += "\\\\"; else { if (*pos == '%' || *pos == '_') res += *pos; else { res += '\\'; res += *pos; } } break; default: res += *pos; break; } ++pos; } res += '$'; return res; } /// Сводится ли выражение LIKE к поиску подстроки в строке? inline bool likePatternIsStrstr(const String & pattern, String & res) { res = ""; if (pattern.size() < 2 || *pattern.begin() != '%' || *pattern.rbegin() != '%') return false; res.reserve(pattern.size() * 2); const char * pos = pattern.data(); const char * end = pos + pattern.size(); ++pos; --end; while (pos < end) { switch (*pos) { case '%': case '_': return false; case '\\': ++pos; if (pos == end) return false; else res += *pos; break; default: res += *pos; break; } ++pos; } return true; } struct Regexps { typedef std::map KnownRegexps; static const OptimizedRegularExpression & get(const std::string & pattern) { /// В GCC thread safe statics. static KnownRegexps known_regexps; static Poco::FastMutex mutex; Poco::ScopedLock lock(mutex); KnownRegexps::const_iterator it = known_regexps.find(pattern); if (known_regexps.end() == it) it = known_regexps.insert(std::make_pair(pattern, OptimizedRegularExpression(pattern))).first; return it->second; } static const OptimizedRegularExpression & getLike(const std::string & pattern) { /// В GCC thread safe statics. static KnownRegexps known_regexps; static Poco::FastMutex mutex; Poco::ScopedLock lock(mutex); KnownRegexps::const_iterator it = known_regexps.find(pattern); if (known_regexps.end() == it) it = known_regexps.insert(std::make_pair(pattern, OptimizedRegularExpression(likePatternToRegexp(pattern), OptimizedRegularExpression::RE_CASELESS))).first; return it->second; } }; /** like - использовать выражения LIKE, если true; использовать выражения re2, если false. * Замечание: хотелось бы запускать регексп сразу над всем массивом, аналогично функции position, * но для этого пришлось бы сделать поддержку символов \0 в движке регулярных выражений, * и их интерпретацию как начал и концов строк. */ template struct MatchImpl { typedef UInt8 ResultType; static void vector(const std::vector & data, const ColumnString::Offsets_t & offsets, const std::string & pattern, std::vector & res) { String strstr_pattern; /// Простой случай, когда выражение LIKE сводится к поиску подстроки в строке if (like && likePatternIsStrstr(pattern, strstr_pattern)) { /// Если отрицание - то заполним вектор единицами (вместо имеющихся там нулей) if (revert) memset(&res[0], 1, offsets.size()); const UInt8 * begin = &data[0]; const UInt8 * pos = begin; const UInt8 * end = pos + data.size(); /// Текущий индекс в массиве строк. size_t i = 0; /// Искать будем следующее вхождение сразу во всех строках. while (pos < end && NULL != (pos = reinterpret_cast(memmem(pos, end - pos, strstr_pattern.data(), strstr_pattern.size())))) { /// Определим, к какому индексу оно относится. while (begin + offsets[i] < pos) ++i; /// Проверяем, что вхождение не переходит через границы строк. if (pos + strstr_pattern.size() < begin + offsets[i]) res[i] = !revert; pos = begin + offsets[i]; ++i; } } else { const OptimizedRegularExpression & regexp = like ? Regexps::getLike(pattern) : Regexps::get(pattern); size_t size = offsets.size(); for (size_t i = 0; i < size; ++i) res[i] = revert ^ regexp.match(reinterpret_cast(&data[i != 0 ? offsets[i - 1] : 0]), (i != 0 ? offsets[i] - offsets[i - 1] : offsets[0]) - 1); } } static void constant(const std::string & data, const std::string & pattern, UInt8 & res) { const OptimizedRegularExpression & regexp = like ? Regexps::getLike(pattern) : Regexps::get(pattern); res = revert ^ regexp.match(data); } }; struct ExtractImpl { static void vector(const std::vector & data, const ColumnString::Offsets_t & offsets, const std::string & pattern, std::vector & res_data, ColumnString::Offsets_t & res_offsets) { res_data.reserve(data.size() / 5); res_offsets.resize(offsets.size()); const OptimizedRegularExpression & regexp = Regexps::get(pattern); unsigned capture = regexp.getNumberOfSubpatterns() > 0 ? 1 : 0; OptimizedRegularExpression::MatchVec matches; matches.reserve(capture + 1); size_t prev_offset = 0; size_t res_offset = 0; for (size_t i = 0; i < offsets.size(); ++i) { size_t cur_offset = offsets[i]; unsigned count = regexp.match(reinterpret_cast(&data[prev_offset]), cur_offset - prev_offset - 1, matches, capture + 1); if (count > capture && matches[capture].offset != std::string::npos) { const OptimizedRegularExpression::Match & match = matches[capture]; res_data.resize(res_offset + match.length + 1); memcpy(&res_data[res_offset], &data[prev_offset + match.offset], match.length); res_offset += match.length; } else { res_data.resize(res_offset + 1); } res_data[res_offset] = 0; ++res_offset; res_offsets[i] = res_offset; prev_offset = cur_offset; } } }; template class FunctionsStringSearch : public IFunction { public: /// Получить имя функции. String getName() const { return Name::get(); } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnType(const DataTypes & arguments) const { if (arguments.size() != 2) throw Exception("Number of arguments for function " + getName() + " doesn't match: passed " + Poco::NumberFormatter::format(arguments.size()) + ", should be 2.", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); if (!dynamic_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[0]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (!dynamic_cast(&*arguments[1])) throw Exception("Illegal type " + arguments[1]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return new typename DataTypeFromFieldType::Type; } /// Выполнить функцию над блоком. void execute(Block & block, const ColumnNumbers & arguments, size_t result) { typedef typename Impl::ResultType ResultType; const ColumnPtr column = block.getByPosition(arguments[0]).column; const ColumnPtr column_needle = block.getByPosition(arguments[1]).column; const ColumnConstString * col_needle = dynamic_cast(&*column_needle); if (!col_needle) throw Exception("Second argument of function " + getName() + " must be constant string.", ErrorCodes::ILLEGAL_COLUMN); if (const ColumnString * col = dynamic_cast(&*column)) { ColumnVector * col_res = new ColumnVector; block.getByPosition(result).column = col_res; typename ColumnVector::Container_t & vec_res = col_res->getData(); vec_res.resize(col->size()); Impl::vector(col->getChars(), col->getOffsets(), col_needle->getData(), vec_res); } else if (const ColumnConstString * col = dynamic_cast(&*column)) { ResultType res = 0; Impl::constant(col->getData(), col_needle->getData(), res); ColumnConst * col_res = new ColumnConst(col->size(), res); block.getByPosition(result).column = col_res; } else throw Exception("Illegal column " + block.getByPosition(arguments[0]).column->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } }; template class FunctionsStringSearchToString : public IFunction { public: /// Получить имя функции. String getName() const { return Name::get(); } /// Получить тип результата по типам аргументов. Если функция неприменима для данных аргументов - кинуть исключение. DataTypePtr getReturnType(const DataTypes & arguments) const { if (arguments.size() != 2) throw Exception("Number of arguments for function " + getName() + " doesn't match: passed " + Poco::NumberFormatter::format(arguments.size()) + ", should be 2.", ErrorCodes::NUMBER_OF_ARGUMENTS_DOESNT_MATCH); if (!dynamic_cast(&*arguments[0])) throw Exception("Illegal type " + arguments[0]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); if (!dynamic_cast(&*arguments[1])) throw Exception("Illegal type " + arguments[1]->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_TYPE_OF_ARGUMENT); return new DataTypeString; } /// Выполнить функцию над блоком. void execute(Block & block, const ColumnNumbers & arguments, size_t result) { const ColumnPtr column = block.getByPosition(arguments[0]).column; const ColumnPtr column_needle = block.getByPosition(arguments[1]).column; const ColumnConstString * col_needle = dynamic_cast(&*column_needle); if (!col_needle) throw Exception("Second argument of function " + getName() + " must be constant string.", ErrorCodes::ILLEGAL_COLUMN); if (const ColumnString * col = dynamic_cast(&*column)) { ColumnString * col_res = new ColumnString; block.getByPosition(result).column = col_res; ColumnString::Chars_t & vec_res = col_res->getChars(); ColumnString::Offsets_t & offsets_res = col_res->getOffsets(); Impl::vector(col->getChars(), col->getOffsets(), col_needle->getData(), vec_res, offsets_res); } else if (const ColumnConstString * col = dynamic_cast(&*column)) { const std::string & data = col->getData(); std::vector vdata(data.c_str(), data.c_str() + data.size() + 1); ColumnString::Offsets_t offsets(1, vdata.size()); std::vector res_vdata; ColumnString::Offsets_t res_offsets; Impl::vector(vdata, offsets, col_needle->getData(), res_vdata, res_offsets); std::string res = std::string(res_vdata.begin(), res_vdata.end() - 1); ColumnConstString * col_res = new ColumnConstString(col->size(), res); block.getByPosition(result).column = col_res; } else throw Exception("Illegal column " + block.getByPosition(arguments[0]).column->getName() + " of argument of function " + getName(), ErrorCodes::ILLEGAL_COLUMN); } }; struct NamePosition { static const char * get() { return "position"; } }; struct NamePositionUTF8 { static const char * get() { return "positionUTF8"; } }; struct NameMatch { static const char * get() { return "match"; } }; struct NameLike { static const char * get() { return "like"; } }; struct NameNotLike { static const char * get() { return "notLike"; } }; struct NameExtract { static const char * get() { return "extract"; } }; typedef FunctionsStringSearch FunctionPosition; typedef FunctionsStringSearch FunctionPositionUTF8; typedef FunctionsStringSearch, NameMatch> FunctionMatch; typedef FunctionsStringSearch, NameLike> FunctionLike; typedef FunctionsStringSearch, NameNotLike> FunctionNotLike; typedef FunctionsStringSearchToString FunctionExtract; }