mirror of
https://github.com/ClickHouse/ClickHouse.git
synced 2024-11-17 21:24:28 +00:00
09f3d68f6e
* Try fix macos server run * Doc macos build # Please enter the commit message for your changes. Lines starting * CLICKHOUSE-3957 start wip * tests wip * wip * wip * wip * wip * wip * wip * wip * fix * fix * Making logger for clickhouse-local * fixes * wip * wip * wip * wip * clean * cf * wip * fix * Update CMakeLists.txt * Update argsToConfig.h * Update argsToConfig.cpp * Update ExtendedLogChannel.h * Update OwnPatternFormatter.cpp
237 lines
8.3 KiB
C++
237 lines
8.3 KiB
C++
#pragma once
|
||
|
||
#include <sys/types.h>
|
||
#include <port/unistd.h>
|
||
#include <iostream>
|
||
#include <memory>
|
||
#include <functional>
|
||
#include <optional>
|
||
#include <mutex>
|
||
#include <condition_variable>
|
||
#include <atomic>
|
||
#include <chrono>
|
||
#include <Poco/Process.h>
|
||
#include <Poco/ThreadPool.h>
|
||
#include <Poco/TaskNotification.h>
|
||
#include <Poco/Util/Application.h>
|
||
#include <Poco/Util/ServerApplication.h>
|
||
#include <Poco/Net/SocketAddress.h>
|
||
#include <Poco/Version.h>
|
||
#include <common/Types.h>
|
||
#include <common/logger_useful.h>
|
||
#include <daemon/GraphiteWriter.h>
|
||
#include <Common/Config/ConfigProcessor.h>
|
||
#include <loggers/Loggers.h>
|
||
|
||
namespace Poco { class TaskManager; }
|
||
|
||
|
||
/// \brief Base class for applications that can run as deamons.
|
||
///
|
||
/// \code
|
||
/// # Some possible command line options:
|
||
/// # --config-file, -C or --config - path to configuration file. By default - config.xml in the current directory.
|
||
/// # --log-file
|
||
/// # --errorlog-file
|
||
/// # --daemon - run as daemon; without this option, the program will be attached to the terminal and also output logs to stderr.
|
||
/// <daemon_name> --daemon --config-file=localfile.xml --log-file=log.log --errorlog-file=error.log
|
||
/// \endcode
|
||
///
|
||
/// You can configure different log options for different loggers used inside program
|
||
/// by providing subsections to "logger" in configuration file.
|
||
class BaseDaemon : public Poco::Util::ServerApplication, public Loggers
|
||
{
|
||
friend class SignalListener;
|
||
|
||
public:
|
||
static inline constexpr char DEFAULT_GRAPHITE_CONFIG_NAME[] = "graphite";
|
||
|
||
BaseDaemon();
|
||
~BaseDaemon() override;
|
||
|
||
/// Загружает конфигурацию и "строит" логгеры на запись в файлы
|
||
void initialize(Poco::Util::Application &) override;
|
||
|
||
/// Читает конфигурацию
|
||
void reloadConfiguration();
|
||
|
||
/// Определяет параметр командной строки
|
||
void defineOptions(Poco::Util::OptionSet & _options) override;
|
||
|
||
/// Заставляет демон завершаться, если хотя бы одна задача завершилась неудачно
|
||
void exitOnTaskError();
|
||
|
||
/// Завершение демона ("мягкое")
|
||
void terminate();
|
||
|
||
/// Завершение демона ("жёсткое")
|
||
void kill();
|
||
|
||
/// Получен ли сигнал на завершение?
|
||
bool isCancelled() const
|
||
{
|
||
return is_cancelled;
|
||
}
|
||
|
||
/// Получение ссылки на экземпляр демона
|
||
static BaseDaemon & instance()
|
||
{
|
||
return dynamic_cast<BaseDaemon &>(Poco::Util::Application::instance());
|
||
}
|
||
|
||
/// return none if daemon doesn't exist, reference to the daemon otherwise
|
||
static std::optional<std::reference_wrapper<BaseDaemon>> tryGetInstance() { return tryGetInstance<BaseDaemon>(); }
|
||
|
||
/// Спит заданное количество секунд или до события wakeup
|
||
void sleep(double seconds);
|
||
|
||
/// Разбудить
|
||
void wakeup();
|
||
|
||
/// В Graphite компоненты пути(папки) разделяются точкой.
|
||
/// У нас принят путь формата root_path.hostname_yandex_ru.key
|
||
/// root_path по умолчанию one_min
|
||
/// key - лучше группировать по смыслу. Например "meminfo.cached" или "meminfo.free", "meminfo.total"
|
||
template <class T>
|
||
void writeToGraphite(const std::string & key, const T & value, const std::string & config_name = DEFAULT_GRAPHITE_CONFIG_NAME, time_t timestamp = 0, const std::string & custom_root_path = "")
|
||
{
|
||
auto writer = getGraphiteWriter(config_name);
|
||
if (writer)
|
||
writer->write(key, value, timestamp, custom_root_path);
|
||
}
|
||
|
||
template <class T>
|
||
void writeToGraphite(const GraphiteWriter::KeyValueVector<T> & key_vals, const std::string & config_name = DEFAULT_GRAPHITE_CONFIG_NAME, time_t timestamp = 0, const std::string & custom_root_path = "")
|
||
{
|
||
auto writer = getGraphiteWriter(config_name);
|
||
if (writer)
|
||
writer->write(key_vals, timestamp, custom_root_path);
|
||
}
|
||
|
||
template <class T>
|
||
void writeToGraphite(const GraphiteWriter::KeyValueVector<T> & key_vals, const std::chrono::system_clock::time_point & current_time, const std::string & custom_root_path)
|
||
{
|
||
auto writer = getGraphiteWriter();
|
||
if (writer)
|
||
writer->write(key_vals, std::chrono::system_clock::to_time_t(current_time), custom_root_path);
|
||
}
|
||
|
||
GraphiteWriter * getGraphiteWriter(const std::string & config_name = DEFAULT_GRAPHITE_CONFIG_NAME)
|
||
{
|
||
if (graphite_writers.count(config_name))
|
||
return graphite_writers[config_name].get();
|
||
return nullptr;
|
||
}
|
||
|
||
/// close all process FDs except
|
||
/// 0-2 -- stdin, stdout, stderr
|
||
/// also doesn't close global internal pipes for signal handling
|
||
void closeFDs();
|
||
|
||
protected:
|
||
/// Возвращает TaskManager приложения
|
||
/// все методы task_manager следует вызывать из одного потока
|
||
/// иначе возможен deadlock, т.к. joinAll выполняется под локом, а любой метод тоже берет лок
|
||
Poco::TaskManager & getTaskManager() { return *task_manager; }
|
||
|
||
virtual void logRevision() const;
|
||
|
||
/// Используется при exitOnTaskError()
|
||
void handleNotification(Poco::TaskFailedNotification *);
|
||
|
||
/// thread safe
|
||
virtual void handleSignal(int signal_id);
|
||
|
||
/// initialize termination process and signal handlers
|
||
virtual void initializeTerminationAndSignalProcessing();
|
||
|
||
/// реализация обработки сигналов завершения через pipe не требует блокировки сигнала с помощью sigprocmask во всех потоках
|
||
void waitForTerminationRequest()
|
||
#if defined(POCO_CLICKHOUSE_PATCH) || POCO_VERSION >= 0x02000000 // in old upstream poco not vitrual
|
||
override
|
||
#endif
|
||
;
|
||
/// thread safe
|
||
virtual void onInterruptSignals(int signal_id);
|
||
|
||
template <class Daemon>
|
||
static std::optional<std::reference_wrapper<Daemon>> tryGetInstance();
|
||
|
||
virtual std::string getDefaultCorePath() const;
|
||
|
||
std::unique_ptr<Poco::TaskManager> task_manager;
|
||
|
||
/// RAII wrapper for pid file.
|
||
struct PID
|
||
{
|
||
std::string file;
|
||
|
||
/// Создать объект, не создавая PID файл
|
||
PID() {}
|
||
|
||
/// Создать объект, создать PID файл
|
||
PID(const std::string & file_) { seed(file_); }
|
||
|
||
/// Создать PID файл
|
||
void seed(const std::string & file_);
|
||
|
||
/// Удалить PID файл
|
||
void clear();
|
||
|
||
~PID() { clear(); }
|
||
};
|
||
|
||
PID pid;
|
||
|
||
std::atomic_bool is_cancelled{false};
|
||
|
||
/// Флаг устанавливается по сообщению из Task (при аварийном завершении).
|
||
bool task_failed = false;
|
||
|
||
bool log_to_console = false;
|
||
|
||
/// Событие, чтобы проснуться во время ожидания
|
||
Poco::Event wakeup_event;
|
||
|
||
/// Поток, в котором принимается сигнал HUP/USR1 для закрытия логов.
|
||
Poco::Thread signal_listener_thread;
|
||
std::unique_ptr<Poco::Runnable> signal_listener;
|
||
|
||
std::map<std::string, std::unique_ptr<GraphiteWriter>> graphite_writers;
|
||
|
||
std::mutex signal_handler_mutex;
|
||
std::condition_variable signal_event;
|
||
std::atomic_size_t terminate_signals_counter{0};
|
||
std::atomic_size_t sigint_signals_counter{0};
|
||
|
||
std::string config_path;
|
||
DB::ConfigProcessor::LoadedConfig loaded_config;
|
||
Poco::Util::AbstractConfiguration * last_configuration = nullptr;
|
||
|
||
private:
|
||
|
||
/// Check SSE and others instructions availability
|
||
/// Calls exit on fail
|
||
void checkRequiredInstructions();
|
||
};
|
||
|
||
|
||
template <class Daemon>
|
||
std::optional<std::reference_wrapper<Daemon>> BaseDaemon::tryGetInstance()
|
||
{
|
||
Daemon * ptr = nullptr;
|
||
try
|
||
{
|
||
ptr = dynamic_cast<Daemon *>(&Poco::Util::Application::instance());
|
||
}
|
||
catch (const Poco::NullPointerException &)
|
||
{
|
||
/// if daemon doesn't exist than instance() throw NullPointerException
|
||
}
|
||
|
||
if (ptr)
|
||
return std::optional<std::reference_wrapper<Daemon>>(*ptr);
|
||
else
|
||
return {};
|
||
}
|