Различия

Показаны различия между двумя версиями страницы.

Ссылка на это сравнение

Предыдущая версия справа и слева Предыдущая версия
Следующая версия		 Предыдущая версия
software:monitoring [2025/11/18 18:25] – 192.168.1.159software:monitoring [2025/12/07 02:38] (текущий) – [Программные средства] mirocow
Строка 1: Строка 1:
-{{tag>[loki docker swarm promtail grafana]}}+{{tag>[loki docker swarm promtail grafana monitoring fluentd fluent-bit prometheus}}
  
-====== Docker Swarm + Loki + Protmail + Grafana ======+====== Мониторинг ======
  
-Fluentd, Fluentd Bit, Logstash и Promtail являются клиентами Loki, а Distributor и Ingester — компонентами Loki.+{{:software:67567.jpg?600|}}
  
-===== Версии: ===== +Мониторинг IT-инфраструктуры (ИТ-мониторинг) — это процесс постоянного сбора, обработки и анализа данных о состоянии элементов ИТ-среды: серверов, сетевых устройств, приложений, каналов связи и других компонентов. Цель — обеспечить стабильность, безопасность и эффективность инфраструктуры, своевременно выявлять и устранять проблемы. 
-  +
-  * grafana/loki:3.5.8 +
-  * grafana/promtail:3.5.8 +
-  * grafana/grafana:10.2.2+
  
-===== Настройки =====+  * Минимизация времени простоя — быстрая реакция на проблемы (перезапуск служб, уведомление администраторов, автоматизированные действия) сокращает время простоя. 
 +  * Снижение операционных расходов — автоматизация контроля сети, серверов, приложений уменьшает нагрузку на сотрудников, сокращает число ручных проверок. 
 +  * Улучшение пользовательского опыта — стабильная работа систем влияет на удовлетворённость клиентов и сотрудников, мониторинг помогает обеспечивать оптимальное время ответа приложений и сервисов. 
 +  * Планирование развития инфраструктуры — анализ исторических данных и трендов позволяет прогнозировать будущие потребности в ресурсах и планировать развитие ИТ-инфраструктуры.
  
-==== [[ loki_config ]] ====+===== Программы =====
  
-<code yaml> +Grafana, Promtail, Loki, Prometheus, Fluent Bit, Fluentd, Kibana, Logstah, Elasticsearch, ELK, Zabbix, Alloy.
-auth_enabled: false+
  
-server: +==== Рекомендации ====
-  http_listen_port: 3100+
  
-common: +  * Использовать Fluentd или Fluent Bit, которые умеют отправлять данные в Loki. В отличие от Promtail они имеют готовые парсеры практически для любого вида лога и справляются в том числе с multiline-логами.
-  instance_addr: 127.0.0.1 +
-  path_prefix: /loki +
-  storage: +
-    filesystem: +
-      chunks_directory: /loki/chunks +
-      rules_directory: /loki/rules +
-  replication_factor: 1 +
-  ring: +
-    kvstore: +
-      store: inmemory+
  
-schema_config: +===== Программные средства =====
-  configs: +
-    - from: 2020-10-24 +
-      store: tsdb +
-      object_store: filesystem +
-      schema: v13 +
-      index: +
-        prefix: index_ +
-        period: 24h+
  
-ruler: 
-  alertmanager_url: http://localhost:9093 
  
-limits_config: +  * [[system:universal]] 
-  retention_period: 720h +  * [[.monitoring:promtail-loki-grafana]] 
-  reject_old_samples: true +  * [[.monitoring:fluent-bit-loki-grafana]] 
-  reject_old_samples_max_age: 720h +  * [[.monitoring:fluent-bit-fluentd-loki-grafana]] 
-  allow_structured_metadata: true +  * [[.monitoring:prometheus]] 
-  max_query_length: 721h +  * [[system:ctop]] 
-   +  * [[system:htop]] 
-ingester: +  * [[system:iotop]] 
-  lifecycler: +  * [[software:iperf3]] 
-    ring: +  * [[:lsof]] 
-      kvstore: +  * [[system:elasticsearch:logstash]] 
-        store: inmemory +  * [[:lm-sensors]] 
-      replication_factor: 1 +  * [[mysql:mytop]] 
-    final_sleep: 0s +  * [[network:netstat]] 
-  chunk_idle_period: 1h +  * [[system:rsyslog]] 
-  max_chunk_age: 1h +  * [[:tcpdump]] 
-  chunk_target_size: 1048576 +  * [[system:top]] 
-  chunk_retain_period: 30s +  * [[system:watch]] 
- +  * [[ping:zabbix]] 
-table_manager: +  * [[system:vmstat]] 
-  retention_deletes_enabled: true +  * [[:software:monitoring:promtail]] 
-  retention_period: 720h +  * [[software:monitoring:fluent-bit]] 
-</code> +  * [[system:syslog]]
- +
-==== [[ promtail_config ]] ==== +
- +
-[[software:monitoring:promtail]] +
- +
-<code yaml> +
-server: +
-  http_listen_port: 9080 +
-  http_listen_address: 0.0.0.0 +
- +
-positions: +
-  filename: /tmp/positions.yaml +
-  # Запись позиций каждые 15 секунд +
-  sync_period: 15s +
- +
-clients: +
-  - url: http://loki:3100/loki/api/v1/push +
-    backoff_config: +
-      min_period: 5s +
-      max_period: 1m +
-      max_retries: 10 +
-    batchwait: 10s +
-    batchsize: 1048576 +
-    timeout: 30s +
- +
-scrape_configs: +
- +
-  - job_name: docker_containers +
-    docker_sd_configs: +
-     +
-      - host: unix:///var/run/docker.sock +
-        refresh_interval: 15s +
-        filters: +
-          - name: label +
-            values: ["logging=promtail"] +
- +
-    relabel_configs: +
- +
-      - target_label: job +
-        replacement: docker_containers +
-      - source_labels: ['__meta_docker_container_name'] +
-        regex: '/(.*)' +
-        target_label: 'container' +
-        action: replace +
-      - source_labels: ['__meta_docker_container_id'] +
-        target_label: 'container_id' +
-        action: replace +
- +
-      # Основной источник логов - stdout/stderr контейнеров +
-      - source_labels: ['__meta_docker_container_name'] +
-        regex: '/(.*)' +
-        target_label: 'container_name' +
-      - source_labels: ['__meta_docker_container_log_stream'] +
-        target_label: 'log_stream' +
-        action: replace +
- +
-      # Метаданные Docker Swarm +
-      - source_labels: ['__meta_docker_container_label_com_docker_swarm_service_name'] +
-        target_label: 'service_name' +
-      - source_labels: ['__meta_docker_container_label_com_docker_swarm_task_name'] +
-        target_label: 'task_name' +
-      - source_labels: ['__meta_docker_container_label_com_docker_swarm_node_id'] +
-        target_label: 'node_id' +
-      - source_labels: ['__meta_docker_container_label_com_docker_swarm_stack_namespace'] +
-        target_label: 'stack' +
- +
-      # Добавляем hostname ноды +
-      - target_label: 'node_host' +
-        replacement: '${HOSTNAME}' +
- +
-      # Путь к логам контейнера +
-      - source_labels: ['__meta_docker_container_id'] +
-        target_label: '__path__' +
-        replacement: '/var/lib/docker/containers/*-json.log' +
- +
-    # Пайплайн для обработки логов +
-    pipeline_stages: +
-      - docker: {} +
-      - timestamp: +
-          source: current_time +
-          format: RFC3339 +
-</code> +
- +
-===== Docker Compose ===== +
- +
- +
-monitoring +
-<code yaml> +
-version: "3.8" +
- +
-x-logging: +
-  &default-logging +
-  driver: "json-file" +
-  options: +
-    max-size: "1m" +
-    max-file: "1" +
-    tag: "{{.Name}}" +
- +
-services: +
- +
-  loki: +
-    image: grafana/loki:3.5.8 +
-    ports: +
-      - "3100:3100" +
-    configs: +
-      - source: loki_config +
-        target: /etc/loki/local-config.yaml +
-    volumes: +
-      - loki_data:/loki +
-      - /etc/localtime:/etc/localtime:ro +
-      - /etc/timezone:/etc/timezone:ro +
-    command:  +
-      - -config.file=/etc/loki/local-config.yaml +
-      - -config.expand-env=true +
-      - -target=all +
-    environment: +
-      - TZ=${SYSTEM_TIMEZONE:-Europe/Moscow} +
-    networks: +
-      - monitoring +
-    deploy: +
-      placement: +
-        constraints: +
-          - node.role == manager +
-      resources: +
-        limits: +
-          memory: 2G  # Уменьшаем память +
-          cpus: '1.0' +
-        reservations: +
-          memory: 1G +
-          cpus: '0.5' +
-      restart_policy: +
-        condition: on-failure +
-        delay: 10s +
-        max_attempts: 3 +
-    logging: *default-logging +
-    labels: +
-      logging: "promtail" +
-      logging_jobname: "docker_containers" +
- +
- +
-  promtail: +
-    image: grafana/promtail:3.5.8 +
-    configs: +
-      - source: promtail_config +
-        target: /etc/promtail/config.yaml +
-    volumes: +
-      - /var/run/docker.sock:/var/run/docker.sock:ro +
-      - /var/lib/docker/containers:/var/lib/docker/containers:ro +
-      - /var/log:/var/log:ro +
-      - promtail_positions:/tmp +
-      - /etc/localtime:/etc/localtime:ro +
-      - /etc/timezone:/etc/timezone:ro +
-    command:  +
-      - -config.file=/etc/promtail/config.yaml +
-      - -config.expand-env=true +
-    environment: +
-      - TZ=${SYSTEM_TIMEZONE:-Europe/Moscow} +
-      - HOSTNAME={{.Node.Hostname}} +
-    networks: +
-      - monitoring +
-    deploy: +
-      mode: global +
-      resources: +
-        limits: +
-          memory: 512M +
-          cpus: '0.5' +
-        reservations: +
-          memory: 256M +
-          cpus: '0.25' +
-      restart_policy: +
-        condition: any +
-        delay: 30s +
-        max_attempts: 10 +
- +
- +
-  grafana: +
-    image: grafana/grafana:latest +
-    ports: +
-      - "3000:3000" +
-    environment: +
-      - TZ=${SYSTEM_TIMEZONE:-Europe/Moscow} +
-      # GF +
-      - GF_SECURITY_ADMIN_PASSWORD=admin +
-      - GF_SECURITY_ADMIN_USER=admin +
-      - GF_USERS_ALLOW_SIGN_UP=false +
-      - GF_AUTH_ANONYMOUS_ENABLED=true +
-      - GF_AUTH_ANONYMOUS_ORG_ROLE=Viewer +
-      # Настройки для решения проблемы блокировки БД +
-      - GF_DATABASE_TYPE=sqlite3 +
-      - GF_DATABASE_PATH=grafana.db +
-      # - GF_DATABASE_MAX_IDLE_CONN=1 +
-      # - GF_DATABASE_MAX_OPEN_CONN=1 +
-      - GF_DATABASE_CONN_MAX_LIFETIME=14400 +
-      # Отключаем функции, которые могут блокировать БД +
-      - GF_ALERTING_ENABLED=false +
-      - GF_REPORTING_ENABLED=false +
-      - GF_LIVE_ENABLED=false +
-    volumes: +
-      - grafana_data:/var/lib/grafana +
-      - /etc/localtime:/etc/localtime:ro +
-      - /etc/timezone:/etc/timezone:ro +
-    networks: +
-      - monitoring +
-    deploy: +
-      placement: +
-        constraints: +
-          - node.role == manager +
-      resources: +
-        limits: +
-          memory: 1G +
-          cpus: '0.5' +
-        reservations: +
-          memory: 512M +
-          cpus: '0.25' +
-      restart_policy: +
-        condition: on-failure +
-        delay: 10s +
-        max_attempts: 5 +
- +
- +
-configs: +
-  loki_config: +
-    external: true +
-  promtail_config: +
-    external: true +
- +
-networks: +
-  monitoring: +
-    driver: overlay +
-    attachable: true +
- +
-volumes: +
-  promtail_positions: +
-    driver: local +
-  loki_data: +
-    driver: local +
-  grafana_data: +
-    driver: local +
-</code> +
- +
-===== Встраивание в docker-compose ===== +
- +
-<code yaml> +
-x-logging: +
-  &default-logging +
-  driver: "json-file" +
-  options: +
-    max-size: "1m" +
-    max-file: "1" +
-    tag: "{{.Name}}" +
- +
-services: +
- +
-  loki: +
-    logging: *default-logging +
-    labels: +
-      logging: "promtail" +
-      logging_jobname: "docker_containers" +
-</code>+