vasyakrg_microservices

HW11

• включил сбор метрик с node-exporter и kubeStateMetrics
• прописал отдельные джобы для группировки по приложениям post, comment, ui
• добавил собственные дашборды в графану и параметризировал (/monitoring/grafana/dashboards/UI_Service_monitoring_k8s.json)
• поднял EFK и поигрался с отчетами логирования

Задание со *

• настроил слежение со стороны прометея и посыл через алетрменеджер сообщений себе в слак
  • собственно, по старым наработкам

Задание со **

• поднял prometheus-operator и настроил слежение на приложением POST

prometheus:
  additionalServiceMonitors:
  - name: post-component
    selector:
      matchLabels:
        component: post
    namespaceSelector:
      any: true
    endpoints:
      - targetPort: 5000
        interval: 30s
        path: /metrics
        scheme: http

Задание со ***

• переписал поднятие EFK на Helm Charts - взял за основу написанные чарты (велосипед - не наше все), перебил переменные в custom_* исходя из легаси-файлов в задании

HW10

• Работа с Helm
• Развертывание Gitlab в Kubernetes
• Запуск CI/CD конвейера в Kubernetes

Задание со *

• динамические окружения работают в каждом из проектов
• избавился от auto_devops, точнее оставил два варианта (как просили по заданию)
• по хельму опять же три проекта сделал в трех вариантах - helm, helm+plugin, helm3
• reddit-deploy так же избавил от auto_devops

Задание со **

• связал пайпы приложений с пайпом reddit, так, что если в ветки master любых из проектов делается пуш, дергается пайп reddit, который поднимает staging, ну и ждет от человека кнопотыка, что бы вылить в prod
• ручную выкатку убирать не стал. по моему, это неправильно.

HW9

• Ingress Controller
• Ingress
• Secret
• TLS
• LoadBalancer Service
• Network Policies
• PersistentVolumes
• PersistentVolumeClaims

Задание со *

• Обновить mongo-network-policy.yml так, чтобы post-сервис дошел до базы данных.

Задание со **

Описать создаваемый объект Secret в виде Kubernetes манифеста.

apiVersion: v1
kind: Secret
metadata:
  name: ui-ingress
  namespace: dev
type: Opaque
data:
  server.crt: LS0tLS1CRUdJTiBDR...
  server.key: LS0tLS1CRUdJTiBQU...

с помощью оборота cat tls.key | base64 и cat tls.crt | base64 - получил нужный мне шифр

HW8

• Развернул локальное окружение для работы с Kubernetes
• Развернул Kubernetes в GKE
• Запустил reddit в Kubernetes

Задание со *

• Развернул Kubenetes-кластер в GKE с помощью Terraform
• Создал YAML-манифесты для описания созданных сущностей для включения dashboard
  • после применения манифестов из папки /kubernetes/kube-system - поднимается дашбоард по ссылке
  • запускаем kubectl proxy и пользуемся

HW7

• Разобрал на практике все компоненты Kubernetes, развернул их вручную используя The Hard Way;
• Ознакомился с описанием основных примитивов нашего приложения и его дальнейшим запуском в Kubernetes.
• завернул всю установку в ansible скрипты

Задание со *

• Описать установку компонентов Kubernetes из THW в виде Ansible-плейбуков в папке kubernetes/ansible;

HW6

• Сбор неструктурированных логов
• Визуализация логов
• Сбор структурированных логов
• Распределенная трасировка

Задание со *

• Составил grok-паттерн в конфигурации fluentd так, чтобы разбирались оба формата логов UI-сервиса (тот, что сделали до этого и текущий) одновременно.

Задание со **

• в Dockerfile приложений убрали ENV - контейнеры не могли друг друга найти. Прописал в docker-compose.yml напрямую
• Нашел в сломанной коде умешленную sleep(3), исправил

Date	Time	Relative Time	Annotation	Address
06.09.2019	11:47:39	2.088ms	Client Start	10.10.2.5:9292 (ui_app)
06.09.2019	11:47:39	4.258ms	Server Start	10.10.1.7:5000 (post)
06.09.2019	11:47:42	3.014s	Server Finish	10.10.1.7:5000 (post)
06.09.2019	11:47:42	3.020s	Client Finish	10.10.2.5:9292 (ui_app)

в коде умышленно стояла задержка time.sleep(3), исправил

• в приложении ui/views/layout.haml поправил название Microservices Reddit in - Travis ругался

HW5

Задание со *

• расширил Makefile
• теперь он умеет больше:

  > make [command]

  - help                           This help.
  - build                          Build docker images
  - build-comment                  Build comment image
  - build-post                     Build post image
  - build-ui                       Build ui image
  - build-alertmanager             Build alertmanager image
  - build-prometheus               Build prometheus image
  - build-blackbox                 Build blackbox-exporter image

  - release                        Make a release by building and publishing the `{version}` ans `latest` tagged containers to Docker Hub

  - push                           Publish the `{version}` ans `latest` tagged containers to Docker Hub
  - publish-latest                 Publish the `latest` taged container to Docker HubDocker Hub
  - publish-monitoring             Publish the 'latest' monitoring container to Docker HubDocker Hub
  - publish-version                Publish the `{version}` taged container to Docker Hub
  - tag                            Generate container tag

  - docker-login                   Login to Docker Hub

• Прометей теперь собирает в том числе и экспериментальные метрики самого докера с '10.10.1.1:9323', а Графана рисует графики
• Прометей через сервис Telegraf опрашивает docker-host (минимально), а Графана рисует графики
• Alertmanager, теперь так же отправляет сообщения на почту, так же на severity: critical

Задание со **

• Реализовал автоматическое добавление источника данных и созданных в данном ДЗ дашбордов в графану
• к docker-host подключил StackDriver, вытащил кучу метрик по CPU, MEM, Disk и прочему

  curl -sSO https://dl.google.com/cloudagents/install-monitoring-agent.sh && sudo bash install-monitoring-agent.sh curl -sSO https://dl.google.com/cloudagents/install-logging-agent.sh && sudo bash install-logging-agent.sh

Задание со ***

• Переключил Графану на получение данных с прокси Trickster, который в свою очередь берет данные с Прометея (судя по результатам добавленного в Графану дашборда Trickster - жить стало веселее)
• • подключил фунционал healthcheck в контейнер ui, что бы отслеживать состояние порта (приложения)

  healthcheck:
    test: curl -sS http://127.0.0.1:9292 || exit 1
    interval: 20s
    timeout: 3s
    retries: 1
  

• подключил отдельный контейнер krg_autoheal_1, задача которого, тестировать другие контейрены на состояние unhealthy и перезапускать их

HW4

• поднял контейнер с прометеем, поигрался с графиками, паданием сервисов
• поднял нод-экспортер, пробросил его в сеть с прометеем, положил CPU с докер-хоста :)
• залил все имаджи на hub.docker.com

Задание со *

• подключил мониторинг Mongodb

Задание со **

• подключил blackbox-exporter

Задание со ***

• прописал make с разной степенью функционала.
• .docker-creds файл с паролем от докер-хаба должен желать в корне репы
• в самом мейке переменная DOCKER_REPO - определяет логин от докер-хаба

HW3

• через терраформ создается и поднимается машина с установленным доккером и gitlab-ci в одном из докеров
• с помощью скриптов в папке gitlab-ci можно поднять нужно кол-во ранеров на чистых машинах
• приложение через пайплайн пакуется в докер и запускается на локальном ранере

HW2

• монолитное приложение разбито на 4 микросервиса:
  • и теперь запускается и собирается через композер
• контейнерам можно задавать префикс в названии
• а так же изменять переменные окружения
• результат доступен по линку:

  http://:9292/

Задание со *

• переопределил docker-compose, подключив вольюмы и команды для запуска дебага

HW1

• монолитное приложение разбито на 4 микросервиса:
  • БД
  • сервис управления постами
  • сервис управления комментами
  • сервис UI с веб-мордой
• данные базы хранятся во внешнем волюме и не зависят от состояния контейнеров
• результат доступен по линку:

  http://:9292/

Задание со *

• запустил сервисы с другими сетевыми алиасами, используя переназначение ENV-переменных

Задание со **

• поиграл с размером имеджа, использовал ruby:2.3-alpine образ, тем самым ушел с 781 до 452, а потом и вовсе до 305мб

Автор

• Vassiliy Yegorov - Initial work - vasyakrg