استفاده از HPA در کانتینر ابری آروان

سکوی ابری در واقع یک مدل از مبحث رایانش ابری است که سرویس‌دهنده با ایجاد امکانات سخت‌افزاری و برخی ابزارها، سرعت توسعه نرم‌افزار را بالا برده و دغدغه توسعه‌دهنده را، در ارتباط با زیرساخت‌های مورد نیاز محصول، مرتفع می‌سازد.
در این مقاله آموزش استفاده از HPA در سکوی ابری آروان ارایه خواهد شد. مفهوم HPA در سکوی ابری آروان مشابه مفهوم HPA در Kubernetes است.

پیش‌نیازها

تنها پیش نیاز این سیستم، داشتن اکانت ابر آروان و دسترسی به سکوی ابری آروان است. ابتدا وارد حساب کاربری خود شوید. سپس به بخش پروفایل رفته و در سربرگ API KEYS برای خود یک API KEY جدید ساخته و آن را در جایی ذخیره کنید.

برای انجام مراحل این مقاله نیاز است که از کامند لاین ابر آروان استفاده کنید، در صورت نیاز آن را در PATH خود قرار داده و دسترسی اجرایی به آن بدهید و از طریق خط فرمان لاگین کنید:

arvan login

سپس API KEY که از سایت دریافت کرده‌اید را در ادامه خط فرمان بالا پیست کنید.

HPA چیست؟

در برخی سیستم‌ها ممکن است با افزایش درخواست‌ها، لود سیستم به قدری افزایش یابد، که اپلیکیشن توان پاسخ‌گویی را نداشته باشد و برخی از درخواست‌ها با خطا مواجه شوند. در این حالت، می‌توان با افزایش منابع اپلیکیشن و یا بالا آوردن نمونه‌های مشابه از اپلیکیشن و load balancing بین این نمونه‌ها، لود مورد نظر را پاسخ داد.

افزایش تعداد اپلیکیشن‌ها در سکوی ابری آروان به وسیله افزایش پارامتر replicas در deployment انجام می‌پذیرد.
حال در صورتی که این افزایش لود موقت بوده، و یا در ساعات متفاوتی در روز انجام می‌پذیرد و سپس به حالت عادی بازمی‌گردد، تغییر تعداد اپلیکیشن‌ها به صورت دستی می‌تواند کار طاقت فرسایی باشد و یا در صورت فراموشی، موجب بروز خطا در پاسخ‌دهی سرویس شود. از طرفی، در صورتی که مقدار زیادی منابع را به اپلیکیشن به صورت دایمی اختصاص دهید، در زمان‌هایی که لود پایینی وجود دارد، برخی از منابع بلا استفاده مانده و هزینه اضافی برای شما محاسبه می‌شود.

HPA یا HorizontalPodAutoscaler با دریافت یک‌ سری تنظیمات اولیه، اطمینان حاصل می‌کند که در صورتی که لود بر روی اپلیکیشن شما از مقدار مشخصی بیشتر شد، با اضافه کردن خودکار تعداد replicaها، سرویس شما با محدودیت منابع برای پاسخ‌گویی به درخواست‌ها مواجه نشود. از طرفی در صورت کاهش لود، با کم کردن خودکار تعداد replicaها از هدر رفتن منابع و هزینه‌های اضافی جلوگیری می‌کند.

نکته: HPA در سکوی ابری آروان تنها روی deploymentهایی که دیسک دایمی ندارند ( به اصطلاح سرویس‌های stateless) قابل اعمال است.

Readiness Probe چیست؟

پیش از بیان نحوه استفاده از HPA می‌بایست با مفهوم Readiness Probe آشنا شویم. یک برنامه در حال اجرا به دلایل مختلقی ممکن است دچار خطا شده و اجرای آن با مشکل مواجه شود. در سکوی ابری آروان، در صورتی که برنامه دچار برخی خطا‌ها شود، در صورتی که از deployment استفاده شده باشد، Pod مورد نظر به صورت خودکار ری‌ستارت می‌شود. با این حال، برخی حالات خطا ممکن است توسط سکوی ابری آروان تشخیص داده نشود و کانتینر مورد نظر همچنان بالا باشد ولی نمی‌تواند سرویس‌دهی به درخواست‌ها را به درستی انجام دهد. برای حل این مساله می‌توان از Readiness Probe استفاده کرد.

نکته: در کنار مفهوم Readiness Probe مفهوم دیگری به نام Liveness Probe وجود دارد که هر دوی این مفاهیم در مقاله دیگری به تفصیل بررسی خواهد شد و در اینجا صرفن اشاره مختصری به Readiness Probe می‌شود.

با تعریف Readiness Probe می‌توان شرایطی را مشخص کرد که سکوی ابری آروان به صورت خودکار برقراری این شرایط را بررسی و در صورت عدم برقراری این شرایط، با حذف IP مربوط به Pod از Endpoint تمام Serviceها، از ورود ترافیک به Pod جلوگیری می‌کند.

نکته: برای استفاده از HPA، تعریف Readiness Probe در Deployment اجباری است.

استفاده از HPA

چنانچه گفته شد، جهت استفاده از HPA، ابتدا می‌بایست Readiness Probe برای Deployment تعریف کرد. فایل زیر شامل تعریف Deployment یک Nginx همراه با Readiness Probe است.

apiVersion: apps/v1
kind: Deployment
metadata:
  name: nginx-deployment
  labels:
    app: nginx
spec:
  replicas: 1
  selector:
    matchLabels:
      app: nginx
  template:
    metadata:
      labels:
        app: nginx
    spec:
      containers:
      - image: nginx
        imagePullPolicy: IfNotPresent
        name: nginx
        ports:
        - containerPort: 2368
          protocol: TCP
        readinessProbe:
          exec:
            command:
            - nginx
            - -v
          initialDelaySeconds: 15
          timeoutSeconds: 1
        resources:
          limits:
            cpu: '1'
            ephemeral-storage: 0.5G
            memory: 1G
          requests:
            cpu: '1'
            ephemeral-storage: 0.5G
            memory: 1G

نکته: توجه کنید که دندانه‌گذاری (indentation) در فایل‌های yaml مهم است و کوچک‌ترین جابه‌جایی می‌تواند باعث برگرداندن خطا و یا تنظیمات ناخواسته شود.

• spec.template.spec.containers.readinessProbe: این بخش تعریف Readiness Probe را شامل می‌شود. Readiness Probe را به سه روش می‌توان استفاده کرد. Execute یک دستور همانند مثال بالا، بررسی یک endpoint HTTP و بررسی یک سوکت TCP. توضیح هر یک از این روش‌ها در مقاله دیگری شرح داده شده است. در این مثال، سکوی ابری آروان با بررسی منظم دستور nginx -v درون container و بررسی exit code این دستور، از سلامت اجرای container مطمئن می‌شود.
• spec.template.spec.containers.readinessProbe.initialDelaySeconds: گاهی مدت زمانی طول می‌کشد تا container به حالت اجرایی کامل برسد و در این بازه ممکن است در پاسخ به بررسی مشخص شده، خروجی مطلوبی ارایه نشود. با مقدار دهی مناسب این فیلد، سکوی ابری آروان پیش از بررسی شرایط مشخص شده، پس از بالا آمدن container مدتی صبر می‌کند.
• spec.template.spec.containers.readinessProbe.timeoutSeconds: مدت زمانی‌ است که سکوی ابری آروان منتظر پاسخ بررسی شرایط می‌ماند تا قبل از آن که آن را failed در نظر بگیرد.

خطوط بالا را در یک فایل به نام nginx-deployment.yaml وارد کرده و ذخیره کنید. سپس از طریق کامند لاین با دستور زیر، Deployment خود را به سکوی ابری آروان ارایه کنید.

$ arvan paas apply -f nginx-deployment.yaml

سپس با دستور زیر می‌توانید از وضعیت Deployment خود و اجرای آن بر روی سکوی ابری آروان آگاه شوید.

$ arvan paas get deployment nginx-deployment

تعریف HPA

در حال حاضر در سکوی ابری آروان، برای تعریف HPA می‌بایست میزان مصرف CPU را به عنوان شاخص Autoscale قرار داد. این بدین معنی است که با مشخص کردن یک حد مشخص برای میزان مصرف CPU یک Pod، در صورت عبور از میزان تعیین شده، سکوی ابری آروان اقدام به افزایش تعداد Pod های Deployment می‌کند.
برای تعریف HPA برای یک Deployment کافیست دستور زیر را وارد کنید.

$ arvan paas autoscale deploy nginx-deployment --max 10 --min=1 --cpu-percent=50

دستور بالا HPA را برای deployment ای که در بالا تعریف کردیم فعال می‌کند.
در این دستور با مقدار دهی –max مشخص می‌کنیم حداکثر تعداد replica برای Pod در صورت افزایش لود چقدر می‌تواند باشد.
–min حداقل تعداد replica برای Pod در صورت کاهش لود را مشخص می‌کند.
–cpu-percent مشخص می‌کند که در صورتی که میانگین cpu مصرف شده Podهای فعلی از عدد مشخص شده بیشتر شود، تعداد Pod ها می‌بایست توسط سکوی ابری آروان به صورت خودکار افزایش یابد تا میانگین مصرف CPU از حد مشخص شده کمتر شود و یا تعداد Podها به عدد –max برسد. از طرفی در صورتی که لود کاهش یابد، تعداد Pod ها به‌شکل خودکار کمتر شده تا زمانی که میانگین CPU مصرفی هم‌چنان کمتر از حد مشخص شده باشد و یا تعداد Podها به مقدار –min رسیده باشد.

با اجرای دستور بالا HPA برای deployment مورد نظر فعال می‌شود. با دستور پایین می‌توانید وضعیت HPA تعریف شده را مشاهده کنید.

$ arvan paas get hpa
NAME               REFERENCE                     TARGETS   MINPODS   MAXPODS   REPLICAS   AGE
nginx-deployment   Deployment/nginx-deployment   1%/50%   1         10        1          1h

حال در صورتی که میزان لود (مصرف CPU) بر روی Pod بالا برود، مانند زیر تعداد replica به صورت خودکار افزایش می‌یابد.

$ arvan paas get hpa
NAME               REFERENCE                     TARGETS   MINPODS   MAXPODS   REPLICAS   AGE
nginx-deployment   Deployment/nginx-deployment   50%/50%   1         10        2          1h

با کاهش لود تعداد replica به مقدار پیشین بازمی‌گردد.
همچنین با دستور زیر می‌توانید از جزییات عملکرد HPA مورد نظر مطلع شوید.

$ arvan paas describe hpa nginx-deployment
Name:                                                  nginx-deployment
Namespace:                                             example-project
Labels:                                                
Annotations:                                           
CreationTimestamp:                                     Sat, 30 May 2020 11:08:21 +0430
Reference:                                             Deployment/nginx-deployment
Metrics:                                               ( current / target )
  resource cpu on pods  (as a percentage of request):  50% (251m) / 50%
Min replicas:                                          1
Max replicas:                                          10
Deployment pods:                                       2 current / 2 desired
Conditions:
  Type            Status  Reason              Message
  ----            ------  ------              -------
  AbleToScale     True    ReadyForNewScale    the last scale time was sufficiently old as to warrant a new scale
  ScalingActive   True    ValidMetricFound    the HPA was able to successfully calculate a replica count from cpu resource utilization (percentage of request)
  ScalingLimited  False   DesiredWithinRange  the desired count is within the acceptable range
Events:
  Type     Reason                        Age                From                       Message
  ----     ------                        ----               ----                       -------
  Normal   SuccessfulRescale             1h (x3 over 1h)    horizontal-pod-autoscaler  New size: 4; reason: cpu resource utilization (percentage of request) above target
  Normal   SuccessfulRescale             57m (x4 over 58m)  horizontal-pod-autoscaler  New size: 2; reason: Current number of replicas below Spec.MinReplicas
  Normal   SuccessfulRescale             52m                horizontal-pod-autoscaler  New size: 1; reason: All metrics below target
  Warning  FailedGetResourceMetric       51m (x2 over 51m)  horizontal-pod-autoscaler  did not receive metrics for any ready pods
  Warning  FailedComputeMetricsReplicas  51m (x2 over 51m)  horizontal-pod-autoscaler  failed to get cpu utilization: did not receive metrics for any ready pods
  Normal   SuccessfulRescale             46m (x2 over 1h)   horizontal-pod-autoscaler  New size: 2; reason: cpu resource utilization (percentage of request) above target

جهت اطلاعات بیش‌تر می‌توانید به مستندات OKD و k8s مراجعه کنید.