درحال نوشتن داده‌های Analytics در فایل

به‌طور پیش‌فرض، داده‌های تجزیه‌وتحلیل جمع‌آوری‌شده توسط «پردازشگر پیام» برای پردازش در Qpid و Postgres بارگذاری می‌شود. سپس می‌توانید داده‌های Analytics را در «میانای کاربری Edge» مشاهده کنید.

همچنین می‌توانید «پردازشگر پیام» را پیکربندی کنید تا داده‌های تجزیه‌وتحلیل را روی دیسک بنویسد. سپس می‌توانید آن داده‌ها را در سیستم تجزیه‌وتحلیل خودتان برای تجزیه‌وتحلیل بارگذاری کنید. برای مثال، می‌توانید داده‌ها را در Google Cloud BigQuery بارگذاری کنید. سپس می‌توانید از قابلیت‌های قدرتمند پُرسمان و یادگیری ماشین ارائه‌شده توسط BigQuery و TensorFlow برای انجام تجزیه‌وتحلیل داده‌های خودتان استفاده کنید.

همچنین می‌توانید انتخاب کنید که از هر دو گزینه استفاده کنید. این یعنی می‌توانید داده‌های Analytics را در Qpid/Postgres بارگذاری کنید و همچنین داده‌ها را در دیسک ذخیره کنید.

نام و مکان فایل

به‌طور پیش‌فرض، اگر نوشتن داده‌های تجزیه‌وتحلیل در فایل‌های دیسک را فعال کنید، فایل‌ها در دایرکتوری زیر نوشته می‌شوند:

/opt/apigee/var/log/edge-message-processor/ax/tmp

‫Edge هر دقیقه یک‌بار فهرست راهنمای جدیدی در /tmp برای فایل‌های داده ایجاد می‌کند. قالب نام دایرکتوری به‌صورت زیر است:

org~env~yyyyMMddhhmmss

برای مثال:

myorg~prod~20190909163500
myorg~prod~20190909163600

هر فهرست راهنما حاوی فایل .gz با فایل‌های داده فردی برای آن بازه است. قالب نام فایل .gz به‌این‌صورت است:

4DigitRandomHex_StartTime.StartTimePlusInterval_internalHostIP_hostUUID_writer_index.txt.gz

در فواصل زمانی منظم، Edge فهرست راهنما و فایل ‎ .gz موجود در آن را از /tmp به یکی از فهرست‌های راهنمای زیر منتقل می‌کند، براساس تنظیم دارایی پیکربندی uploadToCloud «پردازشگر پیام»:

  • uploadToCloud = false: فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/staging منتقل شد
  • uploadToCloud = true: (پیش‌فرض): فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/failed منتقل می‌شوند

داده‌ها را از دایرکتوری /staging یا /failed از حالت فشرده خارج کنید تا فایل‌های داده Analytics را به‌دست آورید.

خصوصیت‌های پیکربندی

از ویژگی‌های زیر برای پیکربندی «پردازشگر پیام» به‌منظور نوشتن داده‌های تجزیه‌وتحلیل در دیسک استفاده کنید. همه این دارایی‌ها اختیاری هستند:

دارایی شرح
conf_analytics_analytics.saveToDisk

برای پیکربندی «پردازشگر پیام» برای نوشتن داده‌های تجزیه‌وتحلیل در فایل‌های دیسک، روی true تنظیم کنید.

مقدار پیش‌فرض false است.

conf_analytics_analytics.sendToQueue

برای پیکربندی «پردازشگر پیام» برای بارگذاری داده‌ها در Qpid/Postgres، روی true تنظیم کنید. برای غیرفعال کردن نوشتن داده‌های Analytics در Qpid/Postgres، روی false تنظیم کنید.

مقدار پیش‌فرض true است.

conf_analytics_analytics.baseDataDirectoryPath

مسیر پایه‌ای را که فایل‌های داده‌های Analytics در آن نوشته می‌شود مشخص می‌کند.

مقدار پیش‌فرض /opt/apigee/var/log/edge-message-processor/ax. است

conf_analytics_analytics.allocatedDiskSpaceInMBytes

فضای دیسک اختصاص‌داده‌شده برای فایل‌های تجزیه‌وتحلیل را برحسب مگابایت مشخص می‌کند.

مقدار پیش‌فرض 3072 است. اگر از فضای دیسک اختصاص‌داده‌شده برای فایل‌های داده‌های تجزیه‌وتحلیل فراتر بروید، «پردازشگر پیام» ذخیره داده‌های تجزیه‌وتحلیل را متوقف می‌کند و پیام خطایی در فایل‌های گزارش خود می‌نویسد.

conf_analytics_analytics.uploadToCloud

مکان نهایی فایل‌های تجزیه‌وتحلیل را کنترل می‌کند.

  • ‫false: فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/staging منتقل شد
  • ‫true (پیش‌فرض): فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/failed منتقل می‌شوند

توجه: اگرچه این دارایی uploadToCloud نامیده می‌شود، هیچ داده‌ای در فضای ابری بارگذاری نمی‌شود. همه داده‌های تجزیه‌وتحلیل در نصب محلی شما باقی می‌ماند.

برای تنظیم این دارایی‌ها:

  1. فایل message-processor.properties را در ویرایشگر باز کنید. اگر فایل وجود ندارد، آن را ایجاد کنید:

    vi /opt/apigee/customer/application/message-processor.properties
  2. خصوصیت‌ها را به دلخواه تنظیم کنید:

    # Enable writing analytics data to disk.
    conf_analytics_analytics.saveToDisk=true
    # Disable writing analytics data to Qpid/Postgres.
    conf_analytics_analytics.sendToQueue=false
    
    # Specify base directory for analytics data files.
    conf_analytics_analytics.baseDataDirectoryPath=/opt/apigee/var/smg
    
    # Set the disk space available for analytics files.
    conf_analytics_analytics.allocatedDiskSpaceInMBytes=3072
    # Move final analytics data to files to the /staging directory.
    conf_analytics_analytics.uploadToCloud=false
  3. تغییرات را ذخیره کنید.
  4. مطمئن شوید که فایل خصوصیات متعلق به کاربر «apigee» است:

    chown apigee:apigee /opt/apigee/customer/application/message-processor.properties
  5. مقدار دارایی consumer-type را برای گروه تجزیه‌وتحلیل axgroup-001 روی ax تنظیم کنید:

    curl -X POST -H "Content-Type:application/json" \
    "http://ms-ip:8080/v1/analytics/groups/ax/axgroup-001/properties?propName=consumer-type&propValue=ax" \
    -u sysAdminEmail:sysAdminPWord

    به‌طور پیش‌فرض، نام گروه تجزیه‌وتحلیل axgroup-001 است. در فایل پیکربندی برای نصب Edge، می‌توانید نام گروه تجزیه‌وتحلیل را بااستفاده از دارایی AXGROUP تنظیم کنید. اگر از نام‌های گروه تجزیه‌وتحلیل مطمئن نیستید، فرمان زیر را در گره «سرور مدیریت» اجرا کنید تا نمایش داده شود:

    apigee-adminapi.sh analytics groups list \
      --admin sysAdminEmail --pwd sysAdminPword --host localhost

    این فرمان نام گروه تجزیه‌وتحلیل را در فیلد name برمی‌گرداند.

  6. بازراه‌اندازی «پردازشگر پیام»:

    /opt/apigee/apigee-service/bin/apigee-service edge-message-processor restart

    پس‌از بازراه‌اندازی، «پردازشگر پیام» داده‌های تجزیه‌وتحلیل را در فایل‌های داده می‌نویسد.

  7. این مراحل را برای همه «پردازشگرهای پیام» تکرار کنید.