درحال نوشتن داده‌های Analytics در فایل

به‌طور پیش‌فرض، داده‌های تجزیه‌وتحلیل جمع‌آوری‌شده توسط «پردازشگر پیام» برای پردازش در Qpid و Postgres بارگذاری می‌شود. سپس می‌توانید داده‌های تجزیه‌وتحلیل را در واسط کاربر Edge مشاهده کنید.

یا می‌توانید «پردازشگر پیام» را پیکربندی کنید تا داده‌های تجزیه‌وتحلیل را در دیسک بنویسد. سپس می‌توانید آن داده‌ها را برای تجزیه‌وتحلیل در سیستم تجزیه‌وتحلیل خودتان بارگذاری کنید. برای مثال، می‌توانید داده‌ها را در Google Cloud BigQuery بارگذاری کنید. سپس می‌توانید از قابلیت‌های قدرتمند پُرسمان و یادگیری ماشین ارائه‌شده توسط BigQuery و TensorFlow برای انجام تجزیه‌وتحلیل داده‌های خود استفاده کنید.

همچنین می‌توانید انتخاب کنید که از هر دو گزینه استفاده کنید. یعنی می‌توانید داده‌های تجزیه‌وتحلیل را در Qpid/Postgres بارگذاری کنید و همچنین داده‌ها را در دیسک ذخیره کنید.

نام و مکان فایل‌ها

به‌طور پیش‌فرض، اگر نوشتن داده‌های تجزیه‌وتحلیل در فایل‌های دیسک را فعال کنید، فایل‌ها در دایرکتوری زیر نوشته می‌شوند:

/opt/apigee/var/log/edge-message-processor/ax/tmp

Edge در فواصل یک دقیقه‌ای، فهرست راهنمای جدیدی در /tmp برای فایل‌های داده ایجاد می‌کند. قالب نام دایرکتوری به‌صورت زیر است:

org~env~yyyyMMddhhmmss

برای مثال:

myorg~prod~20190909163500
myorg~prod~20190909163600

هر فهرست راهنما حاوی یک فایل gz .با فایل‌های داده جداگانه برای آن بازه است. قالب نام فایل gz .به‌صورت زیر است:

4DigitRandomHex_StartTime.StartTimePlusInterval_internalHostIP_hostUUID_writer_index.txt.gz

در فواصل زمانی منظم، Edge دایرکتوری و فایل gz .موجود در آن را از /tmp به یکی از دایرکتوری‌های زیر، براساس تنظیمات ویژگی پیکربندی uploadToCloud Message Processor، منتقل می‌کند:

  • uploadToCloud = false: فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/staging منتقل شد
  • uploadToCloud = true: (پیش‌فرض): فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/failed منتقل می‌شوند

داده‌ها را از فهرست راهنمای /staging یا /failed از حالت فشرده خارج کنید تا فایل‌های داده‌های تجزیه‌وتحلیل را دریافت کنید.

خصوصیت‌های پیکربندی

از ویژگی‌های زیر برای پیکربندی «پردازشگر پیام» برای نوشتن داده‌های تجزیه‌وتحلیل در دیسک استفاده کنید. همه این ویژگی‌ها اختیاری هستند:

دارایی شرح
conf_analytics_analytics.saveToDisk

روی true تنظیم کنید تا «پردازشگر پیام» را برای نوشتن داده‌های تجزیه‌وتحلیل در فایل‌های دیسک پیکربندی کنید.

مقدار پیش‌فرض false است.

conf_analytics_analytics.sendToQueue

روی true تنظیم کنید تا «پردازشگر پیام» را برای بارگذاری داده‌ها در Qpid/Postgres پیکربندی کنید. برای غیرفعال کردن نوشتن داده‌های Analytics در Qpid/Postgres، روی false تنظیم کنید.

مقدار پیش‌فرض true است.

conf_analytics_analytics.baseDataDirectoryPath

مسیر پایه‌ای را که فایل‌های داده‌های تجزیه و تحلیل در آن نوشته می‌شود مشخص می‌کند.

مقدار پیش‌فرض /opt/apigee/var/log/edge-message-processor/ax. است

conf_analytics_analytics.allocatedDiskSpaceInMBytes

فضای دیسک را برحسب مگابایت که به فایل‌های تجزیه‌وتحلیل اختصاص داده شده است مشخص می‌کند.

مقدار پیش‌فرض 3072 است. اگر از فضای دیسک اختصاص‌داده‌شده برای فایل‌های داده‌های تحلیلی فراتر بروید، «پردازشگر پیام» ذخیره داده‌های تحلیلی را متوقف می‌کند و پیام خطایی در فایل‌های گزارش خود می‌نویسد.

conf_analytics_analytics.uploadToCloud

مکان نهایی فایل‌های تجزیه‌وتحلیل را کنترل می‌کند.

  • false: فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/staging منتقل شد
  • true (پیش‌فرض): فایل‌ها به /opt/apigee/var/log/edge-message-processor/ax/failed منتقل می‌شوند

توجه: اگرچه این ویژگی uploadToCloud نامیده می‌شود، هیچ داده‌ای در فضای ابری بارگذاری نمی‌شود. همه داده‌های تجزیه‌وتحلیل در نصب شما به‌صورت محلی باقی می‌ماند.

برای تنظیم این ویژگی‌ها:

  1. فایل message-processor.properties را در ویرایشگر باز کنید. اگر فایل وجود ندارد، آن را ایجاد کنید:

    vi /opt/apigee/customer/application/message-processor.properties
  2. ویژگی‌ها را به‌دلخواه تنظیم کنید:

    # Enable writing analytics data to disk.
    conf_analytics_analytics.saveToDisk=true
    # Disable writing analytics data to Qpid/Postgres.
    conf_analytics_analytics.sendToQueue=false
    
    # Specify base directory for analytics data files.
    conf_analytics_analytics.baseDataDirectoryPath=/opt/apigee/var/smg
    
    # Set the disk space available for analytics files.
    conf_analytics_analytics.allocatedDiskSpaceInMBytes=3072
    # Move final analytics data to files to the /staging directory.
    conf_analytics_analytics.uploadToCloud=false
  3. تغییراتتان را ذخیره کنید.
  4. مطمئن شوید که فایل ویژگی‌ها متعلق به کاربر «apigee» است:

    chown apigee:apigee /opt/apigee/customer/application/message-processor.properties
  5. مقدار ویژگی consumer-type را روی ax برای گروه تجزیه‌وتحلیل axgroup-001 تنظیم کنید:

    curl -X POST -H "Content-Type:application/json" \
    "http://ms-ip:8080/v1/analytics/groups/ax/axgroup-001/properties?propName=consumer-type&propValue=ax" \
    -u sysAdminEmail:sysAdminPWord

    به‌طور پیش‌فرض، نام گروه واکاوش axgroup-001 است. در فایل پیکربندی برای نصب Edge، می‌توانید نام گروه Analytics را بااستفاده از ویژگی AXGROUP تنظیم کنید. اگر از نام‌های گروه تجزیه‌وتحلیل مطمئن نیستید، فرمان زیر را در گره «سرور مدیریت» اجرا کنید تا نمایش داده شود:

    apigee-adminapi.sh analytics groups list \
      --admin sysAdminEmail --pwd sysAdminPword --host localhost

    این فرمان نام گروه Analytics را در فیلد name برمی‌گرداند.

  6. «پردازشگر پیام» را بازراه‌اندازی کنید:

    /opt/apigee/apigee-service/bin/apigee-service edge-message-processor restart

    پس‌از بازراه‌اندازی، «پردازشگر پیام» داده‌های تجزیه‌وتحلیل را در فایل‌های داده می‌نویسد.

  7. این مراحل را برای همه «پردازشگرهای پیام» تکرار کنید.