- احفظ الخام أولا — يمكنك إعادة المعالجة بلا رجوع للمصدر.
- التحقق من الجودة خطوة في الخط لا مراجعة لاحقة.
- الخط يجب أن يحتمل إعادة التشغيل بلا تكرار الأثر.
- الفشل يجب أن يكون مرئيا لا صامتا.
الطبقات
- الخام — نسخة كما وصلت من المصدر بلا تعديل، تحفظ للرجوع وإعادة المعالجة.
- المنظف — بعد توحيد الصيغ ومعالجة القيم الناقصة وإزالة التكرار.
- المنمذج — بنية جاهزة للتحليل بمقاييس وأبعاد واضحة.
- العرض — جداول جاهزة للتقارير بأسماء مفهومة لغير التقنيين.
وهذا الفصل يجعل تشخيص أي خطأ ممكنا: تعرف في أي طبقة ظهر الانحراف.
التحقق من الجودة
- عدد السجلات ضمن المدى المتوقع — الانخفاض المفاجئ إشارة على مصدر معطل.
- الحقول الإلزامية غير فارغة.
- القيم ضمن المديات المنطقية والتواريخ معقولة.
- المفاتيح فريدة ولا تكرار في السجلات.
- مطابقة المجاميع مع المصدر حيث أمكن.
واجعل هذه فحوصا في الخط توقفه أو تنبه عند فشلها، لا مراجعة بشرية بعد أسبوع.
قابلية إعادة التشغيل
يجب أن يمكن إعادة تشغيل الخط لفترة محددة فينتج النتيجة نفسها بلا تكرار أو ازدواج. وهذا يتطلب تصميما يستبدل بيانات الفترة بدل إضافتها. فبدونه يصير تصحيح خطأ في يوم مضى عملية يدوية خطرة.
الفشل المرئي
- كل تشغيل يسجل حالته وزمنه وعدد السجلات المعالجة.
- تنبيه عند الفشل يصل إلى مسؤول معروف.
- تنبيه عند عدم التشغيل أصلا خلال المدة المتوقعة.
- وسم البيانات بتاريخ آخر تحديث ناجح ليظهر في التقارير.
التوثيق والنسب
وثق لكل جدول: من أين جاء، وما التحويلات المطبقة، ومن يملكه، ومتى يحدث. ومعرفة نسب البيانات — أي مصدر يغذي أي تقرير — تختصر ساعات عند كل سؤال عن رقم، وتكشف أثر أي تغيير في المصدر قبل تطبيقه.
أسئلة شائعة
دفعات أم تدفق مستمر؟
الدفعات المجدولة أبسط وتكفي أغلب احتياجات التقارير. والتدفق المستمر يبرر نفسه حين يكون التأخير بدقائق غير مقبول لقرار تشغيلي.
كم مرة نحدث؟
بحسب القرار المبني على البيانات: يومي يكفي لتقارير الإدارة، وأقرب للحظي مطلوب لمتابعة عمليات جارية. والتحديث الأكثر تكرارا يكلف أكثر، فيبرر بالحاجة لا بالرغبة.
من يملك خطوط البيانات؟
فريق البيانات يبني ويشغل، وأصحاب العمل يملكون التعريفات والجودة. والخط الذي لا مالك لتعريفاته ينتج أرقاما لا أحد مسؤول عن صحتها.
- خطوط البيانات
- ETL
- تكامل البيانات
- جودة البيانات
- الجدولة
- إعادة المعالجة
- هندسة البيانات
- السحابة والبيانات