AI validation nhà máy dược GxP: lifecycle và drift

AI Validation Framework for GxP Pharmaceutical Factories provides a practical lifecycle model for AI systems used in regulated manufacturing.

• AI validation must define intended use, context of use, data lineage, model performance, human oversight and change control.
• FDA and EMA good AI principles, FDA AI credibility guidance and ISPE GAMP AI guidance support a risk-based control model.
• The article gives teams a go-live checklist for AI before model drift, retraining or vendor black boxes create audit exposure.

AI validation nhà máy dược GxP cần được đặt trong lifecycle kiểm soát rõ ràng. Tháng 7/2025, ISPE công bố GAMP® Guide: Artificial Intelligence — 290 trang, phát triển bởi hơn 20 chuyên gia quốc tế, là industry guidance đầu tiên tập trung hoàn toàn vào AI-enabled computerised systems trong GxP. Guide không viết thêm một bộ quy tắc mới.

Nó mở rộng nền tảng GAMP 5 Second Edition — lifecycle, intended use, risk-based verification — sang những đặc thù mà AI mang lại: dữ liệu là backbone, model có thể drift, output là probabilistic, và traditional CSV approach không đủ cho hệ thống học từ data.

Cùng lúc, EU consultation Annex 22 (AI/ML trong GMP, đi kèm Annex 11 revision) đã đóng tháng 10/2025. Câu hỏi mở đầu cho AI trong GxP không phải “mô hình dùng thuật toán gì”, mà là: AI đang ảnh hưởng quyết định GMP nào, dữ liệu nào đi vào mô hình, ai phê duyệt output, mô hình được theo dõi ra sao sau go-live, và khi drift xảy ra thì change control hay CAPA nào kích hoạt.

Regulatory baseline cho AI validation trong GxP

Phần này tóm tắt chuẩn tham chiếu để QA biết khung kiểm tra chi phối nội dung phía dưới.

Regulatory baseline: Các nhận định GMP trong bài được đối chiếu trực tiếp theo 21 CFR Part 11.

ISPE GAMP AI Guide — July 2025

GAMP AI Guide (290 trang) builds on GAMP 5 Second Edition và ISPE Records & Data Integrity guidance.

Key themes: enhanced risk management với AI-specific risks (data bias, algorithmic errors, model drift); scalable lifecycle activities adapted từ V-model; roles mới (Data Steward, Model Owner bên cạnh QAU); data and model governance (Appendix M7); knowledge management và AI literacy (Appendix M5); explainable AI (XAI); và detailed appendices cho testing, monitoring, CAPA, cybersecurity và infrastructure (M1–M8).

Guide references ISO/IEC 42001:2023 (AI management systems) và positions itself như industry response cho regulatory discussion papers từ FDA và EU. theo ISPE GAMP AI Guide.)

EU Annex 22 draft và FDA context

EU Commission consultation Annex 22 (đi kèm Annex 11) nêu yêu cầu selection, training, validation, performance metrics, training data quality, test data và human review cho AI/ML trong GMP. FDA Draft “AI/ML Based Software as a Medical Device” (2021) và Discussion Paper on AI/ML in Drug/Biologics (2023) nhấn mạnh transparency, post-market monitoring và predetermined change control plans.

Trong bối cảnh Pharma 4.0 dược phẩm, AI chỉ có giá trị nếu được đặt trong architecture và Quality System đủ trưởng thành. Xem ICH Q9(R1).

Use case map: AI nào là GxP?

Phần này biến khái niệm thành tình huống thực tế để đội vận hành tự soi gap.

Chatbot nội bộ tra cứu tài liệu đào tạo, dashboard dự báo năng lượng HVAC, hoặc mô hình phân tích xu hướng non-critical có thể nằm ngoài GxP nếu output không dùng cho quyết định GMP. Nhưng nếu nó lấy dữ liệu từ GMP dược phẩm hệ thống, cần ranh giới access, masking và data use rõ.

Khi AI hỗ trợ visual inspection, phân loại deviation, đề xuất CAPA, dự đoán OOS, tối ưu recipe hoặc điều khiển process parameter — nó đã tiến gần hoặc đi vào GxP. AI trong sản xuất dược đã nêu ranh giới này ở cấp sản xuất. Dù AI chỉ đưa recommendation, nếu operator thường xuyên chấp nhận recommendation như quyết định thực tế, human-in-the-loop phải được thiết kế và ghi nhận bằng chứng.

GxP impact assessment cho AI

Phần này giúp đội QA/OT nhìn rõ rủi ro vận hành và evidence cần giữ.

Assessment này không thay thế Chuyển đổi số nhà máy dược — nó là lớp kiểm soát giúp chuyển đổi số không tạo shadow system. Mỗi AI use case nên có one-page GxP impact memo trước khi có budget lớn.

Data governance — ALCOA+ cho AI training data

Phần này giúp đội QA/OT nhìn rõ rủi ro vận hành và evidence cần giữ.

AI sống bằng dữ liệu, nhưng dữ liệu GMP không tự nhiên fit-for-purpose cho machine learning. Dữ liệu có thể thiếu context, lệch theo campaign, đổi sensor, đổi recipe, đổi phương pháp test hoặc có missing values do thao tác vận hành. GAMP AI Guide Appendix M7 yêu cầu data governance framework bao gồm: data collection, cleaning, augmentation, provenance, versioning, quality assessment và ALCOA+ compliance cho training/validation/test datasets.

Ví dụ TYPE 3: Một nhà máy muốn dùng AI dự báo nguy cơ lệch độ ẩm hạt sau sấy tầng sôi. Dữ liệu training lấy từ SCADA, LIMS, EMS và batch record. Data qualification phải trả lời: nguồn dữ liệu, data owner, data lineage, cleaning rules, exclusion rules (batch có deviation chưa đóng nên exclude hay include?), representativeness (đã cover đủ seasonal variation chưa?) và quyền truy cập.

Nếu data cleaning không kiểm soát, model có thể học từ dữ liệu đã “làm đẹp” và mất khả năng phát hiện bất thường thật.

Model development, deployment và monitoring

Phần này giúp người đọc chuyển từ khái niệm sang checklist evidence có thể kiểm tra ngay.

Model development — intended use trước thuật toán

Model development phải có intended use, performance metric, acceptance criteria, training/validation/test split và rationale cho thuật toán. Với GxP, accuracy chung thường không đủ; cần xem false positive, false negative, bias theo product family, batch size hoặc điều kiện vận hành. Mỗi model version cần định danh, lưu artifact, parameter, training dataset reference và report.

Deployment — đi qua CSV

Deployment nên đi qua CSV dược phẩm: environment, access, interface, data flow, rollback, audit trail và SOP vận hành. Một mô hình tốt trong notebook chưa phải hệ thống validated. Khi đưa vào production: pipeline, input validation, exception handling, system clock, record retention và business continuity.

Monitoring — drift là expected, không phải exceptional

AI khác phần mềm deterministic ở chỗ performance có thể giảm khi dữ liệu hoặc quy trình thay đổi. Monitoring cần theo dõi model drift, data drift, exception trend, override rate, false decision và complaint/deviation liên quan. Khi drift vượt threshold, hệ thống phải kích hoạt đánh giá GxP impact và liên kết CAPA GMP nếu drift tạo sai lệch thật.

Human-in-the-loop — thiết kế kiểm soát chất lượng, không phải nút confirm

Phần này giúp người đọc chuyển từ khái niệm sang checklist evidence có thể kiểm tra ngay.

Human review cần được thiết kế như kiểm soát chất lượng, không phải màn hình xác nhận cuối cùng. Người review phải thấy: dữ liệu đầu vào, output, confidence hoặc reason code, cảnh báo giới hạn mô hình và lịch sử override. SOP phải định nghĩa khi nào người review được override AI, khi nào phải mở deviation, và bằng chứng nào cần lưu.

Ví dụ TYPE 3: AI đề xuất reclassify deviation từ major xuống minor dựa trên pattern analysis. Màn hình chỉ hiện “Recommended: Minor” với nút Accept/Reject. Supervisor bấm Accept 95% thời gian mà không thấy basis data. Khi audit hỏi “Làm sao supervisor biết recommendation đúng?”, nhà máy không có evidence. Human-in-the-loop lúc này chỉ là hình thức. GAMP AI Guide gọi đây là rủi ro “automation complacency.”

Change control và supplier qualification

Phần này giúp người đọc chuyển từ khái niệm sang checklist evidence có thể kiểm tra ngay.

AI change — không chỉ thay code

Thay training dataset, feature, threshold, model version, pre-processing rule, integration hoặc UI hiển thị output đều có thể thay risk profile. Change control phân loại major/minor dựa trên intended use và impact tới GMP decision. Model high impact cần protocol, acceptance criteria, comparison với version cũ và rollback plan. Nếu vendor tự động update model, quality agreement phải yêu cầu thông báo, release note, impact statement và quyền trì hoãn rollout cho GxP environment.

Supplier questionnaire mở rộng

Với AI vendor, supplier questionnaire truyền thống cần mở rộng: data governance, model development lifecycle, testing independence, cybersecurity, vulnerability management, incident reporting, model update policy. Hỏi vendor: có lưu training data khách hàng không, dữ liệu có dùng để improve model chung không, ai truy cập model artifact, log inference giữ bao lâu. Quality agreement phải nêu rõ trách nhiệm: thay đổi model, defect, downtime, data breach, retraining, support investigation và cung cấp bằng chứng audit.

Decision Moment

Trước khi đưa AI vào quyết định GMP, hãy hỏi:

1. Training data có ALCOA+ trail không — hay model đang học từ dữ liệu chưa kiểm soát, chưa version, chưa có data lineage?

2. Human-in-the-loop có thấy basis data, confidence, exception và giới hạn mô hình — hay chỉ thấy kết luận với nút Accept?

3. Khi model drift vượt threshold, ai là model owner chịu trách nhiệm kích hoạt impact assessment, và quy trình escalation đến CAPA đã được định nghĩa chưa?

Để biến GAMP AI Guide thành framework validation cho nhà máy dược, xem thêm tại nampham.net. Tác giả: Phạm Đức Phương Nam Chức danh: Pharma Automation Engineer | GMP & Digital Systems Website: nampham.net

FAQ

Phần này gom các câu hỏi giúp QA tự kiểm tra nhanh trước khi audit.

Production Readiness — Chuẩn hóa trước go-live

Phần này giúp người đọc chuyển từ khái niệm sang checklist evidence có thể kiểm tra ngay.

Để đưa AI validation nhà máy dược GxP vào trạng thái production-ready, đội triển khai cần biến framework thành bằng chứng vận hành. Bước đầu: chọn một use case low-to-medium GxP impact (ví dụ predictive maintenance cho thiết bị non-critical), áp dụng full framework từ GxP impact assessment qua data governance, model development, deployment, monitoring và change control. Lessons learned từ pilot quyết định readiness cho use case high impact.

Bằng chứng trước go-live phải chứng minh ba điều: data governance cho training data có ALCOA+ trail; model có intended use approved bởi QA với acceptance criteria rõ; và monitoring plan có drift threshold, escalation path và CAPA linkage. Nếu một trong ba điều kiện này chưa đạt, go-live tạo rủi ro mới, không phải giá trị mới.

Ghi Chú Minh Bạch

Phần này làm rõ nguồn tham chiếu và ranh giới áp dụng của bài viết.