Tiêu chuẩn quốc gia TCVN 8006-4:2013 (hoàn toàn tương đương với ISO 16269-4:2010) là một văn bản kỹ thuật chuyên ngành quan trọng trong lĩnh vực thống kê, tập trung vào việc hướng dẫn các phương pháp khoa học để phát hiện và xử lý các giá trị bất thường (outliers) trong tập dữ liệu. Việc nhận diện chính xác các giá trị này giúp đảm bảo tính trung thực, khách quan và độ tin cậy của các kết quả phân tích thống kê tiếp theo.
Dưới đây là phần tóm tắt chi tiết và chuyên sâu về các nội dung cốt lõi, phương pháp luận và các công cụ kỹ thuật được quy định trong tiêu chuẩn này dựa trên các thành phần cấu trúc chính:
- Phạm vi áp dụng và mục tiêu của tiêu chuẩn- Cung cấp các thủ tục thống kê và quy tắc quyết định để nhận biết các quan trắc bất thường trong các mẫu dữ liệu đơn biến và đa biến.
- Hướng dẫn các bước xử lý tiếp theo đối với các giá trị bất thường sau khi đã được phát hiện, bao gồm việc loại bỏ, hiệu chỉnh hoặc giữ lại để phân tích thêm.
- Hỗ trợ các nhà nghiên cứu, kiểm nghiệm viên và chuyên viên phân tích dữ liệu tránh các sai lầm khi đưa ra kết luận do sự ảnh hưởng của các điểm dữ liệu dị biệt.
- Phần tư dưới và phần tư trên: Tiêu chuẩn định nghĩa rõ ràng cách xác định phần tư dưới và phần tư trên trong một tập mẫu dữ liệu. Đây là các mốc phân vị quan trọng giúp xác định phân bố tập trung của dữ liệu.
- Phần trăm (Percentiles): Các điểm chia dữ liệu thành các phần bằng nhau, giúp xác định vị trí tương đối của một giá trị cụ thể trong toàn bộ tập dữ liệu mẫu.
- Trong việc đánh giá rào chắn dưới (LF) và rào chắn trên (UF) của đồ thị hộp sửa đổi, tiêu chuẩn quy định việc sử dụng các giá trị cụ thể theo phân bố là xL;n (phần tư dưới) và xU;n (phần tư trên) thay thế cho các tứ phân vị truyền thống thứ nhất (Q1) và thứ ba (Q3).
- Sự thay đổi này giúp tối ưu hóa việc xác định rào chắn đối với từng loại phân bố dữ liệu cụ thể, giảm thiểu sai số khi xác định các điểm dữ liệu nằm ngoài rào chắn (được coi là giá trị bất thường tiềm năng).
- Công thức xác định rào chắn dưới LF và rào chắn trên UF dựa trên các giá trị xL;n và xU;n giúp thiết lập ranh giới an toàn cho dữ liệu bình thường một cách chính xác hơn.
- Phần dư (Residuals): Là sự chênh lệch giữa giá trị quan sát thực tế và giá trị dự báo từ mô hình thống kê. Phân tích phần dư là bước căn bản để đánh giá mức độ phù hợp của mô hình và phát hiện các điểm dữ liệu không tuân theo quy luật chung.
- Phần dư loại bỏ student hóa (Studentized deleted residuals): Đây là một công cụ nâng cao và cực kỳ hiệu quả trong việc phát hiện điểm dị biệt. Bằng cách tính toán phần dư của một điểm dữ liệu khi điểm đó bị loại bỏ khỏi quá trình ước lượng mô hình, phương pháp này giúp loại bỏ ảnh hưởng tự tác động (leverage) của chính điểm dị biệt đó lên đường tiệm cận, từ đó làm nổi bật giá trị bất thường một cách rõ ràng nhất.
- Tiêu chuẩn nhấn mạnh rằng việc phát hiện một giá trị bất thường bằng phương pháp thống kê không đồng nghĩa với việc tự động xóa bỏ nó khỏi tập dữ liệu.
- Cần tiến hành điều tra nguyên nhân vật lý hoặc kỹ thuật (ví dụ: lỗi nhập liệu, lỗi thiết bị đo, hoặc hiện tượng tự nhiên đặc biệt).
- Nếu xác định được lỗi kỹ thuật rõ ràng, giá trị đó phải được hiệu chỉnh hoặc loại bỏ. Trong trường hợp không tìm thấy nguyên nhân cụ thể, cần áp dụng các phương pháp thống kê bền vững (robust statistics) để giảm thiểu ảnh hưởng của chúng thay vì tùy tiện xóa bỏ dữ liệu, nhằm giữ lại tính toàn vẹn của thông tin mẫu.
Để sử dụng toàn bộ tiện ích nâng cao của Hệ Thống Pháp Luật vui lòng lựa chọn và đăng ký gói cước.
GIẢI THÍCH CÁC DỮ LIỆU THỐNG KÊ - PHẦN 4: PHÁT HIỆN VÀ XỬ LÝ CÁC GIÁ TRỊ BẤT THƯỜNG
Statistical interpretation of data - Part 4: Detection and treatment of outliers
Lời nói đầu
TCVN 8006-4:2013 hoàn toàn tương đương với ISO 16269-4:2010;
TCVN 8006-4:2013 do Ban kỹ thuật tiêu chuẩn quốc gia TCVN/TC 69 Ứng dụng các phương pháp thống kê biên soạn, Tổng cục Tiêu chuẩn Đo lường chất lượng đề nghị, Bộ Khoa học và Công nghệ công bố.
Bộ tiêu chuẩn TCVN 8006, chấp nhận bộ tiêu chuẩn ISO 16269, gồm các tiêu chuẩn dưới đây có tên chung “Giải thích các dữ liệu thống kê”:
- TCVN 8006-4:2013 (ISO 16269-4:2010), Phần 4: Phát hiện và xử lý các giá trị bất thường
- TCVN 8006-6:2009 (ISO 16269-6:2005), Phần 6: Xác định khoảng dung sai thống kê
- TCVN 8006-7:2013 (ISO 16269-6:2001), Phần 7: Trung vị - Ước lượng và khoảng tin cậy
Bộ tiêu chuẩn ISO 16269 còn có tiêu chuẩn sau:
- ISO 16269-8, Statistical interpretation of data - Part 8: Determination of prediction intervals
Lời giới thiệu
Xác định các giá trị bất thường một trong những vấn đề lâu đời nhất trong giải thích dữ liệu. Nguyên nhân của giá trị bất thường bao gồm sai số đo, sai số lấy mẫu, báo cáo thấp đi hoặc báo cáo cao lên có chủ ý các kết quả lấy mẫu, ghi chép sai, giả định phân bố hay mô hình sai cho tập dữ liệu, các quan trắc hiếm, v.v..
Giá trị bất thường có thể bóp méo và giảm thông tin trong nguồn dữ liệu hoặc cơ chế tạo dữ liệu. Trong công nghiệp chế tạo, sự có mặt các giá trị bất thường sẽ làm giảm hiệu lực của thiết kế quá trình/sản phẩm và quy trình kiểm soát chất lượng. Các giá trị bất thường có thể không nhất thiết là xấu hay sai lầm. Trong một số trường hợp, giá trị bất thường có thể mang thông tin thiết yếu và do đó cần được nhận biết để nghiên cứu thêm.
Nghiên cứu và phát hiện giá trị bất thường từ các quá trình đo mang lại hiểu biết tốt hơn về quá trình và phân tích dữ liệu đúng sẽ dẫn đến những kết luận được cải thiện.
Với một lượng lớn tài liệu đề cập đến chủ đề giá trị bất thường, điều đặc biệt quan trọng đối với cộng đồng quốc tế là xác định và chuẩn hóa tập các phương pháp sử dụng trong việc nhận biết và xử lý các giá trị bất thường. Việc áp dụng tiêu chuẩn này cho phép doanh nghiệp và ngành công nghiệp thừa nhận các phân tích dữ liệu do các quốc gia hay tổ chức thành viên tiến hành.
Tiêu chuẩn gồm sáu phụ lục. Phụ lục A đưa ra thuật toán để tính thống kê kiểm nghiệm và các giá trị tới hạn của quy trình phát hiện giá trị bất thường trong tập dữ liệu lấy từ phân bố chuẩn. Phụ lục B, D và E cung cấp các bảng cần thiết để thực hiện các quy trình khuyến nghị. Phụ lục C cung cấp các bảng và lý thuyết thống kê làm cơ sở cho việc vẽ các đồ thị hộp sửa đổi trong phát hiện giá trị bất thường. Phụ lục F đưa ra hướng dẫn có cấu trúc và lưu đồ các quá trình khuyến nghị trong tiêu chuẩn này.
GIẢI THÍCH CÁC DỮ LIỆU THỐNG KÊ - PHẦN 4: PHÁT HIỆN VÀ XỬ LÝ CÁC GIÁ TRỊ BẤT THƯỜNG
Statistical interpretation of data - Part 4: Detection and treatment of outliers
Tiêu chuẩn này đưa ra mô tả chi tiết về quy trình kiểm nghiệm thống kê vững chắc và các phương pháp phân tích dữ liệu bằng đồ thị dùng cho việc phát hiện các giá trị bất thường trong dữ liệu thu được từ các quá trình đo. Tiêu chuẩn khuyến nghị ước lượng ổn định vững chắc và quy trình kiểm nghiệm để thỏa hiệp với sự có mặt của các giá trị bất thường.
Tiêu chuẩn này được xây dựng chủ yếu cho việc phát hiện và sự thích ứng của các giá trị bất thường từ dữ liệu đơn biến. Hướng dẫn nhất định cũng được cung cấp đối với dữ liệu đa biến và hồi quy.
Tiêu chuẩn này
Để xem đầy đủ nội dung và sử dụng toàn bộ tiện ích của Hệ Thống Pháp Luật vui lòng lựa chọn và đăng ký gói cước.
Nếu bạn đã là thành viên, hãy bấm:
- 1Tiêu chuẩn quốc gia TCVN 7981-2:2008 (ISO/TS 17369 - 2 : 2005) về Trao đổi siêu dữ liệu và dữ liệu thống kê - Phần 2: Mô hình thông tin: Thiết kế khái niệm UML
- 2Tiêu chuẩn quốc gia TCVN 7981-4:2009 (ISO/TS 17369-4:2005) về Trao đổi siêu dữ liệu và dữ liệu thống kê - Phần 4: Cú pháp và tài liệu SDMX-EDI
- 3Tiêu chuẩn quốc gia TCVN 7981-5:2009 (ISO/TS 17369-5:2005) về Trao đổi siêu dữ liệu và dữ liệu thống kê - Phần 5: Hướng dẫn thực thi các tiêu chuẩn định dạng SDMX
- 4Tiêu chuẩn quốc gia TCVN 10859:2015 (ISO 3301:1975) về Giải thích dữ liệu thống kê – So sánh hai trung bình trong trường hợp quan trắc theo cặp
- 1Quyết định 891/QĐ-BKHCN năm 2009 công bố tiêu chuẩn quốc gia về Cải cách điện dùng cho đường dây trên không có điện án danh nghĩa lớn hơn 1000V và Cầu chảy cao áp do Bộ trưởng Bộ Khoa học và Công nghệ ban hành
- 2Tiêu chuẩn Việt Nam TCVN 6910-2:2001 (ISO 5725-2 : 1994) về Độ chính xác (độ đúng và độ chụm) của phương pháp đo và kết quả đo - Phần 2: Phương pháp cơ bản xác định độ lặp lại và độ tái lập của phương pháp đo tiêu chuẩn do Bộ Khoa học Công nghệ và Môi trường ban hành
- 3Tiêu chuẩn quốc gia TCVN 8244-1:2010 (ISO 3534-1:2006) về Thống kê học - Từ vựng - Phần 1: Thuật ngữ chung về thống kê và thuật ngữ dùng trong xác suất
- 4Tiêu chuẩn quốc gia TCVN 9603:2013 (ISO 5479:1997) về Giải thích dữ liệu thống kê - Kiểm nghiệm sai lệch so với phân bố chuẩn
- 5Tiêu chuẩn quốc gia TCVN 8006-7:2013 (ISO 16269-7:2001) về Giải thích các dữ liệu thống kê - Phần 7: Trung vị - Ước lượng và khoảng tin cậy
- 6Tiêu chuẩn quốc gia TCVN 8006-6:2009 (ISO 16269-6 : 2005) về Giải thích các dữ liệu thống kê - Phần 6: Xác định khoảng dung sai thống kê
- 7Tiêu chuẩn quốc gia TCVN 7981-2:2008 (ISO/TS 17369 - 2 : 2005) về Trao đổi siêu dữ liệu và dữ liệu thống kê - Phần 2: Mô hình thông tin: Thiết kế khái niệm UML
- 8Tiêu chuẩn quốc gia TCVN 7981-4:2009 (ISO/TS 17369-4:2005) về Trao đổi siêu dữ liệu và dữ liệu thống kê - Phần 4: Cú pháp và tài liệu SDMX-EDI
- 9Tiêu chuẩn quốc gia TCVN 7981-5:2009 (ISO/TS 17369-5:2005) về Trao đổi siêu dữ liệu và dữ liệu thống kê - Phần 5: Hướng dẫn thực thi các tiêu chuẩn định dạng SDMX
- 10Tiêu chuẩn quốc gia TCVN 10859:2015 (ISO 3301:1975) về Giải thích dữ liệu thống kê – So sánh hai trung bình trong trường hợp quan trắc theo cặp
Tiêu chuẩn quốc gia TCVN 8006-4:2013 (ISO 16269-4:2010) về Giải thích dữ liệu thống kê - Phần 4: Phát hiện và xử lý giá trị bất thường
- Số hiệu: TCVN8006-4:2013
- Loại văn bản: Tiêu chuẩn Việt Nam
- Ngày ban hành: 01/01/2013
- Nơi ban hành: ***
- Người ký: ***
- Ngày công báo: Đang cập nhật
- Số công báo: Đang cập nhật
- Ngày hiệu lực: 10/08/2026
- Tình trạng hiệu lực: Kiểm tra
