TIÊU CHUẨN QUỐC GIA

TCVN ISO/IEC 42001:2025

ISO/IEC 42001:2023

CÔNG NGHỆ THÔNG TIN - TRÍ TUỆ NHÂN TẠO HỆ THỐNG QUẢN LÝ

INFORMATION TECHNOLOGY - ARTIFICIAL INTELLIGENCE - MANAGEMENT SYSTEM

Lời nói đầu

TCVN ISO/IEC 42001:2025 hoàn toàn tương đương với ISO/IEC 42001:2023.

TCVN ISO/IEC 42001:2025 do Ban kỹ thuật tiêu chuẩn quốc gia TCVN/JTC 1 “Công nghệ thông tin” biên soạn, Viện Tiêu chuẩn Chất lượng Việt Nam đề nghị, Ủy ban Tiêu chuẩn Đo lường Chất lượng Quốc gia thẩm định, Bộ Khoa học và Công nghệ công bố.

Lời giới thiệu

Trí tuệ nhân tạo (AI) ngày càng được áp dụng rộng rãi trong mọi lĩnh vực sử dụng công nghệ thông tin và dự kiến sẽ trở thành một trong những động lực kinh tế chính. Hệ quả của xu hướng này là một số ứng dụng nhất định có thể gây ra những thách thức cho xã hội trong những năm tới.

Tiêu chuẩn này nhằm mục đích giúp các tổ chức thực hiện vai trò của mình một cách có trách nhiệm đối với các hệ thống AI (ví dụ: sử dụng, phát triển, giám sát hoặc cung cấp các sản phẩm hoặc dịch vụ sử dụng AI). AI có khả năng là gia tăng những xem xét cụ thể như sau:

- Việc sử dụng AI để ra quyết định tự động, đôi khi theo cách không minh bạch và không thể giải thích được, có thể yêu cầu sự quản lý cụ thể ngoài việc quản lý các hệ thống công nghệ thông tin cổ điển.

- Việc sử dụng phân tích dữ liệu, sự thấu hiểu và học máy, thay vì logic do con người mã hóa để thiết kế hệ thống, vừa làm tăng cơ hội ứng dụng cho các hệ thống AI vừa thay đổi cách phát triển, biện minh và triển khai các hệ thống đó.

- Các hệ thống AI thực hiện học tập liên tục sẽ thay đổi hành vi của chúng trong quá trình sử dụng. Các hệ thống AI cần được xem xét đặc biệt để đảm bảo việc sử dụng liên tục có trách nhiệm với hành vi thay đổi.

Tiêu chuẩn này cung cấp các yêu cầu để thiết lập, triển khai, duy trì và cải tiến liên tục hệ thống quản lý AI trong bối cảnh của một tổ chức. Các tổ chức được kỳ vọng tập trung vào việc áp dụng các yêu cầu vào các tính năng độc đáo của AI. Một số tính năng nhất định của AI, chẳng hạn như khả năng liên tục học hỏi và cải tiến hoặc thiếu minh bạch hoặc thiếu khả năng giải thích, có thể đảm bảo các biện pháp bảo vệ khác nhau nếu chúng gây ra thêm mối lo ngại so với cách thực hiện nhiệm vụ theo truyền thống. Việc áp dụng hệ thống quản lý AI để mở rộng các cấu trúc quản lý hiện có là một quyết định mang tính chiến lược đối với một tổ chức.

Nhu cầu và mục tiêu, quá trình, quy mô và cấu trúc của tổ chức cũng như kỳ vọng của các bên quan tâm khác nhau ảnh hưởng đến việc thiết lập và triển khai hệ thống quản lý AI. Một tập các yếu tố khác ảnh hưởng đến việc thiết lập và triển khai hệ thống quản lý AI là nhiều trường hợp sử dụng AI và nhu cầu đạt được sự cân bằng phù hợp giữa các cơ chế quản trị và đổi mới. Các tổ chức có thể lựa chọn áp dụng các yêu cầu này bằng cách