Giới thiệu
Đạo luật Trí tuệ nhân tạo (AI) sắp tới của Liên minh Châu Âu (EU) thiết lập một khung quy định mới phân loại các hệ thống AI theo các mức độ rủi ro: Rủi ro không thể chấp nhận, Rủi ro cao, Rủi ro hạn chế và Rủi ro tối thiểu. Các yêu cầu tuân thủ nghiêm ngặt nhất được dành cho các hệ thống AI rủi ro cao. Các hệ thống này phải tuân thủ nhiều quy trình quy định bao gồm các Yêu cầu của Hệ thống AI rủi ro cao, Tuyên bố Tuân thủ của EU, Đánh dấu CE và đăng ký vào cơ sở dữ liệu của EU.
Điều quan trọng cần lưu ý là tất cả các hệ thống AI đều phải được đánh giá trước khi chúng được đưa ra thị trường cho mục đích thương mại. Do đó, rất cần thiết cho các doanh nghiệp AI chuẩn bị và thực hiện Đánh giá Rủi ro AI để xác định xem hệ thống của họ có được phân loại là rủi ro cao hay không. Để có cái nhìn tổng quan về những gì cấu thành một hệ thống AI rủi ro cao, có thể tìm thêm thông tin tại đây.
Nếu doanh nghiệp của bạn đang có kế hoạch triển khai hoặc phát triển một hệ thống AI có thể được phân loại là rủi ro cao, bạn không nên bỏ qua bài viết này. Điều quan trọng là phải hiểu các nghĩa vụ và trách nhiệm mà công ty của bạn có thể chịu khi ra mắt sản phẩm AI của mình trên thị trường EU. Các hệ thống AI rủi ro cao bị quy định nghiêm ngặt và không tuân thủ có thể dẫn đến các khoản phạt đáng kể.
Yêu cầu tuân thủ AI rủi ro cao
Theo các Điều 8-25 của Đạo luật AI của EU, các nhà phát triển và nhà cung cấp của các hệ thống AI rủi ro cao phải triển khai một chiến lược tuân thủ toàn diện bao gồm:
- Hệ thống Quản lý Rủi ro: Một quy trình liên tục, lặp đi lặp lại trong suốt vòng đời của hệ thống AI, bao gồm việc nhận diện, phân tích, đánh giá và giảm thiểu rủi ro (Điều 9).
- Quản lý Dữ liệu: Đảm bảo rằng dữ liệu huấn luyện, xác thực và kiểm tra tuân thủ GDPR và bảo đảm sự công bằng và quyền lợi cá nhân.
- Tài liệu Kỹ thuật: Tài liệu chi tiết về các thông số kỹ thuật và chức năng của hệ thống AI.
- Khả năng Truy xuất: Các cơ chế theo dõi hồ sơ và giám sát các hoạt động AI.
- Giám sát của Con người: Quy trình đảm bảo sự giám sát của con người đối với các hệ thống AI.
- Độ Chính xác, Độ Bền và Bảo mật: Đảm bảo hệ thống AI hoạt động đáng tin cậy và an toàn trong các điều kiện khác nhau.
- Hệ thống Quản lý Chất lượng: Các tiêu chuẩn đảm bảo chất lượng nhất quán trong phát triển và triển khai hệ thống AI.
- Tuyên bố Tuân thủ của EU và Đánh dấu CE: Tuyên bố và đánh dấu chính thức cho biết tuân thủ các tiêu chuẩn của EU.
- Đăng ký: Đăng ký vào cơ sở dữ liệu chính thức của EU để giám sát và quản lý.
Hệ thống Quản lý Rủi ro (Điều 9)
Hệ thống quản lý rủi ro được hiểu như một quy trình liên tục và lặp đi lặp lại, được lên kế hoạch và thực hiện trong suốt vòng đời của một hệ thống AI rủi ro cao. Nó bao gồm các bước sau: (1) Nhận diện và phân tích các rủi ro liên quan đến sức khỏe, an toàn hoặc quyền lợi cơ bản; (2) Ước lượng và đánh giá các rủi ro có thể phát sinh; (3) Đánh giá các rủi ro khác có thể phát sinh; và (4) Áp dụng các biện pháp quản lý rủi ro mục tiêu phù hợp.
Quản lý Dữ liệu
Dữ liệu huấn luyện, xác thực và kiểm tra phải tuân thủ các quy định và quản lý dữ liệu trong hệ thống AI rủi ro cao. Điều quan trọng cần lưu ý là các thực hành này bao gồm bảo vệ dữ liệu cá nhân. Các nhà cung cấp hoặc nhà phát triển phải tuân thủ và hiểu vai trò của mình theo GDPR, đảm bảo tính công bằng và các quyền lợi cơ bản của cá nhân.
Tuyên bố Tuân thủ của EU
Theo Điều 47 của Đạo luật AI của EU, sau khi tài liệu hóa tất cả các yêu cầu kỹ thuật cho Hệ thống AI rủi ro cao, các nhà cung cấp phải nộp Tuyên bố Tuân thủ AI rủi ro cao cho các cơ quan có thẩm quyền.
- Tên và địa chỉ kinh doanh của nhà sản xuất sản phẩm hoặc đại diện ủy quyền
- Nhận diện cho phép truy xuất sản phẩm
- Chi tiết của cơ quan thông báo nếu có
- Một tuyên bố nói rằng nhà sản xuất chịu trách nhiệm hoàn toàn về việc tuân thủ của sản phẩm
Giải quyết các trường hợp sử dụng không phải là rủi ro cao trong hệ thống rủi ro cao
Nếu một hệ thống AI rủi ro cao được sử dụng trong các kịch bản không phải là rủi ro cao, các nhà cung cấp vẫn phải nộp Tuyên bố Tuân thủ và đăng ký vào hệ thống EU nhưng có thể bỏ qua quá trình đánh dấu CE.
Xác định hệ thống AI không phải là rủi ro cao
Kịch bản thách thức nhất là xác định xem một hệ thống AI có được coi là rủi ro cao theo Phụ lục III và Điều 6(3) hay không. Các hệ thống không gây ra tác hại đáng kể cho sức khỏe, an toàn hoặc quyền lợi cơ bản và không ảnh hưởng đáng kể đến kết quả quyết định có thể được phân loại là không rủi ro cao theo các điều kiện cụ thể như:
- Các nhiệm vụ quy trình hẹp
- Cải thiện kết quả của một hoạt động đã hoàn thành trước đó của con người
- Phát hiện các mẫu quyết định và các sai lệch từ các mẫu quyết định trước đó và không nhằm thay thế hoặc ảnh hưởng đến đánh giá của con người đã hoàn thành mà không có đánh giá thích hợp của con người
- Thực hiện một nhiệm vụ chuẩn bị
Nếu một hệ thống AI không phải là hệ thống AI rủi ro cao, nhà cung cấp phải thực hiện tài liệu của đánh giá, đăng ký vào cơ sở dữ liệu của EU và cung cấp thông tin cần thiết theo yêu cầu của các cơ quan có thẩm quyền quốc gia.
3. Lộ trình tuân thủ cho hệ thống AI rủi ro cao
Để tuân thủ hiệu quả Đạo luật AI của EU, các doanh nghiệp phải chuẩn bị một khung quản trị AI nội bộ mạnh mẽ cũng như các lộ trình pháp lý từ trước. Sự chuẩn bị này giúp giảm thiểu các rủi ro pháp lý tiềm ẩn và giảm chi phí tuân thủ.
- Tài liệu và Lập kế hoạch
- Thỏa thuận cấp phép: Xem xét và soạn thảo các thỏa thuận cấp phép cần thiết cho việc sử dụng công nghệ AI.
- Dự toán ngân sách: Phát triển dự toán ngân sách chi tiết bao gồm chi phí phát triển, triển khai và tuân thủ.
- Nghiên cứu thị trường: Thực hiện nghiên cứu thị trường kỹ lưỡng để hiểu các tiêu chuẩn ngành, cảnh quan cạnh tranh và kỳ vọng quy định.
- Tuyển dụng và Đào tạo Dữ liệu Nhân lực: Lên kế hoạch tuyển dụng hoặc đào tạo nhân sự có kỹ năng xử lý dữ liệu AI và tuân thủ.
- Sự tham gia của các bên liên quan: Xác định và thu hút tất cả các bên liên quan liên quan như các nhà phát triển, nhà cung cấp và đối tác bên ngoài.
- Xác định trường hợp sử dụng
- Phân loại rủi ro: Phân tích các trường hợp sử dụng dự định của hệ thống AI để xác định xem chúng có thuộc danh mục rủi ro cao theo tiêu chí của Đạo luật AI của EU (Phụ lục III) hay không.
- Đào tạo nội bộ
- Giáo dục nhân viên: Tổ chức các phiên đào tạo cho tất cả nhân viên về các khía cạnh pháp lý và đạo đức của các hệ thống AI rủi ro cao.
- Nâng cao nhận thức về các tiêu chuẩn đạo đức: Tạo dựng một văn hóa đạo đức và tuân thủ trong toàn tổ chức.
- Đánh giá và quản lý rủi ro
- Chuẩn bị Đánh giá Rủi ro: Thực hiện một Đánh giá Rủi ro AI toàn diện để xác định các rủi ro tiềm ẩn liên quan đến AI.
- Thiết lập Hệ thống Quản lý Rủi ro: Phát triển và triển khai một hệ thống quản lý rủi ro để liên tục giám sát và giảm thiểu các rủi ro đã xác định.
- Quản trị Dữ liệu và Tác động Quyền lợi Cơ bản
- Khung Quản trị Dữ liệu: Tạo ra một khung bao gồm các giao thức về tính toàn vẹn, bảo mật và quyền riêng tư của dữ liệu.
- Đánh giá Tác động Quyền lợi Cơ bản: Thực hiện một đánh giá để đảm bảo rằng hệ thống AI tuân thủ các bảo vệ quyền lợi cơ bản.
- Thử nghiệm Quy định
- Thử nghiệm trong Khung Quy định: Kiểm tra hệ thống AI trong một môi trường mô phỏng hoặc kiểm soát để đảm bảo rằng nó đáp ứng tất cả các yêu cầu quy định trước khi phát hành ra thị trường.
- Tích hợp Tuân thủ Pháp lý và Đạo đức
- Danh sách Kiểm tra Tuân thủ Pháp lý: Phát triển một danh sách kiểm tra bao gồm tất cả các điểm tuân thủ theo Đạo luật AI của EU.
- Hợp tác với các Đội Pháp lý: Làm việc chặt chẽ với các cố vấn pháp lý, đội pháp lý và Ủy ban Đạo đức AI để giải quyết các vấn đề đạo đức và pháp lý như giám sát của con người và tuân thủ các nguyên tắc đạo đức AI.
- Truyền thông Bên ngoài
- Tài liệu Chính sách: Soạn thảo và công bố các tài liệu bên ngoài như Chính sách AI, Tuyên ngôn AI Có trách nhiệm, Khung Đạo đức AI và Khung Quản trị AI để thông báo cho các bên liên quan và công chúng.
- Tuân thủ Hành chính
- Tuyên bố Tuân thủ của EU và Đăng ký Cơ sở Dữ liệu EU: Hoàn thành các thủ tục hành chính cần thiết để đăng ký hệ thống AI vào cơ sở dữ liệu EU liên quan nhằm đảm bảo tính minh bạch và tuân thủ quy định.
Theo dõi và Cải thiện Liên tục
- Giám sát và Cập nhật Liên tục: Liên tục giám sát hiệu suất và trạng thái tuân thủ của hệ thống AI, cập nhật các đánh giá rủi ro và khung quản trị khi cần thiết.
- Phản hồi từ các Bên liên quan: Thường xuyên thu thập phản hồi từ người dùng, cơ quan quản lý và các bên liên quan khác để cải thiện hiệu suất và tuân thủ của hệ thống AI.
Thời gian tuân thủ được đặt ra từ 24 đến 36 tháng sau khi Đạo luật AI được công bố với các khoản phạt tài chính có thể lên đến lớn hơn trong hai mức 15 triệu EUR hoặc 3% tổng doanh thu hàng năm toàn cầu.
4. Tại sao chọn Humane-AI Asia?
Humane-AI Asia đảm bảo một chương trình tuân thủ toàn diện, an toàn và đáng tin cậy cho Đạo luật AI của EU cho các đối tác đáng quý của chúng tôi, bao gồm:
- Tư vấn, đánh giá và đề xuất các đánh giá quản lý rủi ro cho các hệ thống AI rủi ro cao.
- Tư vấn và đánh giá tuân thủ liên quan đến quản trị dữ liệu, đảm bảo các doanh nghiệp tuân thủ các quy định về bảo vệ dữ liệu cá nhân.
- Hỗ trợ tư vấn, đánh giá và đề xuất tài liệu kỹ thuật liên quan đến các hệ thống AI.
- Xem xét các tài liệu báo cáo và lưu trữ hồ sơ để đáp ứng các yêu cầu của Đạo luật AI của EU.
- Thực hiện các kiểm tra, thử nghiệm và đánh giá liên quan đến các hệ thống quản lý chất lượng.
- Đảm bảo các hệ thống AI của doanh nghiệp tuân thủ ba nguyên tắc cốt lõi: độ chính xác, độ tin cậy và bảo mật.
- Tư vấn về các thủ tục cho Tuyên bố Tuân thủ, Đánh dấu CE và đăng ký trong hệ thống của Liên minh Châu Âu.
Dịch vụ tùy chỉnh của chúng tôi đảm bảo rằng các hệ thống AI của bạn không chỉ đáp ứng các yêu cầu quy định mà còn phù hợp với các nguyên tắc cốt lõi về độ chính xác, độ tin cậy và bảo mật. Với Humane-AI Asia, doanh nghiệp của bạn có thể tự tin điều hướng cảnh quan pháp lý, đảm bảo triển khai hệ thống AI toàn diện, đáng tin cậy và an toàn.
Tại Humane-AI Asia, chúng tôi cam kết mang lại giá trị vượt trội và lợi thế chiến lược cho các đối tác của mình, giúp họ vượt qua các thách thức của các quy định và đảm bảo các giải pháp AI của họ vừa mang tính đổi mới nhưng vẫn đảm bảo tính tuân thủ. Là cố vấn đáng tin cậy của bạn, chúng tôi giúp tích hợp liền mạch các hệ thống AI rủi ro cao tuân thủ các tiêu chuẩn của EU, định vị doanh nghiệp của bạn cho thành công trong tương lai số hóa.
Để được tư vấn thêm hoặc bắt đầu hành trình tuân thủ của bạn, vui lòng Đặt lịch gọi và chúng tôi sẽ liên hệ sớm.
Để biết thêm thông tin, vui lòng truy cập:
Fanpage: Humane-AI Asia
LinkedIn: Humane-AI Asia
Website: Humane-AI Asia Email: info@humane-ai.asia