1. Khái quát chung

Quản trị AI là gì?

• Các khuôn khổ, quy tắc và tiêu chuẩn cho AI an toàn, công bằng và có đạo đức.
• Giải quyết các rủi ro như thành kiến, quyền riêng tư và lạm dụng đồng thời khuyến khích đổi mới.

Tại sao nó lại quan trọng?

• Những sai sót của con người trong việc tạo ra AI có thể dẫn đến sự thiên vị, sai sót và những kết quả có hại.
• Quản trị giảm thiểu rủi ro thông qua giám sát, đánh giá và cập nhật.

Các thành phần chính của quản trị AI:

• Chính sách và quy định hợp lý về AI.
• Quản trị dữ liệu và bộ dữ liệu sạch.
• Phát triển và sử dụng AI có đạo đức.

Mục tiêu tổng thể:

• Điều chỉnh việc phát triển và sử dụng AI phù hợp với các kỳ vọng về đạo đức và xã hội.
• Giảm thiểu các tác động tiêu cực có thể xảy ra.

2. Tại sao quản trị AI lại quan trọng?

Tại sao quản trị AI lại cần thiết?

• Nhu cầu ngày càng tăng về sự tuân thủ, sự tin cậy và hiệu quả trong việc phát triển và sử dụng AI.
• Hệ thống AI tiềm ẩn những rủi ro: thiên vị, phân biệt đối xử, gây tổn hại cho xã hội.
• Những trường hợp như chatbot TAY và phần mềm COMPAS nêu bật nhu cầu quản trị.

Quản trị AI làm gì?

• Cân bằng tiến bộ công nghệ với các nguyên tắc an toàn và đạo đức.
• Cung cấp các hướng dẫn và khuôn khổ để phát triển và sử dụng AI có trách nhiệm.
• Đảm bảo hệ thống AI tôn trọng nhân quyền và nhân phẩm.

Tính minh bạch và khả năng giải thích là rất quan trọng: Hiểu cách đưa ra các quyết định của AI là chìa khóa cho trách nhiệm giải trình và sự công bằng.

Vượt ra ngoài sự tuân thủ:

• Quản trị AI thúc đẩy các hoạt động AI có trách nhiệm trong toàn bộ vòng đời của nó.
• Bảo vệ chống lại rủi ro tài chính, pháp lý và danh tiếng.
• Thúc đẩy sự phát triển có đạo đức của công nghệ AI.

3. Ví dụ về quản trị AI

• Quy định chung về bảo vệ dữ liệu (GDPR): Quy định của EU tập trung vào quyền riêng tư dữ liệu, có liên quan đến việc AI xử lý dữ liệu cá nhân.
• Nguyên tắc AI của OECD: Khuôn khổ quốc tế nhấn mạnh tính minh bạch, công bằng và trách nhiệm giải trình trong các hệ thống AI.
• Ban đạo đức AI doanh nghiệp: Các ủy ban nội bộ do các công ty thành lập để đảm bảo sự liên kết của các sáng kiến ​​AI với các giá trị đạo đức và xã hội. (ví dụ: Hội đồng đạo đức AI của IBM)

4. Ai giám sát việc quản trị AI có trách nhiệm?

Khả năng lãnh đạo thúc đẩy AI có trách nhiệm:

• Giám đốc điều hành và quản lý cấp cao chịu trách nhiệm cuối cùng về quản trị AI.
• Thiết lập tinh thần và văn hóa cho việc sử dụng AI có đạo đức trong toàn tổ chức.
• Đầu tư vào đào tạo nhân viên, chính sách và giao tiếp cởi mở.

Hợp tác đa chức năng:

• Cố vấn pháp lý và chung đảm bảo tuân thủ luật pháp và quy định có liên quan.
• Nhóm kiểm toán xác nhận tính toàn vẹn dữ liệu và hiệu suất hệ thống.
• CFO giám sát các tác động tài chính và giảm thiểu rủi ro liên quan đến các sáng kiến ​​AI.

Trách nhiệm tập thể:

• Quản trị AI có trách nhiệm vượt ra ngoài vai trò hoặc phòng ban riêng lẻ.
• Mọi nhà lãnh đạo đều ưu tiên và ủng hộ việc sử dụng AI có đạo đức trong nhóm của họ.

5. Nguyên tắc quản trị AI có trách nhiệm

Sự trỗi dậy của AI sáng tạo: Tiềm năng của AI sáng tạo trong các ngành thúc đẩy nhu cầu quản trị mạnh mẽ.

Nguyên tắc AI có trách nhiệm:

• Sự đồng cảm: Xem xét tác động xã hội, không chỉ công nghệ và tài chính.
• Kiểm soát sai lệch: Loại bỏ những thành kiến ​​trong thế giới thực khỏi dữ liệu đào tạo để đưa ra quyết định công bằng.
• Tính minh bạch: Giải thích rõ ràng các thuật toán và kết quả AI.
• Trách nhiệm giải trình: Chủ động quản lý sự thay đổi và chịu trách nhiệm về các tác động của AI.

Cách tiếp cận của Chính phủ Hoa Kỳ: Lệnh hành pháp của Nhà Trắng đặt ra các tiêu chuẩn về an toàn và bảo mật AI.

• An toàn và bảo mật AI: Kiểm tra an toàn bắt buộc và phát triển tiêu chuẩn.
• Bảo vệ quyền riêng tư: Ưu tiên các kỹ thuật và nghiên cứu bảo vệ quyền riêng tư.
• Công bằng và Dân quyền: Chống lại sự phân biệt đối xử và thiên vị về mặt thuật toán giữa các lĩnh vực.
• Bảo vệ người tiêu dùng, bệnh nhân và sinh viên: Thúc đẩy AI có trách nhiệm trong chăm sóc sức khỏe và giáo dục.
• Hỗ trợ người lao động: Giảm thiểu tác động tiêu cực đến công việc của AI.
• Thúc đẩy đổi mới và cạnh tranh: Thúc đẩy hệ sinh thái và nghiên cứu AI của Hoa Kỳ.
• Lãnh đạo toàn cầu về AI: Hợp tác dựa trên các tiêu chuẩn AI quốc tế.
• Chính phủ sử dụng AI: Triển khai AI của chính phủ có trách nhiệm thông qua hướng dẫn và tuyển dụng.

Đo lường hiệu quả quản trị: Các tổ chức điều chỉnh các số liệu theo mức độ ưu tiên của họ (ví dụ: chất lượng dữ liệu, giám sát sai lệch).

6. Các cấp độ quản trị AI

• Không chính thức: Dựa vào các giá trị và nguyên tắc của tổ chức, có thể có hội đồng hoặc ủy ban đạo đức nhưng không có khuôn khổ chính thức.
• Cụ thể: Phát triển các chính sách và quy trình cụ thể cho AI, thường phát sinh từ những rủi ro hoặc thách thức cụ thể nhưng có thể không toàn diện.
• Chính thức: Triển khai khung quản trị AI toàn diện phản ánh các giá trị, nguyên tắc và quy định của tổ chức. Bao gồm đánh giá rủi ro, xem xét đạo đức và các quy trình giám sát.

7. Cách các tổ chức triển khai quản trị AI

Tầm quan trọng ngày càng tăng: Tự động hóa AI trên các lĩnh vực đòi hỏi khả năng quản trị mạnh mẽ.

Giải quyết các thách thức: Trách nhiệm giải trình, tính minh bạch và các cân nhắc về đạo đức đòi hỏi phải có cơ cấu kiểm soát.

Quản trị nhiều mặt: Liên quan đến công nghệ, luật pháp, đạo đức và các bên liên quan trong kinh doanh.

Ngoài việc tuân thủ: Các biện pháp thực hành tốt nhất còn vượt xa việc tuân thủ để hướng tới việc giám sát và quản lý toàn diện.

Lộ trình doanh nghiệp:

• Bảng điều khiển trực quan: Thông tin chi tiết theo thời gian thực về tình trạng và trạng thái của hệ thống AI.
• Số liệu về điểm sức khỏe: Các số liệu dễ hiểu để theo dõi sức khỏe của mô hình.
• Giám sát tự động: Chủ động phát hiện các sai lệch, sai lệch, các vấn đề về hiệu suất và các điểm bất thường.
• Cảnh báo hiệu suất: Cảnh báo sớm về những sai lệch so với hiệu suất mô hình mong muốn.
• Số liệu tùy chỉnh: Phù hợp với KPI của tổ chức để đảm bảo đóng góp giá trị AI.
• Lộ trình kiểm tra: Trách nhiệm giải trình thông qua nhật ký có thể truy cập và khả năng xem xét các quyết định của AI.
• Công cụ nguồn mở: Tính linh hoạt và hỗ trợ cộng đồng cho nền tảng quản trị AI.
• Tích hợp liền mạch: Tránh các ngăn cách và tối ưu hóa quy trình làm việc với cơ sở hạ tầng hiện có.

8. Những quy định nào yêu cầu quản trị AI?

• Hoa Kỳ: SR-11-7 đặt ra các tiêu chuẩn quản trị mô hình nghiêm ngặt cho các ngân hàng, thúc đẩy tính minh bạch và giảm thiểu rủi ro mô hình.
• Canada: Chỉ thị về ra quyết định tự động hóa thiết lập hệ thống đánh giá để đánh giá và bảo vệ các công cụ AI được sử dụng cho các dịch vụ công dân.
• EU: Quy định AI được đề xuất phân loại các hệ thống AI dựa trên mức độ rủi ro, áp dụng các yêu cầu nghiêm ngặt hơn đối với các hệ thống "rủi ro cao" và cấm các hệ thống "rủi ro không thể chấp nhận".

Châu Á - Thái Bình Dương: Các quốc gia như Singapore và Ấn Độ đang phát triển các hướng dẫn và khuôn khổ về đạo đức AI để quản lý việc sử dụng AI trong khu vực tư nhân.