Quản trị Shadow AI: Khi nhân viên sử dụng AI ngoài phạm vi kiểm soát của doanh nghiệp.

Nhân viên dùng AI riêng có thể đang bù một nhu cầu chưa được đáp ứng

Một nhân viên dùng tài khoản AI cá nhân để tổng hợp báo cáo vì công cụ chính thức chưa hỗ trợ. Họ có thể đang cố hoàn thành công việc, nhưng dữ liệu và đầu ra đi qua một luồng doanh nghiệp chưa đánh giá. Nếu chỉ hỏi ai vi phạm, tổ chức có thể bỏ qua cả đường rủi ro lẫn lý do nhân viên tìm phương án khác.

Shadow AI là cách sử dụng AI không được ghi nhận trong các hệ thống và quy trình đã được tổ chức chấp thuận. NCSC nêu cần hiểu nhu cầu của nhân viên để quản lý rủi ro và cung cấp lựa chọn phù hợp. CAIO nên kết nối thông tin sử dụng thật, dữ liệu, quyền và hỗ trợ, thay vì chỉ dựa vào danh mục mua sắm chính thức.

Đào tạo CAIO hỗ trợ quản trị AI trong doanh nghiệp. Mục tiêu cần là giảm rủi ro và đưa nhu cầu có giá trị vào cơ chế kiểm chứng, không báo đã loại bỏ mọi Shadow AI chỉ vì ban hành một lệnh cấm.

Nhận diện phạm vi sử dụng ngoài kiểm soát

Shadow AI có thể là ứng dụng độc lập, tiện ích trình duyệt, tính năng AI trong phần mềm hoặc kết nối do nhóm tự tạo. Một công cụ đã được phép cho mục đích này vẫn có thể bị dùng ngoài phạm vi dữ liệu hoặc hành động. Cần nhìn cách sử dụng, không chỉ tên sản phẩm.

Khảo sát nên hỏi nhiệm vụ, dữ liệu đưa vào, kết quả dùng ở đâu và lý do chọn công cụ. Có thể bắt đầu từ nhóm công việc có nhu cầu rõ và dùng kênh báo phù hợp. Không mặc định cần thu toàn bộ nội dung cá nhân; biện pháp quan sát phải có mục đích, quyền và điều kiện được xác nhận.

Danh mục ghi công cụ, chủ nhiệm vụ, loại dữ liệu, mức hành động và trạng thái đánh giá. Những thông tin chưa rõ cần được xác minh, không tự kết luận mọi công cụ ngoài danh sách đều có cùng mức rủi ro. Ưu tiên trường hợp có dữ liệu quan trọng hoặc quyền kết nối rộng.

Đánh giá đường dữ liệu và quyền hành động

Xem thông tin đi qua câu hỏi, tệp, kết nối, đầu ra và nhật ký. Điều kiện dịch vụ có thể khác giữa tài khoản, gói và cấu hình. Doanh nghiệp cần xác nhận nơi lưu, cách sử dụng và quyền truy cập theo sản phẩm thực tế, không suy từ tên thương hiệu.

Quyền của một tiện ích hoặc tác nhân AI có thể gồm đọc tài liệu, email hoặc thực hiện hành động. Nếu quyền vượt nhiệm vụ, hậu quả có thể lớn hơn nội dung trả lời sai. Cần kiểm tra ở hệ thống kết nối và cơ chế cấp quyền, không chỉ hướng dẫn người dùng không hỏi thông tin nhạy cảm.

NIST Generative AI Profile hỗ trợ nhìn các rủi ro về dữ liệu, nội dung và tương tác. CAIO phải chuyển thành sự kiện, tác động, người xử lý và điều kiện. Các nghĩa vụ cụ thể cần đầu mối có thẩm quyền xác nhận theo hoạt động và thị trường, không tự áp một kết luận chung.

Phân luồng xử lý theo tác động và điều kiện

Nếu có dấu hiệu sự cố, cần đi theo quy trình ứng phó hiện có với người có quyền. Các việc như hạn chế kết nối, bảo vệ thông tin hoặc đối chiếu phạm vi ảnh hưởng phải được thực hiện phù hợp tình huống. Không chỉ yêu cầu xóa giao diện rồi coi dữ liệu và quyền đã hết rủi ro.

Với nhu cầu chưa được đánh giá nhưng có thể phù hợp, xác định điều kiện để thử trong phạm vi được phép. Với công cụ không đáp ứng, cung cấp phương án khác hoặc kế hoạch xử lý nhu cầu. Người dùng cần biết trạng thái và đầu mối, tránh chờ vô thời hạn rồi tiếp tục dùng riêng.

Bảng hỗ trợ phân luồng, không thay đánh giá sự cố chuyên môn. Các quyết định cần ghi tác động, người nhận, phạm vi và thời điểm xem lại. Tránh gom mọi việc vào một yêu cầu dừng mà không có trách nhiệm tiếp theo.

Tạo lựa chọn chính thức đáp ứng nhiệm vụ

Công cụ được chấp thuận cần phù hợp công việc, không chỉ có kiểm soát kỹ thuật. Hãy xem người dùng có thể hoàn tất nhiệm vụ, truy cập dữ liệu đúng quyền và kiểm tra đầu ra không. Nếu giải pháp chính thức khó dùng hoặc không có hỗ trợ, nhu cầu dùng riêng có thể tiếp tục.

Thiết kế đường đề nghị công cụ hoặc use case mới với thông tin vừa đủ: mục đích, dữ liệu, người dùng và hành động. Phân luồng theo mức ảnh hưởng để tránh mọi yêu cầu nhỏ cùng chờ một cuộc họp. Những điều kiện thiết yếu vẫn phải được xác nhận trước khi dùng.

Quản lý bảo mật thông tin hỗ trợ phối hợp về quyền, dữ liệu và kiểm tra. Hướng dẫn secure deployment của NCSC nhắc làm rõ trách nhiệm bảo mật và điều kiện dữ liệu với người dùng; doanh nghiệp cần áp dụng cho lựa chọn được cung cấp thực tế.

Khuyến khích báo thông tin để nhận diện sớm

Nhân viên cần biết nơi hỏi khi không chắc và cách báo công cụ đang dùng. Thông điệp nên tập trung vào hiểu nhiệm vụ và xử lý rủi ro, đồng thời giữ trách nhiệm theo chính sách. Không hứa bỏ qua mọi hành vi, nhưng cũng không biến mọi báo cáo thành kết luận nhân sự trước khi xác minh.

Quản lý trực tiếp cần tham gia. Nếu họ giao mục tiêu tốc độ mà không cung cấp phương thức được phép, nhân viên có thể tìm cách ngoài luồng. Cần thống nhất yêu cầu, nguồn dữ liệu và cách kiểm tra, để chính sách không mâu thuẫn với công việc được giao.

Năng lực lãnh đạo IT hỗ trợ trao đổi về trách nhiệm và đánh đổi. CAIO điều phối nhu cầu, IT và chức năng kiểm soát nhận phần chuyên môn; vấn đề vượt quyền phải có đường tới người có thẩm quyền chốt.

Quản lý ngoại lệ và quá trình chuyển đổi

Ngoại lệ tạm thời cần phạm vi, dữ liệu, mức hành động, người phê duyệt, thời hạn và biện pháp bù. Không coi đang chờ đánh giá là đã được phép. Những điều kiện không được ngoại lệ phải do chức năng có thẩm quyền xác định.

Khi chuyển sang công cụ chính thức, xem dữ liệu, bản lưu, quyền kết nối và các công việc đang phụ thuộc. Ngừng tài khoản hoặc tiện ích có thể ảnh hưởng nhiệm vụ cần hoàn tất. Cần phương án tiếp nối và cách xử lý dữ liệu phù hợp điều kiện, không xóa tùy tiện các bằng chứng cần giữ.

Quản lý mua sắm và nhà cung cấp IT hỗ trợ xác nhận dịch vụ và trách nhiệm. Cần giữ cơ chế đánh giá khi nhà cung cấp, cấu hình hoặc phạm vi dùng đổi, vì lựa chọn chính thức cũng có thể phát sinh điều kiện mới.

Tình huống giả định: tổng hợp báo cáo qua tài khoản cá nhân

Một doanh nghiệp giả định phát hiện nhóm vận hành dùng trợ lý cá nhân để tổng hợp báo cáo. Khảo sát cho thấy nhóm phải gộp nhiều nguồn, công cụ được phép chưa hỗ trợ định dạng và họ không biết nơi đề nghị. Chưa có đủ thông tin để kết luận đã xảy ra lộ dữ liệu.

CAIO cùng chủ vận hành và an toàn thông tin xác minh dữ liệu, dịch vụ, quyền và đầu ra. Những phần cần ứng phó được chuyển đúng quy trình. Đồng thời, nhóm đánh giá cách đáp ứng nhiệm vụ trong môi trường được phép, gồm kiểm tra nội dung và cách lưu kết quả.

Kế hoạch chuyển ghi công việc tồn, quyền cần đóng và trách nhiệm dữ liệu. Tình huống không giả định tỷ lệ vi phạm hay thiệt hại; nó minh họa cách xử lý cả rủi ro hiện tại và nguyên nhân tạo nhu cầu dùng riêng.

Đo hiệu quả bằng rủi ro và khả năng đáp ứng

Số công cụ được phát hiện có thể tăng khi kênh báo tốt hơn, nên không tự coi là thất bại. Cần xem mức hiểu phạm vi, số nhu cầu được xử lý, thời gian đánh giá và các trường hợp dữ liệu hoặc quyền chưa rõ. Các chỉ số cần phản ánh mục tiêu, không tạo áp lực để giảm báo cáo.

Theo dõi việc đóng quyền, chuyển dữ liệu và điều kiện ngoại lệ. Kiểm tra người dùng có thể thực hiện nhiệm vụ trên lựa chọn được phép và biết báo vấn đề. Nếu vẫn có cách dùng riêng, xem nguyên nhân và chất lượng phương án, không chỉ tăng nhắc nhở.

Quản trị rủi ro IT hỗ trợ tổ chức hành động và quyền chấp nhận. CAIO nên dùng thông tin này để cập nhật danh mục, chính sách và lộ trình, đưa những nhu cầu có giá trị vào thử nghiệm phù hợp.

Câu hỏi trong cuộc rà soát Shadow AI

• Doanh nghiệp biết các nhiệm vụ và đường dữ liệu đang dùng riêng chưa?
• Trường hợp có ảnh hưởng lớn đã có đầu mối xác minh và xử lý chưa?
• Người dùng có đường đề nghị, hỏi và báo dễ áp dụng không?
• Công cụ chính thức có đáp ứng nhiệm vụ và quyền cần thiết không?
• Ngoại lệ và chuyển đổi có thời hạn, chủ và bằng chứng đóng không?
• Kết quả đo có giúp sửa nguyên nhân hay chỉ giảm số báo cáo?

Quản trị Shadow AI cần thông tin thật, quyết định đúng quyền và khả năng hỗ trợ công việc. CAIO giúp tổ chức đưa nhu cầu vào luồng đánh giá, đồng thời giữ trách nhiệm dữ liệu và hành động rõ để việc sử dụng AI có thể được kiểm chứng và duy trì.

Bài viết liên quan

• Human-in-the-loop: Thiết kế cơ chế giám sát và phê duyệt của con người trong quy trình AI.
• Đầu tư mô hình AI nhưng nhân viên không dùng: Vì sao đào tạo quyết định kết quả?
• Quản trị vòng đời hệ thống AI: Từ thử nghiệm, triển khai đến giám sát và cải tiến.
• Dự án AI thử nghiệm thành công nhưng không mở rộng được: Vấn đề nằm ở đâu?

Nguồn tham khảo

1. NCSC – The hidden risks of shadow AI
2. NIST – AI RMF: Generative Artificial Intelligence Profile
3. NCSC – Secure deployment