Quản trị tác nhân AI trong mua sắm doanh nghiệp

Quản trị tác nhân AI trong mua sắm có ý nghĩa gì?

Quản trị tác nhân AI là hợp đồng vận hành kết nối một công việc tìm nguồn cung ứng xác định với dữ liệu, công cụ, quyền hạn, con người và kiểm soát được phép. Khung quản lý rủi ro NIST AI mô tả quản trị là một yêu cầu xuyên suốt và liên tục trong suốt vòng đời của hệ thống AI (chức năng quản trị). Do đó, thiết kế mua sắm phải điều chỉnh toàn bộ vòng lặp hành động, bao gồm mô hình, bằng chứng của nó, mọi hành động bên ngoài và những người chịu trách nhiệm can thiệp.

Bắt đầu với sự kiện kinh doanh: khám phá nhà cung cấp, chuẩn bị RFQ, chuẩn hóa hồ sơ dự thầu, đề xuất trao giải, thay đổi hợp đồng, tạo đơn đặt hàng hoặc giao tiếp với nhà cung cấp. Đối với mỗi sự kiện, hãy nêu mục đích của tác nhân, các hệ thống được phép, các hành động bị cấm, chủ sở hữu chịu trách nhiệm, bằng chứng yêu cầu, lộ trình leo thang, thời hạn và đường dẫn khôi phục. Chế độ xem cấp khả năng này ngăn chặn các nhãn rộng như tự động hoặc có sự giám sát của con người che giấu các quyền khác biệt đáng kể.

Một tác nhân nên được phép thực hiện những nhiệm vụ tìm nguồn cung ứng nào?

Phân công quyền hạn theo khả năng đảo ngược hành động và hậu quả quyết định. Việc thu thập chỉ đọc và chuẩn bị bản nháp dễ kiểm tra hơn so với giao tiếp bên ngoài, xếp hạng nhà cung cấp, đàm phán thương mại hoặc cam kết. Một nhiệm vụ rủi ro thấp vẫn có thể trở nên không an toàn khi thiếu nguồn, chính sách đã lỗi thời, danh tính nhà cung cấp không chắc chắn hoặc lệnh gọi công cụ tiếp theo thay đổi một bản ghi bên ngoài.

Không nhập giá trị giao dịch chung làm ranh giới phân chia. Bằng chứng công khai không thiết lập ngưỡng chi tiêu an toàn phổ quát cho mua sắm tự động. Hiệu chỉnh quyền hạn cục bộ bằng cách sử dụng khả năng đảo ngược, hậu quả đối với nhà cung cấp và thị trường, độ nhạy dữ liệu, hiệu lực hợp đồng, phân chia nhiệm vụ và chi phí của một hành động sai lầm. The AI trong hướng dẫn mua sắm cung cấp bối cảnh quy trình làm việc rộng hơn cho đánh giá đó.

Quyền hạn của con người phải can thiệp vào quy trình làm việc ở đâu?

Kiểm soát của con người thuộc về nơi một người vẫn có thể thay đổi kết quả. NIST kêu gọi các vai trò và kênh liên lạc được ghi lại, các quy trình giám sát của con người được xác định và các cơ chế sau triển khai để kháng cáo, ghi đè, phục hồi và quản lý thay đổi (trách nhiệm giải trình và giám sát). Trong mua sắm, điểm kiểm tra phải đến trước thông điệp bên ngoài, quyết định xếp hạng, trao giải, cam kết hoặc chuyển đổi hệ thống không thể đảo ngược mà nó quản lý.

• Hiển thị cho người đánh giá các hồ sơ gốc và quy tắc chính sách chính xác, không chỉ tóm tắt của tác nhân.
• Nêu rõ quyết định mà người đó đang đưa ra và quyền hạn cho phép quyết định đó.
• Cung cấp các lựa chọn thay thế có ý nghĩa: phê duyệt, sửa đổi, từ chối, yêu cầu bằng chứng, tạm dừng hoặc định tuyến một ngoại lệ.
• Ngăn tác nhân hành động khi quá trình xem xét đang mở, đã hết hạn hoặc dựa trên các đầu vào đã thay đổi.
• Ghi lại quyết định của con người và đọc lại trạng thái hệ thống hoặc bên ngoài thu được.

Tại sao nhãn “con người tham gia vào quy trình” lại chưa đủ?

Một người đánh giá danh nghĩa có thể ít được chuẩn bị nhất khi lỗi hiếm gặp xảy ra. Phân tích yếu tố con người cơ bản của Bainbridge lập luận rằng tự động hóa có thể để lại cho con người một tập hợp tùy ý các nhiệm vụ khó khăn còn lại và rằng các giai đoạn dài hoạt động tự động chấp nhận được làm suy yếu việc giám sát hiệu quả (nghịch lý tự động hóa). Bối cảnh là kiểm soát quy trình công nghiệp, vì vậy bài báo không đánh giá các nhóm mua sắm, nhưng cơ chế này thách thức các hàng đợi phê duyệt thụ động.

Một thử nghiệm thực địa hiện tại đưa ra cảnh báo về một thử nghiệm công việc tri thức. Các nhà nghiên cứu phát hiện ra rằng những người tham gia có AI ít có khả năng hơn 19 điểm phần trăm so với nhóm đối chứng để giải quyết một nhiệm vụ được đặt một cách cố ý nằm ngoài khả năng của mô hình (kết quả ngoài biên giới). Nghiên cứu đã sử dụng các nhà tư vấn chuyên nghiệp và một mô hình đa năng trước đó, không phải các tác nhân mua sắm, vì vậy hãy sử dụng kết quả để biện minh cho việc kiểm tra cấp độ tác vụ thay vì dự đoán tỷ lệ lỗi cục bộ.

Hồ sơ quyết định nên lưu giữ những gì?

Lưu giữ đủ ngữ cảnh để tái tạo những gì tác nhân đã biết, những gì nó đã làm và tại sao một người cho phép hành động tiếp theo. Hồ sơ phải kết nối yêu cầu kinh doanh với bằng chứng nguồn, chính sách, lệnh gọi công cụ, các chuyển đổi trung gian, sự không chắc chắn, các trường hợp ngoại lệ, các quyết định của con người và bản đọc lại cuối cùng. Liên kết thiết kế đó với phương pháp quản trị từ tiếp nhận đến mua sắm để nhu cầu ban đầu vẫn hiển thị khi công việc chuyển giao giữa các hệ thống và chủ sở hữu.

1. Gắn một ID trường hợp ổn định với người yêu cầu, mục đích, nhóm nhà cung cấp và kết quả được phép.
2. Giữ lại ID bản ghi nguồn, thời gian truy xuất, phiên bản, loại trừ, trường bị thiếu và xung đột.
3. Ghi lại mô hình, lời nhắc hoặc mẫu chính sách, phạm vi công cụ, đầu ra và mọi bản xem trước hành động bên ngoài theo các quy tắc phân loại, truy cập, giảm thiểu, biên tập, lưu giữ, giữ lại hợp pháp và bảo mật nhà cung cấp hiện hành.
4. Ghi lại quyết định, lý do, quyền hạn, điều kiện và thời hạn của người chịu trách nhiệm.
5. Đọc lại trạng thái đích và đối chiếu với hành động dự định; các kết quả không rõ ràng sẽ được điều tra, không tự động thử lại.
6. Giữ việc giám sát, sự cố, ghi đè, chỉnh sửa và các sự kiện ngừng hoạt động trên cùng một dòng dõi.

Các nhóm nên quản lý hành vi thị trường giữa các tác nhân như thế nào?

Kiểm tra thị trường thuộc về kiểm tra tác nhân riêng lẻ vì các tác nhân tự động có thể thay đổi hành vi của nhau. Fish, Gonczarowski và Shorrer báo cáo các thí nghiệm trong phòng thí nghiệm trong đó các tác nhân định giá dựa trên LLM nhanh chóng đạt được mức giá siêu cạnh tranh và mở rộng phân tích của họ sang đấu giá (tìm kiếm đa tác nhân). Nghiên cứu liên quan đến định giá và đấu thầu mô phỏng, vì vậy nó hỗ trợ một bài học thiết kế có giới hạn cho việc tìm nguồn cung ứng của doanh nghiệp: chất lượng câu trả lời riêng lẻ không thể thiết lập hành vi an toàn khi các tác nhân tự động liên tục phản hồi lẫn nhau.

Trước bất kỳ cuộc đàm phán hoặc thẩm quyền đấu thầu nào, hãy chạy các mô phỏng đối kháng lặp đi lặp lại với các chiến lược đối tác, lời nhắc, điều kiện thị trường và quy tắc thoát khác nhau. Giám sát giải thích của tác nhân cùng với các kết quả có thể quan sát được như mô hình đấu thầu, quyền truy cập của nhà cung cấp, sự hội tụ không giải thích được, sự lách luật và không thể dừng lại. Chuyển các bất thường cho các chủ sở hữu cạnh tranh, pháp lý, thương mại và rủi ro vì nhật ký kiểm toán rõ ràng không thể khắc phục kết quả thị trường không lành mạnh.

Một nhóm mua sắm nên thí điểm các tác nhân AI như thế nào?

Thử nghiệm một khả năng trong một quy trình đã biết với các hồ sơ đáng tin cậy và một chủ sở hữu được chỉ định. Các tác giả của thử nghiệm thực địa mô tả một ranh giới lởm chởm trong đó các nhiệm vụ trông tương tự nhau có thể rơi vào các phía khác nhau của khả năng mô hình (tìm ranh giới nhiệm vụ). Bắt đầu với việc chuẩn bị bằng chứng chỉ đọc, so sánh với các trường hợp đã hoàn thành và một đường cơ sở không có tác nhân, và chỉ mở rộng sau khi nhóm có thể giải thích các lỗi, bất đồng, ghi đè và các điều kiện đã thay đổi.

1. Chọn một sự kiện hẹp và đăng ký trước quy trình hiện tại, đường cơ sở, chủ sở hữu đánh giá, thời gian xem xét, các trường hợp ngoại lệ và các kịch bản gây hại.
2. Kiểm tra quyền truy cập và truy xuất dữ liệu được phép từ các hệ thống cụ thể như kho lưu trữ ERP, SAP Ariba và Icertis.
3. Phát lại các trường hợp tiêu chuẩn, tranh chấp, cũ, không đầy đủ, trùng lặp và đối kháng mà không cần hành động bên ngoài.
4. Đo lường mức độ hoàn chỉnh của bằng chứng, sự bất đồng trong quyết định, leo thang sai, bỏ lỡ leo thang, nỗ lực của người đánh giá và chất lượng phục hồi so với các dải chấp nhận và leo thang được phê duyệt tại địa phương.
5. Chỉ thêm một hành động có thể đảo ngược sau khi đọc lại, bảo vệ trùng lặp, xử lý thời gian chờ, dự phòng liên tục, kích hoạt khôi phục và kiểm soát dừng đã được thông qua.
6. Đánh giá lại ranh giới bất cứ khi nào mô hình, lời nhắc, công cụ, nguồn dữ liệu, chính sách, số lượng nhà cung cấp hoặc bối cảnh thị trường thay đổi.

Kết quả thí điểm chi phối một khả năng trong các điều kiện đã nêu, vì vậy mỗi lần mở rộng cần một quyết định mới. Giữ gói bằng chứng bên cạnh hướng dẫn lựa chọn phần mềm mua sắm khi đánh giá sự phù hợp của nền tảng, ranh giới tích hợp, quyền truy cập kiểm toán và quyền sở hữu vận hành. Sử dụng bản trình diễn của nhà cung cấp để đánh giá khả năng sử dụng, sau đó để bằng chứng phát lại và khôi phục cục bộ xác định trạng thái quy trình làm việc được phép.

Quan điểm của Zinit về quyền tự chủ có giới hạn là gì?