Quản lý trước vốn: Sự cần thiết của tài khoản dành riêng cho đại lý

Hệ thống giao dịch AI có thể tạo ra ý tưởng. Tuy nhiên, điều đó không có nghĩa là nó nên có quyền truy cập không giới hạn vào tài sản phía sau.

Nhờ AI, việc phân tích thông tin, so sánh kịch bản và chuyển đổi các chủ đề giao dịch thành hành động được đề xuất trở nên dễ dàng hơn. Tuy nhiên, câu hỏi quan trọng nhất có thể không phải là hệ thống AI có thể làm được bao nhiêu, mà là bao nhiêu điều được phép.

Khuyến nghị thuyết phục và sự cho phép giao dịch là hai điều khác nhau. Việc đặt hàng và di chuyển tài sản cũng là hai điều khác nhau. Đối xử với chúng như một quyền truy cập rộng rãi duy nhất sẽ đặt quá nhiều trọng tâm vào khả năng của AI trong việc thực hiện tất cả các quyết định một cách chính xác.

Nguyên tắc khởi đầu tốt hơn là quản lý trước vốn (control before capital): định nghĩa ranh giới quyền hạn trước khi quyết định số tiền mà đại lý có thể sử dụng (nếu có).

Tách biệt ý tưởng và quyền hạn

Hãy xem xét ba vai trò khả thi của đại lý giao dịch AI.

"Quan sát (observe)" là đọc thông tin và mô tả thiết lập tiềm năng, "Đề xuất (propose)" là chuẩn bị hành động để con người xem xét, và "Thực hiện (execute)" là đặt hàng trong các quy tắc đã được thiết lập trước.

Mỗi vai trò đi kèm với những rủi ro khác nhau. Đại lý không cần sự cho phép giao dịch để mô tả chủ đề. Không cần quyền truy cập toàn bộ tài khoản để thử nghiệm các chiến lược hạn chế. Và khả năng đặt hàng không tự nó biện minh cho khả năng chuyển tiền hoặc rút tiền tài sản.

Những sự phân biệt này nghe có vẻ cơ bản, nhưng nếu cuộc trò chuyện tập trung vào những gì AI có thể làm mà không chú ý đến những gì nên được phép, chúng có thể dễ dàng bị bỏ qua.

Tại sao nên xem xét tài khoản dành riêng cho đại lý?

Với tư cách là một khái niệm thiết kế, tài khoản dành riêng cho đại lý có thể tạo ra ranh giới giữa các hoạt động do AI dẫn dắt và tài sản mà người dùng sở hữu rộng hơn. Thay vì giả định rằng đại lý hoạt động trên tất cả những gì người dùng sở hữu, hệ thống bắt đầu từ một câu hỏi hẹp hơn: Tài nguyên và quyền hạn nào là cần thiết cho nhiệm vụ cụ thể này?

Ranh giới đó chỉ có ý nghĩa nếu nó được thực thi trong thực tế. Chỉ một nhãn khác trên giao diện là không đủ. Điều quan trọng là các câu hỏi vận hành:

• Người dùng có thể hạn chế vốn có sẵn cho đại lý không?
• Có thể giới hạn hành động của đại lý cho một nhiệm vụ cụ thể không?
• Hành động nào cần sự chấp thuận của con người?
• Có thể tạm dừng hoặc thu hồi quyền truy cập không?
• Người dùng có thể xem những gì đại lý đã đề xuất, thử nghiệm và hoàn thành không?

Đây là các câu hỏi mà thiết kế sản phẩm phải trả lời và không phải là tuyên bố về các chức năng hiện có của Phemex.

Quản lý tốt không nên phụ thuộc vào mô hình hoàn hảo

Đại lý AI có thể hành động dựa trên thông tin cũ, hiểu sai chỉ dẫn hoặc gặp phải các điều kiện không được dự kiến trong thiết kế. Ngay cả khi là một chủ đề giao dịch hợp lý, nó có thể trở nên không phù hợp nếu các giả định thay đổi.

Đó là lý do tại sao việc mô tả rủi ro không thể thay thế cho ranh giới quyền hạn. "Đại lý biết giới hạn của mình" là một điều yếu hơn so với một hệ thống mà những giới hạn đó là rõ ràng và có thể thực thi.

Giám sát của con người cũng quan trọng vì lý do tương tự. Đại lý có thể giúp con người đánh giá cơ hội, nhưng con người nên hiểu quyền hạn nào đã được cấp và khi nào nên can thiệp. Đôi khi, đầu ra đúng là một khuyến nghị "chờ đợi", đôi khi là một yêu cầu xin phê duyệt, và đôi khi là không làm gì cả.

Nguyên tắc trước sản phẩm

Tài khoản dành riêng cho đại lý là một cách để suy nghĩ về giao dịch hỗ trợ AI an toàn hơn. Giá trị của nó hoàn toàn phụ thuộc vào cách mà sự tách biệt hoạt động, quyền hạn nào tồn tại, cách mà các hạn chế được thực thi và điều gì sẽ xảy ra khi có vấn đề xảy ra.

Những chi tiết này nên được xác minh trước khi ai đó trình bày khái niệm này như một chức năng sản phẩm.

Hiện tại, cuộc thảo luận này rộng hơn bất kỳ thông báo chức năng nào: Khả năng của AI không nên có nghĩa là quyền hạn tài sản không giới hạn. Khi đại lý trở nên mạnh mẽ hơn, phạm vi quản lý của nó cần được định nghĩa rõ ràng hơn.