Zarządzanie przed kapitałem: potrzeba konta dedykowanego dla agentów

Systemy handlu AI mogą generować pomysły. Jednak nie oznacza to, że powinny mieć nieograniczony dostęp do aktywów, które stoją za nimi.

Dzięki AI analiza informacji, porównywanie scenariuszy i przekształcanie zaproponowanych działań w tematy handlowe stały się łatwiejsze. Jednak najważniejsze pytanie może dotyczyć nie tego, co system AI może zrobić, ale tego, co jest dozwolone.

Przekonywujące rekomendacje i zezwolenia na transakcje to dwie różne rzeczy. Składanie zamówień i przenoszenie aktywów to również różne kwestie. Traktowanie tych dwóch jako jednego szerokiego przyznania dostępu stawia zbyt duży nacisk na zdolność AI do podejmowania wszystkich decyzji poprawnie.

Lepszym punktem wyjścia jest zasada zarządzania przed kapitałem (control before capital): definiuje granice uprawnień przed określeniem dostępnych funduszy dla agenta (jeśli w ogóle).

Oddzielanie pomysłów od uprawnień

Rozważ trzy możliwe role agenta handlowego AI.

"Obserwacja (observe)" polega na zbieraniu informacji i opisywaniu potencjalnych ustawień, "Propozycja (propose)" przygotowuje działania do przeglądu przez człowieka, a "Wykonanie (execute)" składa zamówienia w ramach wcześniej ustalonych zasad.

Każda rola wiąże się z różnym ryzykiem. Agent nie potrzebuje zezwolenia na transakcje, aby opisać temat. Nie jest również konieczny dostęp do całego konta, aby przetestować ograniczoną strategię. A sama zdolność do składania zamówień nie uzasadnia zdolności do przenoszenia aktywów czy wypłat.

Te rozróżnienia mogą wydawać się podstawowe, ale mogą być łatwo przeoczone, jeśli rozmowa koncentruje się na tym, co AI może zrobić, a nie na tym, co powinno być dozwolone.

Dlaczego warto rozważyć konto dedykowane dla agentów?

Jako koncepcja projektowa, konto dedykowane dla agentów może stworzyć granice między działaniami prowadzonymi przez AI a szerszymi aktywami posiadanymi przez użytkownika. Zamiast zakładać, że agent działa w imieniu użytkownika we wszystkim, system zaczyna od węższego pytania: jakie zasoby i uprawnienia są potrzebne do tego konkretnego zadania?

Te granice mają sens tylko wtedy, gdy są egzekwowane w praktyce. Samo oznaczenie na interfejsie nie wystarczy. Kluczowe są pytania operacyjne:

• Czy użytkownik może ograniczyć dostępny kapitał dla agenta?
• Czy można ograniczyć działania agenta do konkretnych zadań?
• Które działania wymagają zatwierdzenia przez człowieka?
• Czy można wstrzymać lub cofnąć dostęp?
• Czy użytkownik może zobaczyć, co agent zaproponował, próbował i zakończył?

To są pytania, na które musi odpowiedzieć projekt produktu, a nie roszczenia dotyczące istniejących funkcji Phemex.

Doskonałe zarządzanie nie powinno polegać na doskonałym modelu

Agenci AI mogą działać na podstawie przestarzałych informacji, źle interpretować instrukcje lub napotykać warunki, które nie były uwzględnione podczas projektowania. Nawet zdrowy temat handlowy może stać się niewłaściwy, gdy założenia się zmieniają.

Dlatego wyjaśnienie ryzyka nie może zastąpić granic uprawnień. "Agent zna swoje ograniczenia" jest słabsze niż system, w którym te ograniczenia są wyraźne i egzekwowalne.

Ludzki nadzór jest również ważny z tego samego powodu. Agent może pomóc człowiekowi ocenić możliwości, ale człowiek powinien rozumieć, jakie uprawnienia zostały przyznane i kiedy powinien interweniować. Czasami poprawnym wynikiem jest rekomendacja "czekaj", czasami prośba o zatwierdzenie, a czasami nic nie robienie.

Zasady powinny być przed produktami

Konto dedykowane dla agentów to jeden ze sposobów na myślenie o bezpieczniejszym handlu wspomaganym przez AI. Jego wartość całkowicie zależy od szczegółów, jak separacja działa, jakie uprawnienia istnieją, jak ograniczenia są egzekwowane i co się dzieje, gdy pojawiają się problemy.

Te szczegóły powinny być weryfikowane, zanim ktoś przedstawi tę koncepcję jako funkcję produktu.

Na tym etapie ta dyskusja jest szersza niż jakiekolwiek ogłoszenie funkcji: zdolności AI nie powinny oznaczać nieograniczonego dostępu do aktywów. Im silniejszy agent, tym bardziej jego zakres zarządzania musi być wyraźnie zdefiniowany.