Управління перед капіталом: необхідність спеціальних облікових записів для агентів

Системи торгівлі на основі штучного інтелекту можуть генерувати ідеї. Однак це не означає, що вони повинні мати необмежений доступ до активів, які стоять за цими ідеями.

Завдяки штучному інтелекту стало легше аналізувати інформацію, порівнювати сценарії та перетворювати запропоновані дії на торгові теми. Однак найважливіше питання може полягати не в тому, що може зробити система ШІ, а в тому, що їй дозволено робити.

Переконливі рекомендації та дозволи на торгівлю — це різні речі. Видача замовлень і переміщення активів також є різними речами. Розглядати їх як єдине широке надання доступу — це надмірно покладатися на здатність ШІ правильно приймати всі рішення.

Кращою відправною точкою є принцип управління перед капіталом (control before capital): визначити межі повноважень перед тим, як вирішити, які кошти (якщо такі є) можуть бути використані агентом.

Розділення ідей та повноважень

Розгляньте три можливі ролі агента торгівлі на основі ШІ.

«Спостереження (observe)», яке читає інформацію та описує потенційні налаштування, «Пропозиція (propose)», яка готує дії для перегляду людиною, та «Виконання (execute)», яке видає замовлення в межах заздалегідь встановлених правил.

Кожна роль має різні ризики. Агенти не потребують дозволу на торгівлю, щоб описати теми. Для тестування обмежених стратегій не потрібен доступ до всього облікового запису. І сама здатність видавати замовлення не виправдовує можливість здійснювати перекази активів або зняття коштів.

Ці відмінності можуть звучати базово, але якщо розмова зосереджена на тому, що може зробити ШІ, а не на тому, що має бути дозволено, їх легко втратити з виду.

Чому варто розглянути спеціальні облікові записи для агентів?

Як концепція дизайну, спеціальні облікові записи для агентів можуть створити межі між діяльністю, що керується ШІ, та більш широкими активами користувача. Замість того, щоб припускати, що агент діє щодо всього, що належить користувачу, система починає з більш вузького запитання: які ресурси та повноваження потрібні для цього конкретного завдання?

Ці межі мають сенс лише тоді, коли вони забезпечуються на практиці. Інша етикетка на інтерфейсі недостатня. Важливе питання операцій:

• Чи може користувач обмежити капітал, доступний агенту?
• Чи можна обмежити дії агента певним завданням?
• Які дії вимагають людського схвалення?
• Чи можна призупинити або скасувати доступ?
• Чи може користувач бачити, що агент пропонує, намагається та завершує?

Це питання, на які має відповісти дизайн продукту, а не заяви про існуючі функції Phemex.

Відмінне управління не повинно залежати від досконалої моделі

Агенти ШІ можуть діяти на основі застарілої інформації, неправильно інтерпретувати інструкції або стикатися з умовами, які не були враховані під час проектування. Навіть здорові торгові теми можуть стати недоречними, якщо передумови змінюються.

Ось чому опис ризиків не може замінити межі повноважень. «Агент знає свої межі» — це слабше, ніж явна та примусова система.

Людський нагляд також важливий з тієї ж причини. Агент може допомогти людині оцінити можливості, але людина повинна розуміти, які повноваження надані і коли слід втрутитися. Іноді правильний вихід — це рекомендація «почекати», іноді — запит на схвалення, а іноді — нічого не робити.

Принципи важливіші за продукти

Спеціальні облікові записи для агентів — це один із способів розглянути більш безпечну торгівлю з підтримкою ШІ. Їхня цінність повністю залежить від деталей, таких як те, як працює розділення, які повноваження існують, як обмеження забезпечуються та що відбувається, якщо виникають проблеми.

Ці деталі повинні бути перевірені перед тим, як хтось представить цю концепцію як функцію продукту.

На даний момент ця дискусія ширша за будь-яке оголошення функцій: можливості ШІ не повинні означати необмежені повноваження на активи. Чим сильнішим стає агент, тим чіткіше повинні бути визначені межі його управління.