Торговые ИИ-боты показывают признаки сговора из-за «искусственной глупости» — исследование

Предполагается, что основная проблема — это переобучение.

Алгоритмические торговые системы на базе искусственного интеллекта могут непреднамеренно демонстрировать поведение, похожее на картельный сговор. К такому выводу пришли исследователи из Уортонской школы бизнеса и Гонконгского университета науки и технологий.

Ученые провели серию симуляций, в которых торговые алгоритмы на базе ИИ принимали решения о покупке и продаже активов. Хотя агенты не общались друг с другом, в ряде случаев они синхронно приходили к стратегиям, приводящим к стабильному завышению цен.

Это, по мнению авторов, создает эффект, схожий с координированным сговором. Ученые выделили два механизма такого поведения:

• Алгоритмы учатся избегать понижения цен, не предпринимая действий, которые могли бы привести к снижению котировок.
• Из-за переобучения ИИ зарабатывает «искусственную глупость» и становится слишком консервативным, отказываясь от потенциально выгодных, но рискованных действий.

По мнению ученых, результаты моделирования указывают на потенциальные риски для рыночной конкуренции и прозрачности в условиях широкого распространения торговых ботов на базе ИИ.

Одна из ключевых проблем, на которую указывают авторы: сложность регулирования подобных систем. Попытки ограничить агрессивные стратегии ИИ могут непреднамеренно привести к доминированию чрезмерно осторожных подходов, что также влияет на рынок.