Компания Anthropic провела испытание торговой платформы, на которой искусственный интеллект выступал в роли как покупателей, так и продавцов. В рамках проекта, получившего название Project Deal, нейросети самостоятельно заключали реальные сделки по купле-продаже товаров.
Детали эксперимента
В тестировании приняли участие 69 сотрудников компании. Каждому из них был выделен бюджет в размере 93 долларов, предоставленный в виде подарочных карт, для совершения покупок у коллег. Результаты показали высокую эффективность системы: за время пилотного проекта было успешно завершено 186 сделок на общую сумму более 3700 долларов.
Результаты исследования моделей
Всего было запущено четыре независимых торговых площадки, на которых использовались различные языковые модели. Исследователи Anthropic выделили несколько ключевых наблюдений:
- При использовании более совершенных моделей пользователи получали объективно лучшие условия сделок.
- Участники процесса не всегда замечали разницу в качестве работы алгоритмов, что создает риск неравенства, при котором сторона сделки может не осознавать, что ее интересы защищены менее эффективно.
- Базовые инструкции, предоставленные агентам перед началом торгов, практически не влияли на вероятность совершения покупки или итоговую стоимость товаров.
В компании отмечают, что проект продемонстрировал высокий потенциал автономных торговых систем, однако подчеркивают необходимость дальнейшего изучения аспектов безопасности и прозрачности взаимодействия между алгоритмами.
