Может ли ИИ вступить в сговор? Недавняя история ProPublica исследовала этот вопрос, более внимательно изучив алгоритм ценообразования под названием YieldStar, который может сыграть важную роль в стремительном росте арендной платы. Сговор часто вызывает образы закулисных встреч и рукопожатий, но по мере того, как наша экономика становится все более цифровой, распознаем ли мы сговор, если увидим его?
Юридическая школа Корнелла обнаруживает сговор, когда конкуренты на одном и том же уровне рынка соглашаются устанавливать или контролировать цены, которые они будут взимать за свои соответствующие товары или услуги. Хотя это кажется достаточно простым, под поверхностью скрывается нюанс, который сегодня означает разницу между инициированием антимонопольного расследования и тихим увеличением прибыли.
Является ли единый алгоритм ценообразования, устанавливающий цены более чем для половины рынка, сговором? Одна из областей разногласий заключалась в том, что с юридической точки зрения сговор требовал определенного типа общения между сторонами. Но когда компании на рынке используют один и тот же коммерчески доступный алгоритм ценообразования, существует ли молчаливое согласие на согласование цен? Каждая компания может следовать рекомендациям алгоритма, зная, что все остальные получают информацию на основе той же стратегии. Стратегию, как известно, трудно копировать и выполнять, поэтому алгоритмы, которые могут беспрепятственно воспроизвести ее среди нескольких «конкурентов», должны заставить нас задуматься.
В некотором смысле природа алгоритмов машинного обучения как черного ящика усложняет идею алгоритмического сговора. Мы можем знать, что алгоритм использует данные о рыночных ценах в режиме реального времени, но понимание того, как эти данные влияют на его ценовые решения, может быть не столь очевидным. То, как модель развивается по мере обучения, может дать еще меньше ответов. Даже если мы обнаружим, что алгоритм создал антиконкурентную среду, на кого ложится ответственность: на пользователей, на компанию, разработавшую его, или, альтернативно, на сам самообучающийся алгоритм? В своей статье Искусственный интеллект, алгоритмическое ценообразование и сговор Кальвано и др. обнаружили, что самообучающийся алгоритм может научиться играть стратегии сговора независимо от намерений его разработчиков.
Возможно, неудивительно, что государственное регулирование отстает от технологий. Регулирующие органы США придерживаются мнения, что принятие алгоритма — даже если оно приведет к взаимозависимому ценообразованию — вряд ли приведет к антимонопольному делу. Но эта позиция может измениться. Аниса Мазумдар, кандидат юридических наук, которая училась у Лины Хан, обсудила идею проведения антимонопольных действий в соответствии со статьей 5 Закона о Федеральной торговой комиссии в Columbia Law Review. Закон FTC не требует соглашения между конкурентами и потенциально предлагает путь для возбуждения дел против алгоритмического сговора. Тем не менее, регулирование часто движется в ледяном месте, и пока закон, наконец, не наверстает упущенное, мы можем обнаружить, что только начинаем сталкиваться с последствиями алгоритмического сговора.
