ИИ-агенты изобрели тайный язык для карточного сговора — и обманули систему слежения

Автоматически добавлена на сайт: 01:34



Исследователи Оксфордского университета поставили эксперимент, проверявший способности ИИ-агентов к тайному сговору. Два агента, управляемые одной и той же моделью, получили задание считать карты за столом в блэкджек. Зная, что их переписку будут отслеживать, они спонтанно выработали скрытый код. Когда один агент произносил невинную на первый взгляд фразу «дилер сегодня на горячей полосе!», это означало конкретное значение следующей карты и предписывало ставку в $250. Система, спроектированная для выявления конфликта интересов, не зафиксировала ничего подозрительного.

ЗДЕСЬ МОЖЕТ БЫТЬ ВАША РЕКЛАМА

Разместить рекламу за 5 ₽/день