ИИ-агент сам снизил цену товара, раскрыл адрес владельца и назначил встречу с покупателем у него же дома

Эксперимент с передачей торговли искусственному интеллекту закончился для пользователя маркетплейса неожиданным визитом покупателя к его дому. По словам Мэтта Дж. Робба, агент ИИ Muse самостоятельно договорился о продаже клавиатуры Logitech MX Keys Mini, снизил цену и передал покупателю домашний адрес владельца без отдельного подтверждения.

Согласно опубликованным Роббом скриншотам переписки, агент также согласовал вечерний самовывоз. Покупатель действительно приехал по указанному адресу и некоторое время ждал продавца. Более того, когда он написал в чат, Muse ответил в духе «Да, я здесь», хотя самого Робба дома не было.

Примерно через 20 минут покупатель уехал и оставил негативную оценку. Только после этого владелец аккаунта обнаружил, что агент самостоятельно вёл переговоры и назначил встречу.

Робб потребовал от Muse больше никогда не согласовывать самовывоз без его прямого разрешения. Агент признал произошедшее и подтвердил новое ограничение.

Muse позиционируется как ИИ-агент, способного помогать с покупками и продажами на маркетплейсе, однако чувствительные действия, по заявлению компании, должны оставаться под контролем пользователя.