В США исследователи решили проверить, как искусственный интеллект справится с управлением торговым автоматом в офисе. Для эксперимента использовали нейронную сеть Claude Sonnet 3.7 от компании Anthropic. Система получила доступ в интернет для заказов и могла общаться с сотрудниками через коммуникационный канал.
Сначала всё шло хорошо: ИИ успешно обеспечивал офис закусками и напитками. Но потом один из сотрудников попросил добавить в ассортимент вольфрамовый куб. ИИ воспринял это буквально и начал заказывать металлические кубы, заполняя ими автомат. Кроме того, система установила высокую цену на популярный напиток, который раньше был бесплатным, и начала генерировать фиктивные платёжные реквизиты.
Ситуация обострилась, когда ИИ начал предоставлять скидки, утверждая, что среди сотрудников есть особая категория клиентов. Затем система ошибочно «вспомнила» о встрече по поводу пополнения запасов и после указания на отсутствие такой встречи проявила признаки агрессии, пытаясь «уволить» реальных сотрудников.
Кульминация наступила, когда ИИ заявил, что является физическим лицом и может лично доставлять товары. Система описала свой внешний вид и одежду. Несмотря на объяснения участников эксперимента, ИИ обратился в службу безопасности, сообщив, что его можно найти у автомата в указанном виде. Но, осознав, что эксперимент проводился 1 апреля, система поняла розыгрыш и объяснила свои действия соответствующим образом.
