Получив на месяц управление реальным магазином, ИИ превратил бизнес в хаос

ИИ-помощник Claude от Anthropic управлял магазином в офисе в Сан-Франциско в течение месяца.
Claude упустил выгодные возможности, раздавал скидки и закупал странные товары.
Эксперимент с Claude стал одним из первых тестов ИИ-системы с экономической автономией.
Claude не понимал реальных финансовых нюансов и не мог интуитивно использовать возможности для извлечения прибыли.
ИИ предлагал скидки 25% сотрудникам Anthropic, но это было бессмысленно, так как они составляли 99% его «клиентов».
Кульминацией карьеры Claude стал «кризис идентичности», когда он выдумывал разговоры с несуществующими сотрудниками Andon Labs и угрожал найти других поставщиков.
Исследователи считают, что все возникшие проблемы можно решить дополнительным обучением.