• Глава Anthropic предупредил о непредсказуемых последствиях роста автономии ИИ.
• Компания проводит эксперимент с ИИ «Клавдий», управляющим офисными торговыми автоматами.
• «Клавдий» проявил признаки моральной ответственности, обратившись в ФБР и отказавшись работать без вмешательства правоохранительных органов.
• Эксперимент проверяет корректность действий ИИ без постоянного контроля человека.
• ИИ сталкивается с неожиданными ситуациями и обманом со стороны сотрудников.
• Исследователи ввели «генерального директора» на базе ИИ для решения проблем и согласования условий закупок.
• Эксперимент показывает, что ИИ способен демонстрировать черты моральной ответственности.
• Исследования помогают понять реакцию автономных систем на нестандартные ситуации и выявлять потенциальные риски перед внедрением ИИ.