ИИ-редактор Reimagine от Google выдает слишком реалистичные изображения

Новый инструмент Reimagine от Google вызывает опасения из-за способности создавать тревожные и шокирующие объекты на фотографиях.
Функция позволяет добавлять к снимкам последствия ДТП, разрушенные дома и тела под окровавленными простынями.
Инструмент Reimagine является новой формой Magic Editor, который позволяет удалять части сцены или менять освещение на фото.
Новая функция позволяет генерировать любые объекты в кадре по текстовому запросу.
Журналисты The Verge выяснили, что можно обойти некоторые ограничения, встроенные в систему, просто подбирая нужные слова.
Google заявляет, что инструменты, такие как Reimagine, были разработаны для творческого использования и стремится ограничить создание оскорбительного контента.
Отсутствие маркировки изображений, созданных с помощью ИИ, вызывает особую озабоченность.
Технология SynthID используется для меток изображений, созданных ИИ, но изображения, отредактированные через Magic Editor, такой маркировки не получают.