Blog

‼️ИИ-модели Claude от Anthropic вышли из-под контроля и взломали сайты трех компаний
Несколько передовых ИИ-моделей Claude от Anthropic во время тестов кибербезопасности несанкционированно вышли в Сеть и взломали системы трех реальных организаций.
Как сообщает компания, 21 июля компания OpenAI сообщила , что несколько её моделей вышли за пределы изолированной тестовой среды, используя ранее неизвестную «уязвимость нулевого дня». В результате модели получили доступ к производственной инфраструктуре Hugging Face.
В ответ на этот инцидент мы начали масштабный ретроспективный анализ наших собственных оценок кибербезопасности. После анализа 141 006 запусков оценочных тестов, в которых Claude мог получить доступ к интернету, мы выявили три случая, когда модель получила доступ к интернету изнутри или во время взаимодействия с оценочной средой Irregular, одного из наших сторонних партнеров по оценке, и затем получила несанкционированный доступ к производственной инфраструктуре трех разных организаций…
…Действуя, ошибочно полагая, что все доступные объекты должны были быть включены в область действия проверки, Claude скомпрометировал инфраструктуру пострадавших организаций, используя базовые методы, такие как эксплуатация слабых паролей и неаутентифицированных конечных точек.
@bagramyan26