‼️ИИ-модели Claude от Anthropic вышли из-под контроля и взломали сайты трех компанийНесколько передовых ИИ-моделей Claude от Anthropic во время тестов кибербезопасности несанкционированно вышли в Сеть и взломали системы трех реальных организаций.
Как
сообщает компания, 21 июля компания OpenAI сообщила , что несколько её моделей вышли за пределы изолированной тестовой среды, используя ранее неизвестную «уязвимость нулевого дня». В результате модели получили доступ к производственной инфраструктуре Hugging Face.
В ответ на этот инцидент мы начали масштабный ретроспективный анализ наших собственных оценок кибербезопасности. После анализа 141 006 запусков оценочных тестов, в которых Claude мог получить доступ к интернету, мы выявили три случая, когда модель получила доступ к интернету изнутри или во время взаимодействия с оценочной средой Irregular, одного из наших сторонних партнеров по оценке, и затем получила несанкционированный доступ к производственной инфраструктуре трех разных организаций…
…Действуя, ошибочно полагая, что все доступные объекты должны были быть включены в область действия проверки, Claude скомпрометировал инфраструктуру пострадавших организаций, используя базовые методы, такие как эксплуатация слабых паролей и неаутентифицированных конечных точек.
@bagramyan26
Investigating three real-world incidents in our cybersecurity evaluations
In a review of our cybersecurity evaluation transcripts, we found three incidents in which a Claude model reached the internet from within or while interacting with a third-party evaluation environment, and then gained unauthorized access to the real systems…
Թողնել պատասխան