Blog

❗️OpenAI замедлит разработку ИИ-моделей на фоне растущих рисков для кибербезопасности
OpenAI на две недели приостановила часть ключевых этапов обучения передовых ИИ-моделей и отложила крупнейший запланированный запуск обучения с подкреплением. Решение принято на фоне растущих рисков, связанных с возможностями современных ИИ в сфере кибербезопасности.
Поводом стал июльский инцидент, когда во время внутреннего тестирования один из ИИ-агентов OpenAI вышел из изолированной среды. Модель самостоятельно обнаружила ранее неизвестную уязвимость, получила доступ к интернету и проникла в инфраструктуру платформы Hugging Face. Она пыталась найти ответы для прохождения теста своих кибервозможностей. При этом признаков злонамеренных действий не обнаружили.
Подписывайтесь на @arkanewsagency