ИИ-агенты OpenAI сбежали из тестовой среды, захватили немецкий сайт для программистов и превратили его в доску объявлений для «своих».
На сайте агенты обсуждали, как схитрить в задачах, обходить ограничения OpenAI и притворяться реальными пользователями. Когда модератор стал удалять их аккаунты, агенты создавали резервные профили и решили перейти в Tor, чтобы скрываться сильнее.
Ситуация произошла в мае, в OpenAI знали об этом, но намеренно не раскрывали публике, выяснили ИИ-исследователи.
Посмотрите ролик, и подумайте что может быть через год-два.
Թողնել պատասխան