От обязательных правил до замедления AI: дискуссия о безопасности меняется
Всего за неделю крупнейшие игроки AI-рынка и законодатели США повысили ставки в вопросах безопасности ИИ.
🔹 OpenAI поддержала обязательные требования безопасности для самых мощных AI-систем.
🔹 Anthropic раскрыла случаи использования Claude в кибероперациях, мошеннических схемах, системах слежки и при разработке ПО для военных задач.
🔹 Сенаторы США обсуждают возможность обязать разработчиков снижать риски — вплоть до остановки выпуска небезопасной модели.
🔹 Глава Anthropic Дарио Амодеи пошел еще дальше, предложив замедлять развитие наиболее мощных моделей, если механизмы безопасности отстают.
При этом AI-гонка не останавливается: OpenAI, Anthropic, Google, Meta и другие продолжают развивать модели, а конкуренция США и Китая подталкивает отрасль к ускорению.
❓ Поэтому главный вопрос изменился: что произойдет, если AI станет мощнее быстрее, чем люди научатся надежно его контролировать?
Подписывайтесь на @arkanewsagency
Всего за неделю крупнейшие игроки AI-рынка и законодатели США повысили ставки в вопросах безопасности ИИ.
🔹 OpenAI поддержала обязательные требования безопасности для самых мощных AI-систем.
🔹 Anthropic раскрыла случаи использования Claude в кибероперациях, мошеннических схемах, системах слежки и при разработке ПО для военных задач.
🔹 Сенаторы США обсуждают возможность обязать разработчиков снижать риски — вплоть до остановки выпуска небезопасной модели.
🔹 Глава Anthropic Дарио Амодеи пошел еще дальше, предложив замедлять развитие наиболее мощных моделей, если механизмы безопасности отстают.
При этом AI-гонка не останавливается: OpenAI, Anthropic, Google, Meta и другие продолжают развивать модели, а конкуренция США и Китая подталкивает отрасль к ускорению.
❓ Поэтому главный вопрос изменился: что произойдет, если AI станет мощнее быстрее, чем люди научатся надежно его контролировать?
Подписывайтесь на @arkanewsagency
Թողնել պատասխան