(продолжение поста)
В сложных системах коллапс редко происходит в результате одного потрясения. Чаще напряжение нарастает внутри системы, и затем прорывается, обрушивая институты, которые оказываются хрупкими. Чего, кстати, совершенно не понимает НВ и актуальные власти Армении.
Утверждение Хегсета о том, что ИИ Пентагона должен работать «без идеологических ограничений, которые ограничивают законное военное применение», отражает убеждение, что эффективность ведения войны требует максимальной свободы действий. Но демократические военные институты всегда действовали в условиях этических и идеологических ограничений. Конституция — это этические и идеологическое ограничения. Гражданский контроль — это ограничение. Международный закон вооруженных конфликтов — это ограничение. И ограничения — это не слабость, это элемент архитектуры общественной жизни и государственного управления. Это принципиальный момент, который надо осознать.
Если системы ИИ спроектированы без правовых или этических ограничений, можно получить краткосрочное тактическое преимуществу — и долгосрочную стратегическую уязвимость. Твои граждане должны верить, что инструменты слежки не будут использоваться тотально и без ограничений. Компании должны верить, что сотрудничество не подразумевает принудительных этических уступок. Как только доверие общество к государству подорвано, сотрудничество превращается в «сделку» Трампа. Подрываются идейные и институциональные основы демократического общества и строя.
Ирония заключается в том, что СЩА пытаются превзойти авторитарных соперников в области ИИ, рискуя при этом подорвать институциональные черты, которые отличают их от соперников. Государственная экосистема ИИ в Китае интегрирует системы слежки и военные приложения без этических конфликтов в обществе. США переходят на территорию Китая и проиграют, конечно же, не имеют шансов переиграть авторитарные системы на их территории. США начинают подражать Китаю, стратегическая конкуренция превращается в подражание, причем в жертву приносится легитимность, которая обеспечивает долгосрочную резилентность общества.
Пентагон не должен отказаться от интеграции ИИ, но интеграция должна быть институционально ограниченной. Надзор со стороны Конгресса должен расширяться, а не сужаться. Законодательные ограничения на автономное применение летального оружия должны открыто обсуждаться с достижением общественного консенсуса. Это не излишества, но инвестиции в резилентность общества.
Государства редко рушатся из-за отсутствия оружия. Они терпят неудачу, когда инструменты власти превосходят институциональную архитектуру, легитимирующую их использование.
Искусственный интеллект скажется на характере военной мощи XXI века. Вопрос в том, будет ли это происходить в рамках архитектуры общественной жизни, конституции. Останется ли эта власть совместимой с конституционной демократией.
Если ИИ станет ещё одной областью, управляемой исполнительными указами, изолированной от этических конфликтов и управляемой посредством принудительного давления, то краткосрочные выгоды от расширения возможностей будут нивелированы долгосрочным снижением доверия граждан к государству и власти.
Наверное столько. Влияние данного конфликта на проблему чрезвычайного положения отложим на будущее. Это отдельная и критически важная тема. Читателю будет сложно и мне надо вставать из-за компа.
В сложных системах коллапс редко происходит в результате одного потрясения. Чаще напряжение нарастает внутри системы, и затем прорывается, обрушивая институты, которые оказываются хрупкими. Чего, кстати, совершенно не понимает НВ и актуальные власти Армении.
Утверждение Хегсета о том, что ИИ Пентагона должен работать «без идеологических ограничений, которые ограничивают законное военное применение», отражает убеждение, что эффективность ведения войны требует максимальной свободы действий. Но демократические военные институты всегда действовали в условиях этических и идеологических ограничений. Конституция — это этические и идеологическое ограничения. Гражданский контроль — это ограничение. Международный закон вооруженных конфликтов — это ограничение. И ограничения — это не слабость, это элемент архитектуры общественной жизни и государственного управления. Это принципиальный момент, который надо осознать.
Если системы ИИ спроектированы без правовых или этических ограничений, можно получить краткосрочное тактическое преимуществу — и долгосрочную стратегическую уязвимость. Твои граждане должны верить, что инструменты слежки не будут использоваться тотально и без ограничений. Компании должны верить, что сотрудничество не подразумевает принудительных этических уступок. Как только доверие общество к государству подорвано, сотрудничество превращается в «сделку» Трампа. Подрываются идейные и институциональные основы демократического общества и строя.
Ирония заключается в том, что СЩА пытаются превзойти авторитарных соперников в области ИИ, рискуя при этом подорвать институциональные черты, которые отличают их от соперников. Государственная экосистема ИИ в Китае интегрирует системы слежки и военные приложения без этических конфликтов в обществе. США переходят на территорию Китая и проиграют, конечно же, не имеют шансов переиграть авторитарные системы на их территории. США начинают подражать Китаю, стратегическая конкуренция превращается в подражание, причем в жертву приносится легитимность, которая обеспечивает долгосрочную резилентность общества.
Пентагон не должен отказаться от интеграции ИИ, но интеграция должна быть институционально ограниченной. Надзор со стороны Конгресса должен расширяться, а не сужаться. Законодательные ограничения на автономное применение летального оружия должны открыто обсуждаться с достижением общественного консенсуса. Это не излишества, но инвестиции в резилентность общества.
Государства редко рушатся из-за отсутствия оружия. Они терпят неудачу, когда инструменты власти превосходят институциональную архитектуру, легитимирующую их использование.
Искусственный интеллект скажется на характере военной мощи XXI века. Вопрос в том, будет ли это происходить в рамках архитектуры общественной жизни, конституции. Останется ли эта власть совместимой с конституционной демократией.
Если ИИ станет ещё одной областью, управляемой исполнительными указами, изолированной от этических конфликтов и управляемой посредством принудительного давления, то краткосрочные выгоды от расширения возможностей будут нивелированы долгосрочным снижением доверия граждан к государству и власти.
Наверное столько. Влияние данного конфликта на проблему чрезвычайного положения отложим на будущее. Это отдельная и критически важная тема. Читателю будет сложно и мне надо вставать из-за компа.
Թողնել պատասխան