(продолжение поста)
Энциклики ясно и недвусмысленно высказывает глубокую обеспокоенность тем, что разработка и владение прорывной технологией находится в руках горстки лиц и корпораций, которым не следует давать такое влияние. ИИ усиливает власть тех, кто уже обладает экономическими ресурсами, опытом и доступом к данным. В свете общего блага это вызывает серьезные опасения, поскольку небольшие, но весьма влиятельные группы могут формировать информационные и потребительские модели, влиять на общественные и экономические процессы в свою пользу, подрывая социальную справедливость и солидарность между народами. Поэтому важно, чтобы использование ИИ, особенно когда оно затрагивает общественные блага и основные права, регулировалось четкими критериями и эффективным надзором.
Папа отмечает неадекватность существующей системы регулирования ИИ, ориентированной на государство. В документе выражается обеспокоенность по поводу потенциального влияния ИИ практически на всех и вся, включая образование, окружающую среду, семьи, отношения, работу и общественный дискурс. Причем влияние, которое приводит к росту неравенства.
Magnifica Humanitas также много говорит об ИИ и войне. «Цифровая революция меняет природу конфликта. Наряду с традиционными методами ведения войны существуют гибридные формы, такие как кибератаки, манипулирование информацией, кампании влияния и автоматизация стратегических решений. Искусственный интеллект выступает в качестве ускоряющего фактора в этих процессах, особенно в контексте, где многие технологии по своей природе неоднозначны». Энциклика выступает против автономных летальных систем ИИ.
В тексте довольно много говорится о «разоружении ИИ» (disarming AI), но довольно сложно сказать, какая интерпретация данного термина предлагается. Делается акцент на многосторонней дипломатии, но убеждения Папы Римского, что ООН может играть конструктивную роль, вызывает сомнения. США и Китай явно не будут прислушиваться к ООН. Энциклика скорее найдет поддержку в Европе и Глобальном Юге, нежели в этих центрах силы. Налицо явный раскол Запада, когда Европа и США имеют различные взгляды на развитии ИИ.
Наверное главный вывод документа: «Необходимо более активное политическое участие, способное замедлить процессы, когда все ускоряется, и защитить возможности для сообществ, которые все еще могут участвовать и задавать вопросы». Папа предупреждает, что ИИ рискует сделать цивилизацию «менее человечной» и призывает лидеров «использовать этические и духовные принципы, чтобы сделать выбор в пользу работы не ради собственной выгоды или власти, а во благо человечества».
У меня большие сомнения в реализации такого подхода. Энциклика уже вызвала большие дискуссии, и нам надо формировать нашу точку зрения и оценки, несмотря на все то, что происходит в Армении. Здесь много проблем, вызовов и угроз, на которые необходимо формировать отклики. Налицо оформленный раскол и несколько лагерей:
Европа, Католическая церковь, Глобальный юг;
США и глобальные негосударственные центры силы;
Китай.
В каком из лагерей находится Армения и Армянская цивилизация? Какова точка зрения Армянской Апостольской церкви? Это большие и даже огромные возможности и вызовы, отклик на которые нам надо формировать, если намерены продолжать путь в 21 веке. Нужно создавать площадки для таких дискуссий – без армянского государства и власти. Точнее преодолевая сопротивление постсоветской Армении и властной элиты.
#ArtificialIntelligence #EthicsOfAI #MagnificaHumanitas #Civilization #TechnologyAndSociety #Humanity #HrachyaArzumanian #ArmenianIntellectual #FutureChallenges #DigitalEthics