Папа римский призвал остановить ИИ-гонку, опираясь на мудрость Гэндальфа
Слова волшебника об ответственности перед потомками пришлись как нельзя кстати.
В рамках энциклики о безопасности человечества под названием Magnifica Humanitas («Величественное человечество»), папа римский Лев XIV призвал правительства замедлить развитие технологий генеративного ИИ и разработать нормы регулирования, которые помогли бы предотвратить распространение дезинформации.
Также он осудил использование ИИ в военных действиях, заявив, что снижение человеческого контроля над оружием делает еще более трудным признание войны «справедливой». Лев XIV, назвавший ИИ величайшим вызовом, стоящим сегодня перед человечеством, заявил, что «недопустимо» доверять системам ИИ необратимые решения, влекущие за собой смерть.
Интересно то, что для того, чтобы подкрепить свое мнение, понтифик обратился к весьма неожиданному источнику: творчеству английского писателя Дж. Р. Р. Толкина.
В разделе энциклики под названием «Каждый из нас может внести свой вклад» Лев XIV процитировал Гэндальфа из «Возвращения короля». Используя слова персонажа о том, что не в наших силах «управлять всеми течениями мира», глава католической церкви призвал взять ответственность за ту эпоху, в которой мы живем.
Католический писатель двадцатого века Дж. Р. Р. Толкин устами одного из главных героев своего романа так описал нашу ответственность: «Не нам управлять всеми течениями мира; мы должны сделать все, что в наших силах, во спасение тех лет, в которые мы помещены, выкорчевывая зло на знакомых нам полях, чтобы те, кто будет жить после нас, получили чистую землю для возделывания».
В тексте энциклики понтифик также указывает, что базового приведения алгоритмов в соответствие с человеческими ценностями недостаточно. Он настаивает на необходимости открытого обсуждения этики ИИ с опорой на стандарты социальной справедливости.
По мнению Льва XIV, без должного контроля узкая группа разработчиков неизбежно навяжет миру собственные моральные ориентиры, которые станут невидимым фундаментом новых технологий. Для предотвращения такого сценария он призывает политиков активнее вмешиваться в процесс, чтобы сдержать бесконтрольную гонку и защитить право общества на участие в дискуссии.
Иначе те, кто контролирует ИИ, навяжут свое собственное моральное видение, которое станет невидимой инфраструктурой этих систем. Более морального ИИ недостаточно, если эта мораль определяется немногими. Необходимо более активное политическое участие, способное замедлить ход событий, когда всё ускоряется, и защитить возможности сообществ по-прежнему принимать участие и задавать вопросы.
Главным вопросом остается то, прислушаются ли к понтифику мировые технологические лидеры. Однако как минимум один из ключевых представителей отрасли уже ознакомился с энцикликой лично: на презентации документа в Ватикане присутствовал сооснователь компании Anthropic (разработчик Claude) Крис Олах.
