Надо избежать нового варварства: Папа Римский высказался по поводу ИИ и дипфейков

Искусственный интеллект и другие прорывные технологии, считает понтифик, следует использовать осторожно.

Папа Римский Франциск прокомментировал развитие технологий. Это произошло в ходе технологической конференции в Ватикане, на которой присутствовали ученые, нобелевские лауреаты, руководители Facebook и других технологических компаний.

Понтифик призвал исследователей и разработчиков участвовать в открытых дискуссиях, посвященных новым технологиям. В частности, считает Франциск, следует обращать особое внимание на искусственный интеллект и нейросети.

Выдающиеся технологические разработки, особенно в области искусственного интеллекта, все серьезнее влияют на все аспекты человеческой деятельности. Именно поэтому открытые и конкретные обсуждения этой темы нужны сейчас больше, чем когда-либо.

[Искусственный интеллект может представлять опасность из-за использования для] распространения ложных данных и тенденциозных мнений, способных не только манипулировать мнением миллионов людей, но и пошатнуть основные институты, гарантирующие мирное гражданское сосуществование.

Если так называемый технологический прогресс станет врагом общественного блага, то прогресс может превратиться в регресс — возникнет новая форма варварства, когда власть снова будет принадлежать сильнейшим.

Папа Франциск

Как полагают журналисты, говоря о распространении ложных данных применительно к ИИ Папа Римский имел в виду в первую очередь дипфейки. Сейчас ролики, в которых нейросети заменяют лицо или голос одного человека на другого, создаются в основном в комических целях и выглядят не слишком качественно, но скоро ситуация может измениться.

Возможно, уже в ближайший год развитие технологий позволит создавать дипфейки, не отличимые от реальных видео. В начале сентября Facebook объявил о запуске инициативы, посвященной разработке инструментов, способных обнаруживать дипфейки.