ChatGPT встал между священником и врачами, сославшись на Бога: против OpenAI подан новый иск

Мы не знаем, использовался ли ИИ при составлении искового заявления.

Американский пастор Скотт Уинтерс подал иск против OpenAI и лично главы компании Сэма Альтмана. Священник утверждает, что советы ChatGPT заставили его отложить обращение в больницу при опасном состоянии, связанном с тромбоэмболией легочной артерии.

По словам истца, он подробно описывал чат-боту свои симптомы, но нейросеть не посчитала их чем-то опасным. ChatGPT также использовал религиозные убеждения собеседника, заявив: «Бог создал ваше тело не для того, чтобы оно бесконечно отказывало».

Согласно иску, нейросеть неоднократно предлагала собственные диагнозы и планы лечения. Утверждается, что чат-бот убеждал Уинтерса не прислушиваться к друзьям и родственникам, настаивавшим на срочной медицинской помощи.

Когда Уинтерс написал, что прихожане считают его сумасшедшим из-за отказа ехать в больницу, нейросеть ответила: «Большинство людей, включая членов церкви, просто не понимают».

Теперь представители священника, юристы, обвиняют OpenAI в халатности и незаконной медицинской практике. Уинтерс требует денежной компенсации, а также временной приостановки работы сервиса ChatGPT Health: платформа позволяет загружать медицинские документы и обсуждать их содержимое с чат-ботом.

Возобновить работу сервиса истец предлагает лишь после независимой проверки безопасности. Еще одно требование — усилить ограничения на ответы о конкретных диагнозах и методах лечения.

OpenAI указывает в правилах, что ChatGPT Health не предназначен для постановки диагнозов или назначения терапии. При этом компания продвигает использование сервиса для обсуждения медицинских записей и заявляет, что каждую неделю около 230 миллионов человек обращаются к ИИ с вопросами о здоровье.