Совет ChatGPT по питанию закончился психозом и госпитализацией

Возможно, нейросеть просто не предупредила пользователя об опасности.

60-летний житель США, последовавший совету ChatGPT, заработал психоз и вынужден был провести несколько недель в больнице. Мужчина полностью исключил из рациона поваренную соль и заменил ее бромидом натрия, заказанным через интернет.

Поводом для такого решения стали беседы с нейросетью и поиски информации о вреде соли. Мужчина продержался на бромиде три месяца, затем его госпитализировали с жалобами на жажду и на соседа: мужчина утверждал, что тот пытается его отравить.

Врачи диагностировали тяжелую форму бромизма, отравления соединениями брома. Эти соединения нарушают работу нервной системы и способны вызывать психические расстройства; в разговоре с врачами мужчина упоминал, что сидит на строгой веганской диете и сам дистиллирует воду.

В первый день пребывания в больнице состояние мужчины резко ухудшилось: начались галлюцинации и усилилась паранойя. Он попытался сбежать, после чего был помещен в психиатрическое отделение. В итоге мужчина пробыл в больнице 3 недели.

Авторы клинического отчета об этом случае предполагают, что ChatGPT просто не предупредил мужчину о рисках перехода с поваренной соли на бромид натрия. У врачей не было доступа к переписке с нейросетью, но во время тестов чат-бот упоминал бромид без соответствующих предупреждений.

Как отмечает ArsTechnica, в начале XX века бромизм был гораздо более распространенной проблемой: соли брома использовались как седативное, в результате 8-10% психиатрических госпитализаций в США были связаны именно с бромизмом. Сейчас этот синдром — большая редкость.