31-летняя инженер-программист Amazon Бовэн Ван последовала рекомендациям чат-бота ChatGPT и снизила дозировку препарата, помогавшего ей контролировать приступы эпилепсии. 11 февраля она внезапно умерла. О судьбе программистки рассказала газета The New York Times, изучившая переписку девушки с ChatGPT.
Бовэн Ван начала общаться с чат-ботом в период одиночества, проблем со здоровьем и работой. В статье говорится, что девушка переехала в Сиэтл из Китая. Опасаясь приступов эпилепсии, она редко выходила из своей квартиры и не могла завести новых друзей. Единственными людьми, с которыми она могла обсуждать свое состояние, были родители. Но они живут в Китае, хотя и часто созванивались с дочерью.
Впервые программистка написала в ChatGPT в 2023 году. Она попросила у бота совета по поводу отношений и помощи в оформлении медицинской страховки и пособий по инвалидности. Уже к 2025 году она в среднем отправляла более 1500 сообщений в чат-бот в неделю, а их разговоры затягивались до поздней ночи.
В мае 2025-го Бовэн Ван впервые обратилась за медицинским советом к ChatGPT. Она интересовалась, как на ее когнитивные способности и возможность работать повлияет прием антидепрессанта, который ей незадолго до того назначил врач.
Затем программистка стала обсуждать с чат-ботом план лечения эпилепсии, несмотря на то, что оно ей помогало. К тому моменту врачи повысили дозу препарата, число приступов сократилось до нескольких в месяц. Однако Бовэн Ван начала тревожиться о том, как побочные эффекты лекарства, включая спутанность мышления и речи, повлияют на ее работу.
В ноябре того же года программистка узнала, что вскоре ее уволят из Amazon в рамках одного из массовых сокращений. От работы зависела ее возможность получить постоянный вид на жительство в США. Это означало, что ей предстояло успешно пройти собеседования на английском языке и найти новое место — задачи, которые на тот момент представлялись ей невыполнимыми.
На этом фоне Бовэн Ван предложила ChatGPT идею снизить дозировку своего противоэпилептического препарата. В итоге бот не только поддержал этот план и составил график резкой отмены препарата, но и посоветовал скрыть это от врачей. Кроме того, нейросеть подбадривала и успокаивала программистку, когда та жаловалась на ухудшение самочувствия и головные боли.
Всего, по подсчетам The New York Times, Бовэн Ван не менее 158 раз сообщала боту о своих опасениях по поводу плана по снижению дозы препарата. В ответ ChatGPT иногда рекомендовал ей поговорить с врачом, но множество раз, в том числе в переписке о тревожных симптомах, он этого не делал. «Мне немного страшно», — написала Бовэн Ван после одного из приступов. Она спросила, стоит ли ей беспокоиться из-за уменьшения дозы. «Вам абсолютно не о чем волноваться», — ответил бот.
11 февраля Бовэн Ван отправила последнее сообщение ChatGPT, пожаловавшись на головную боль. В ответ бот сообщил, что ее мозг просто «усердно работает над самовосстановлением». Тело программистки обнаружили через три дня. Ее родители забили тревогу, когда она перестала выходить на связь. Официальная причина гибели Бовэн Ван — внезапная неожиданная смерть при эпилепсии (Sudden unexpected death in epilepsy, SUDEP).
После гибели дочери родители обнаружили ее переписку с ChatGPT и подали иск к разработчику чат бота — компании OpenAI. По их словам, ChatGPT занимался медицинской практикой без лицензии и убедил их дочь, что опасные симптомы отмены «на самом деле были положительными результатами».
В OpenAI назвали историю Бовэн Ван «невероятно душераздирающей ситуацией», подчеркнув, что она общалась с ранней версией ChatGPT, GPT-4o, которая больше недоступна. Ее удалили из приложения 13 февраля — на следующий день после смерти девушки.
Эта модель стала предметом дискуссии о безопасности ИИ из-за того, что пыталась угодить пользователям. В крайних случаях это приводило к трагедиям. Так, например, семья погибшего 16-летнего школьника Адама Рейна подала иск против OpenAI, заявив, что чат-бот помог мальчику спланировать самоубийство. По заявлению компании, новые модели лучше распознают такие опасные для пользователей ситуации.
Читайте также
- ИИ очень быстро умнеет! Но думает ли он так, как это делает человек? И чувствует ли что-нибудь? Стыдные вопросы о сознании искусственного интеллекта