Врачи Университета Вашингтона сообщили о случае серьезного отравления и психоза у мужчины, который следовал рекомендациям искусственного интеллекта ChatGPT. Этот уникальный, но тревожный случай ярко демонстрирует потенциальные опасности, связанные с неконтролируемым использованием технологий в сфере здравоохранения.
Пациент обратился в больницу с жалобами на ухудшение состояния, включая галлюцинации, паранойю и признаки сильного отравления. В ходе обследования было выявлено, что мужчина принимал бромид натрия в течение трёх месяцев. Он был вдохновлён идеей снизить потребление поваренной соли и, по совету чат-бота, заменил её на бромид натрия, который он приобрёл через интернет. Спустя время у него развились тяжелые психические расстройства, что привело к госпитализации.
Ранее бромид натрия использовался в медицинской практике для лечения некоторых неврологических состояний, однако в настоящее время этот препарат практически вышел из употребления из-за своей высокой токсичности и риска возникновения бромизма — токсического отравления бромидом. Врачи провели интенсивное лечение, включающее внутривенные вливания и применение антипсихотиков, чтобы стабилизировать состояние пациента. Через три недели мужчина был выписан в удовлетворительном состоянии.
Этот случай стал первым подтвержденным обстоятельством, когда рекомендации ИИ привели к столь тяжелым последствиям. Исследователи подчеркивают, что хотя системы вроде ChatGPT могут быть очень полезными для поиска информации, их советы часто могут быть неправильными или даже опасными, если их не критически анализировать и не консультироваться с медицинскими специалистами. Особенно важно помнить, что искусственный интеллект не обладает полнотой знания о клинических нюансах и медицинской безопасности.
Инцидент вызывает серьёзные вопросы о необходимости строгого контроля и этической ответственности при использовании ИИ в области здравоохранения. Врачи настоятельно рекомендуют не доверять советам по медицинским вопросам без консультации квалифицированных специалистов. А также, важно развивать стандарты и протоколы для безопасного внедрения подобных систем, чтобы избежать подобных опасных случаев в будущем.
Этот случай служит напоминанием о том, что даже самые прогрессивные технологии требуют ответственного использования. Важно помнить, что здоровье человека — дело серьёзное, и любые советы, особенно связанные с медикаментами, должны подтверждаться профессиональной медицинской экспертизой. Не исключено, что в будущем появятся более строгие механизмы проверки информации, предоставляемой ИИ, чтобы минимизировать риски для пользователей.
Таким образом, данный инцидент подчёркивает необходимость повышения осведомленности о возможных опасностях и необходимости ответственного подхода к использованию новых технологий в области медицины. Всячески нужно поощрять развитие электронных систем, которые при этом будут максимально безопасными и проверенными, а пользователям — критически оценивать полученную информацию и всегда консультироваться у специалистов.
