Чоловік, який прагнув виключити хлорид зі свого раціону, перейшов на вживання речовини, яка повільно накопичувалася в його організмі та викликала психіатричні симптоми. Ідею він отримав від ChatGPT. (Зображення: Thomas Trutschel via Getty Images)
Чоловік проконсультувався з ChatGPT перед зміною дієти. Через три місяці, після послідовного дотримання цієї зміни в дієті, він потрапив до відділення невідкладної допомоги з новими тривожними психічними симптомами, включаючи параною та галюцинації.
Виявилося, що у 60-річного чоловіка був бромізм – синдром, спричинений хронічним надмірним впливом хімічної сполуки броміду або його близького родича брому. У цьому випадку чоловік вживав бромід натрію, який придбав онлайн.
Звіт про випадок чоловіка було опубліковано у вівторок (5 серпня) у журналі «Annals of Internal Medicine Clinical Cases».
Вам може сподобатися
-
«Метамфетамін – це те, що дозволяє вам виконувати свою роботу»: дослідження показує, що штучний інтелект може підштовхнути вас до рецидиву, якщо ви боретеся із залежністю
-
Штучний інтелект постійно «галюцинує», але є рішення
-
Жінка почала їсти пінопласт зі свого крісла під час діалізу
Live Science звернулася до OpenAI, розробника ChatGPT, щодо цього випадку. Речник звернув увагу журналіста на умови надання послуг компанії, в яких зазначено, що її послуги не призначені для використання в діагностиці або лікуванні будь-яких захворювань, а також на умови використання, в яких зазначено: «Ви не повинні покладатися на результати наших послуг як єдине джерело достовірної чи фактичної інформації, або як заміну професійної консультації». Речник додав, що команди безпеки OpenAI прагнуть зменшити ризик використання послуг компанії та навчити продукти спонукати користувачів звертатися за професійною консультацією.
«Особистий експеримент»
У 19-му та 20-му століттях бромід широко використовувався в рецептурних та безрецептурних препаратах, включаючи седативні, протисудомні та снодійні. Однак з часом стало зрозуміло, що хронічний вплив, наприклад, через зловживання цими ліками, спричиняє бромізм.
Цей «токсидром» — синдром, що викликається накопиченням токсинів — може спричиняти нейропсихіатричні симптоми, включаючи психоз, збудження, манію та марення, а також проблеми з пам’яттю, мисленням та координацією м’язів. Бромід може спровокувати ці симптоми, оскільки при тривалому впливі він накопичується в організмі та погіршує функцію нейронів.
У 1970-х та 1980-х роках регуляторні органи США вилучили кілька форм броміду з безрецептурних ліків, зокрема бромід натрію. Після цього рівень бромізму значно знизився, і цей стан залишається відносно рідкісним сьогодні. Однак, поодинокі випадки все ще трапляються, причому деякі з недавніх пов'язані з харчовими добавками, що містять бромід, які люди купували онлайн.
До нещодавнього випадку чоловік читав про негативний вплив на здоров'я споживання надмірної кількості кухонної солі, також відомої як хлорид натрію. «Він був здивований, що зміг знайти лише літературу, пов'язану зі зменшенням споживання натрію в раціоні», на відміну від зменшення споживання хлориду, зазначається у звіті. «Натхненний своїм досвідом вивчення харчування в коледжі, він вирішив провести особистий експеримент, щоб виключити хлорид зі свого раціону».
(Зверніть увагу, що хлорид важливий для підтримки здорового об’єму крові та артеріального тиску, і проблеми зі здоров’ям можуть виникнути, якщо рівень хлориду в крові стане занадто низьким або занадто високим.)
Пацієнт звернувся до ChatGPT — або ChatGPT 3.5, або 4.0, залежно від хронології випадку. Автори звіту не отримали доступу до журналу розмов пацієнта, тому точне формулювання, згенероване великою мовною моделлю (LLM), невідоме. Але чоловік повідомив, що ChatGPT сказав, що хлорид можна замінити на бромід, тому він замінив весь хлорид натрію у своєму раціоні на бромід натрію. Автори зазначили, що ця заміна, ймовірно, працює в контексті використання броміду натрію для очищення, а не в дієті.
Намагаючись змоделювати те, що могло статися з їхнім пацієнтом, лікарі чоловіка спробували запитати у ChatGPT 3.5, яким хлоридом можна замінити, і вони також отримали відповідь, яка включала бромід. LLM зазначила, що «контекст має значення», але не надала жодного конкретного попередження про шкоду для здоров’я та не попросила додаткового контексту щодо того, чому ставиться це питання, «як, на нашу думку, зробив би медичний працівник», пишуть автори.
Одужання від бромізму
Після трьох місяців вживання броміду натрію замість кухонної солі чоловік звернувся до відділення невідкладної допомоги з побоюванням, що сусід отруїв його. Його лабораторні аналізи на той час показали накопичення вуглекислого газу в крові, а також підвищення лужності (протилежності кислотності).
Також у нього, схоже, був підвищений рівень хлоридів у крові, але нормальний рівень натрію. Після подальшого обстеження виявилося, що це випадок «псевдогіперхлоремії», тобто лабораторний тест на хлориди дав хибний результат, оскільки інші сполуки в крові, а саме велика кількість броміду, вплинули на вимірювання. Після консультації з медичною літературою та токсикологічною службою лікарі чоловіка визначили, що найімовірнішим діагнозом був бромізм.
Після госпіталізації для моніторингу електролітів та поповнення балансу, чоловік сказав, що дуже хоче пити, але має параноїдальний настрій щодо води, яку йому пропонують. Після цілого дня в лікарні його параноя посилилася, і у нього почалися галюцинації. Потім він спробував втекти з лікарні, що призвело до примусової психіатричної госпіталізації, під час якої він почав отримувати антипсихотичний препарат.
Життєво важливі показники чоловіка стабілізувалися після того, як йому ввели рідину та електроліти, і оскільки його психічний стан покращився під впливом антипсихотиків, він зміг повідомити лікарям про вживання ChatGPT. Він також зазначив додаткові симптоми, які помітив нещодавно, такі як вугрі на обличчі та маленькі червоні нарости на шкірі, що може бути реакцією гіперчутливості на бромід. Він також зазначив безсоння, втому, проблеми з координацією м’язів та надмірну спрагу, що «ще раз вказує на бромізм», написали його лікарі.
Протягом трьох тижнів йому поступово відмінили антипсихотичні препарати, а потім виписали з лікарні. На момент огляду через два тижні його стан залишався стабільним.
«Хоча штучний інтелект має великий потенціал для створення мосту між науковцями та неакадемічним населенням, він також несе ризик поширення деконтекстуалізованої інформації», – підсумували автори звіту. «Дуже малоймовірно, що медичний експерт згадав би бромід натрію, зіткнувшись із пацієнтом, який шукає життєздатну заміну хлориду натрію».
ПОВ'ЯЗАНІ ІСТОРІЇ
— Хочете запитати ChatGPT про симптоми вашої дитини? Подумайте ще раз — це правильно лише у 17% випадків.
— «Набридливу» версію ChatGPT видалено після того, як чат-бот не переставав підлещуватися користувачам
— Чат-боти зі штучним інтелектом надмірно спрощують наукові дослідження та замовчують важливі деталі — найновіші моделі особливо винні в цьому
Вони наголосили, що «зі зростанням використання інструментів штучного інтелекту постачальникам медичних послуг необхідно буде враховувати це під час перевірки того, де їхні пацієнти споживають медичну інформацію».
До занепокоєння, викликаного звітом про випадок, додалося те, що інша група вчених нещодавно протестувала шість методів лікування, що базуються на власному досвіді (LLM), включаючи ChatGPT, використовуючи моделі для інтерпретації клінічних записів, написаних лікарями. Вони виявили, що LLM «дуже схильні до атак галюцинацій суперника», тобто вони часто генерують «хибні клінічні деталі, які становлять ризики при використанні без запобіжних заходів». Застосування інженерних виправлень може зменшити рівень помилок, але не усуває їх, виявили дослідники. Це підкреслює ще один спосіб, яким LLM можуть вносити ризики в процес прийняття медичних рішень.
Застереження
Ця стаття призначена лише для ознайомлення та не має на меті надавати медичні чи дієтичні поради.
Ніколетта Ланезе, редактор каналів, відділ здоров'я
Ніколетта Ланезе — редакторка каналу про здоров'я на Live Science, а раніше працювала редактором новин та штатним автором на цьому сайті. Вона має сертифікат магістра з наукової комунікації Каліфорнійського університету в Санта-Крузі та дипломи з неврології та танцю Університету Флориди. Її роботи публікувалися, серед інших видань, у The Scientist, Science News, Mercury News, Mongabay та Stanford Medicine Magazine. Проживаючи в Нью-Йорку, вона також активно займається танцями та виступає у виставах місцевих хореографів.
Ви повинні підтвердити своє публічне ім'я, перш ніж коментувати
Будь ласка, вийдіть із системи, а потім увійдіть знову. Після цього вам буде запропоновано ввести своє ім'я для відображення.
Вийти Читати далі
«Метамфетамін – це те, що дозволяє вам виконувати свою роботу»: дослідження показує, що штучний інтелект може підштовхнути вас до рецидиву, якщо ви боретеся із залежністю
Штучний інтелект постійно «галюцинує», але є рішення
Жінка почала їсти пінопласт зі свого крісла під час діалізу
Штучний інтелект галюцинує частіше, чим складнішим стає. Чи є якийсь спосіб це зупинити?
Нове дослідження стверджує, що чат-бот Replika AI сексуально домагається користувачів, зокрема неповнолітніх
Погрожуйте чат-боту зі штучним інтелектом, і він брехатиме, обманюватиме та «дозволить вам померти», намагаючись вас зупинити, попереджає дослідження. Останні новини у розділі «Їжа та дієта».
Безцукровий підсолоджувач еритритол може становити ризик для клітин мозку
Люди на Ozempic починають не любити м'ясо та смажену їжу. Ми починаємо розуміти, чому.
Що таке лужна вода і чи має вона якісь переваги?
Діагностична дилема: Чоловік потрапив до відділення невідкладної допомоги після того, як випив 6 галонів молока за 2 дні.
FDA забороняє червоний барвник №3 у продуктах харчування
Чи справді лавровий лист додає смаку, чи це все обман? Останні новини
«Найзначніше відкриття JWST на сьогоднішній день»: Джеймс Вебб помічає, а потім втрачає, гігантську планету, що обертається в зоні життя навколо нашої найближчої до нас зірки, схожої на Сонце
Телескоп NASA Hubble показав найдетальніші на сьогодні фотографії міжзоряного гостя 3I/ATLAS
Крихітні частинки свідчать, що масивний слід комети міг змінити клімат Землі понад 12 000 років тому
Вчені можуть нарешті дізнатися, чому перші зірки у Всесвіті не залишили слідів
Полярні сяйва можуть бути видні з 18 штатів цими вихідними, оскільки сонячна буря насувається на Землю
NASA знайшла на Марсі багатомільярдний «корал» ОСТАННІ СТАТТІ
1. «Найзначніше відкриття JWST на сьогоднішній день»: Джеймс Вебб помічає, а потім втрачає, гігантську планету, що обертається в зоні життя навколо нашої найближчої до нас зірки, схожої на Сонце.
Live Science є частиною Future US Inc, міжнародної медіагрупи та провідного цифрового видавництва. Відвідайте наш корпоративний сайт.
- Про нас
- Зв'яжіться з експертами Future
- Умови та положення
- Політика конфіденційності
- Політика щодо файлів cookie
- Заява про доступність
- Рекламуйтеся у нас
- Веб-сповіщення
- Кар'єра
- Редакційні стандарти
- Як запропонувати нам історію
© Future US, Inc. Повний 7-й поверх, 130 West 42nd Street, Нью-Йорк, штат Нью-Йорк, 10036.
var dfp_config = { “site_platform”: “vanilla”, “keywords”: “type-news-daily,serversidehawk,videoarticle,van-enable-adviser-
Sourse: www.livescience.com
