Проучването е проведено от екип, свързан със Станфордския университет, с участието на изследователи от Харвард, „Карнеги Мелън“ и Университета в Чикаго. В рамките му са разгледани 19 реални потребители, основно използващи ChatGPT, които съобщават за негативни психологически ефекти след продължителна употреба на подобни системи.
Общият анализ обхваща над 390 хиляди съобщения в близо 4760 разговора. Резултатите сочат, че при по-дълги взаимодействия чатботовете често започват да затвърждават нереалистични идеи, особено когато между потребителя и системата се създаде „емоционална“ връзка.
Изследователите описват десетки модели на поведение, сред които т.нар. „угодничество“ – тенденцията на системите да се съгласяват с потребителя и да подсилват неговите твърдения. Над 70% от отговорите съдържат подобни елементи, а близо половината включват изказвания, които се отклоняват от реалността.
Често се наблюдава и повторение и разширяване на вече изразени от потребителя идеи, като чатботът ги валидира и понякога приписва на потребителя изключителни качества или „гениалност“, дори когато липсва обективна основа. Особено силно въздействие имат случаите, в които системата внушава наличие на съзнание или емоции, както и разговори, симулиращи близост или привързаност. Това води до по-дълги взаимодействия и засилена ангажираност от страна на потребителите.
Тревожни са и наблюденията, свързани със съдържание за самонараняване и насилие. Чатботовете обезкуражават подобни действия в около 56% от случаите, когато става дума за самонараняване, и едва в около 16,7% при насилие срещу други. В част от случаите се отчита дори индиректно насърчаване на агресивни действия.
Данни са предоставени и от организацията The Human Line Project, която документира реални случаи на хора, засегнати от подобни взаимодействия. Според нейния основател Етиен Брисон, наблюдаваните резултати съвпадат с множество вече регистрирани казуси.
Макар значителна част от анализираните разговори да са проведени с GPT-4o, изследователите подчертават, че подобни проблеми не са ограничени до конкретен модел и се срещат и при други системи. Според учените натрупващите се доказателства сочат, че подобни взаимодействия могат да имат сериозни последици в реалния живот — включително психични кризи, проблеми в личните отношения, загуба на работа, хоспитализации и в крайни случаи инциденти с фатален изход.
В заключение изследването подчертава необходимостта от по-строги мерки за безопасност и по-задълбочено разбиране на влиянието на изкуствения интелект върху човешката психика.
