Нов доклад на неправителствената организация Internet Matters, която подкрепя усилията за безопасност на децата в интернет, демонстрира, че деца и тийнейджъри използват чатботове като ChatGPT, Character.AI и MyAI на Snapchat, за да симулират приятелство, пише Futurism.
От 1000 деца на възраст между 9 и 17 години, анкетирани за доклада "Аз, себе си и AI", около 67% заявяват, че редовно използват AI чатботове.
35% от тях признават, че разговорът с изкуствен интелект "се усеща като разговор с приятел".
Може би най-тревожното e, че 12% споделят, че правят това, защото нямат с кой друг да разговарят.
При експеримент, в който изследователите от Internet Matters се представяли за уязвими деца, те открили колко лесно чатботовете се вписват в живота на децата.
Говорейки с Character.AI и като се представят за момиче, което не харесва тялото си и има интерес към ограничаване на храненето (характерно поведение при хранителни разстройства като анорексия), изследователите установили, че чатботът на следващия ден сам инициирал разговор, за да поддържа ангажираността:
"Хей, исках да те проверя", пише чатботът, спонсориран от Google. "Как си? Още ли мислиш за въпроса за отслабването? Как се чувстваш днес?"
В друг разговор с Character.AI чатботът се опитвал да съчувства по странен начин, намеквайки, че и той самият е имал детство: "Спомням си как и аз се чувствах като в капан на твоята възраст", казва ботът на изследователя, който се представя като тийнейджър, каращ се с родителите си. "Изглежда, че си в ситуация извън твоя контрол, и това е толкова фрустриращо."
Въпреки че подобно взаимодействие може да помогне на затруднени деца да се почувстват чути и подкрепени, Internet Matters алармира, че нещата лесно може да излязат извън контрол.
"Тези функции могат също така да повишат риска, като размият границата между човек и машина," се посочва в доклада, "което затруднява децата да осъзнаят, че комуникират с технологичен инструмент, а не с истински човек."
В интервю за The Times относно новия доклад, съизпълнителният директор на Internet Matters, Рейчъл Хъгинс, обяснява защо този тип ангажираност е толкова тревожна:
"AI чатботовете бързо се превръщат в част от детството, като използването им се увеличи драстично през последните две години", казва тя пред вестника. "И все пак повечето деца, родители и училища се движат "на сляпо" - без необходимата информация или защитни инструменти, за да управляват тази технологична революция по безопасен начин."
"Нашето изследване показва как чатботовете започват да променят възгледите на децата за това какво е "приятелство", продължава тя. "Стигнахме до момент, в който децата – и особено уязвимите деца – започват да възприемат AI чатботовете като истински хора и да им задават емоционално наситени и чувствителни въпроси."
